对于计算任务负载来说，越是专用，效率就越高，谷歌的 TPU 就是其中的一个典型例子。它自 2015 年开始在谷歌数据中心部署后，已经发展到了第 7 代。目前的最新产品不仅使用了最先进的制程工艺打造，也在架构上充分考虑了对于机器学习推理任务的优化。TPU 的出现，促进了 Gemini 等大模型技术的进展。
这种芯片为何性能如此强大？或许最直接的了解方法就是尝试复刻它。近日，来自加拿大西安大略大学的工程师 Surya Sure 等人宣布已经利用暑假时间构建出了 TinyTPU：一种开源的 ML 推理、训练芯片。
项目 GitHub 地址：https://github.com/tiny-tpu-v2/tiny-tpu
参考内容：
https://www.tinytpu.com/
https://x.com/suryasure05/status/1957518913648095376
0 件のコメント:
コメントを投稿