tt-metal学习资料汇总-神经网络算子库和底层硬件编程模型

<h2>tt-metal项目简介</h2> <p>tt-metal是Tenstorrent公司开发的开源项目,包括两个主要组件:</p> <ul> <li>TT-NN:一个Python和C++的神经网络算子库</li> <li>TT-Metalium:用于Tenstorrent硬件的底层内核编程模型</li> </ul> <p>该项目旨在充分发挥Tenstorrent AI加速器硬件的性能,为开发者提供高效的深度学习模型部署和优化工具。</p> <img src="https://yellow-cdn.veclightyear.com/b66f4b6e/bc6db188-99b7-4b02-818b-7375c10d1f4c.png" alt="TT-NN logo" /> <h2>主要学习资源</h2> <h3>1. 官方文档</h3> <ul> <li><a href="https://docs.tenstorrent.com/tt-metalium/latest/tt_metal/apis/index.html">TT-NN API参考文档</a></li> <li><a href="https://github.com/tenstorrent/tt-metal/blob/main/METALIUM_GUIDE.md">TT-Metalium编程指南</a></li> </ul> <h3>2. 模型示例</h3> <p>tt-metal提供了多个深度学习模型的示例实现,包括:</p> <ul> <li><a href="https://github.com/tenstorrent/tt-metal/blob/main/models/demos">LLM模型</a></li> <li><a href="https://github.com/tenstorrent/tt-metal/blob/main/models/demos">CNN模型</a></li> <li><a href="https://github.com/tenstorrent/tt-metal/blob/main/models/demos">NLP模型</a></li> </ul> <p>这些示例展示了如何使用tt-metal部署和优化各类深度学习模型。</p> <h3>3. 技术报告</h3> <p>项目提供了多篇深入分析tt-metal技术细节的报告:</p> <ul> <li><a href="https://github.com/tenstorrent/tt-metal/blob/main/tech_reports/AdvancedPerformanceOperationsForModels/AdvancedPerformanceOptimizationsForModels.md">模型性能优化</a></li> <li><a href="https://github.com/tenstorrent/tt-metal/blob/main/tech_reports/Programming%20Mesh%20of%20Devices/Programming%20Mesh%20of%20Devices%20with%20TT-NN.md">设备网格编程</a></li> <li><a href="https://github.com/tenstorrent/tt-metal/blob/main/tech_reports/matrix_engine/matrix_engine.md">矩阵引擎</a></li> <li><a href="https://github.com/tenstorrent/tt-metal/blob/main/tech_reports/tensor_layouts/tensor_layouts.md">张量布局</a></li> <li><a href="https://github.com/tenstorrent/tt-metal/blob/main/tech_reports/data_formats/data_formats.md">数据格式</a></li> </ul> <p>这些报告详细介绍了tt-metal的核心技术,有助于深入理解项目原理。</p> <img src="https://yellow-cdn.veclightyear.com/b66f4b6e/2571ac06-f5fc-490c-8695-53f329f952da.png" alt="TT-Metalium logo" /> <h2>快速入门</h2> <p>对于新手用户,可以从以下步骤开始:</p> <ol> <li>克隆项目仓库</li> <li>阅读<a href="https://github.com/tenstorrent/tt-metal/blob/main/INSTALLING.md">安装指南</a>完成环境配置</li> <li>学习<a href="https://docs.tenstorrent.com/tt-metalium/latest/tt_metal/examples/index.html">简单内核示例</a>熟悉基本用法</li> <li>参考模型示例尝试部署自己的模型</li> </ol> <h2>社区资源</h2> <ul> <li><a href="https://github.com/tenstorrent/tt-metal">GitHub仓库</a>:项目主页,可以查看源码、提交问题等</li> <li><a href="https://discord.gg/tvhGzHQwaj">Discord社区</a>:与其他开发者交流讨论</li> <li><a href="https://tenstorrent.com">Tenstorrent官网</a>:了解更多硬件和公司信息</li> </ul> <p>希望这份学习资料汇总能帮助大家更好地入门和使用tt-metal项目。如有任何问题,欢迎在GitHub上提issue或加入Discord社区讨论。</p>