Ironwood
Ironwood是谷歌最强大、最节能的TPU,专为支持推理AI模型而设计。
列在类别中:
硬件



描述
Ironwood是谷歌云第七代张量处理单元(TPU),专门为推理任务设计。它是迄今为止最强大、能效最高的TPU,能够支持大规模的先进AI模型。Ironwood使得主动生成洞察和解释成为可能,超越了传统的响应式AI模型。Ironwood的配置可达到9216个芯片,为苛刻的AI工作负载提供无与伦比的性能、成本和能效。
如何使用 Ironwood?
要使用Ironwood,开发人员可以利用谷歌的Pathways软件栈高效地利用多个Ironwood TPU的计算能力,实现AI应用的无缝扩展。
核心功能 Ironwood:
1️⃣
为AI工作负载提供高性能和能效
2️⃣
支持大型语言模型和高级推理任务
3️⃣
增强的内存容量和带宽以处理更大数据集
4️⃣
先进的芯片间互连(ICI)以实现高效通信
5️⃣
针对训练和推理工作负载进行了优化
为什么要使用 Ironwood?
# | 使用案例 | 状态 | |
---|---|---|---|
# 1 | 训练大型语言模型(LLMs) | ✅ | |
# 2 | 在AI应用中运行高级推理任务 | ✅ | |
# 3 | 处理金融和科学领域的大型数据集 | ✅ |
开发者 Ironwood?
谷歌云是领先的云计算服务提供商,以其先进的AI能力和基础设施而闻名。凭借十多年的AI计算交付经验,谷歌云将尖端技术整合到其服务中,支持全球数十亿用户。