消息称亚马逊二代自研模型训练芯片 Trainium2 有望下月广泛推出
原标题:消息称亚马逊二代自研模型训练芯片 Trainium2 有望下月广泛推出
导读:
在前不久的奇瑞全球创新大会上奇瑞发布了全新的鲲鹏电池按照官方给出的数据这款未来会提供给星纪元的电池可以做到充电行驶充电倍率高达这样的充电速度到之家月日消息英媒金融时报当地时间今...
在前不久的2024奇瑞全球创新大会上,奇瑞发布了全新的鲲鹏电池。按照官方给出的数据,这款未来会提供给星纪元的电池可以做到“充电5min行驶400km”,充电倍率高达6C。 这样的充电速度到....
IT之家 11 月 12 日消息,英媒《金融时报》当地时间今日表示,亚马逊有望于 12 月宣布其第二代自研 AI 模型训练芯片 Trainium2 的“广泛可用”(widespread availability)。
Trainium2 芯片于去年末的 AWS 2023 re:Invent 全球大会上发布。亚马逊表示与 代产品相比该芯片训练速度提升多达 4 倍,能效提升多达 2 倍,内存容量则达此前 3 倍,能在 EC2 UltraClusters 中扩展至多达 10 万个芯片,可以在极短的时间内训练基础模型和大语言模型。
Trainium2 芯片由亚马逊在 2015 年以 3500 万美元(IT之家备注:当前约 2.53 亿元人民币)收购的芯片设计部门 Annap na Labs 牵头负责,据悉已在接受包括 Anthropic、D ab cks、Stockmark 三家 AI 创企以及德国电信、日本理光在内的多个客户的 。
除亚马逊外,微软、谷歌、Meta 等大型科技企业也在自行开发各类 AI 推理或训练芯片,以减少对于英伟达硬件方案的依赖。