亚马逊暂停一款芯片开发

让建站和SEO变得简单

让不懂建站的用户快速建站,让会建站的提高建站效率!

栏目分类亚马逊暂停一款芯片开发

你的位置:经济观察网 > 经济评论 >

亚马逊暂停一款芯片开发

发布日期:2024-12-06 10:23    点击次数:159

(原标题:亚马逊暂停一款芯片开发)

淌若您但愿可以雷同碰头,宽待标星保藏哦~

开头:本色编译自日经,谢谢。

亚马逊已住手开发 Inferentia 东说念主工智能芯片,转而专注于用于训练东说念主工智能模子的半导体,该公司以为这一限制为与东说念主工智能芯片辅导者 Nvidia 竞争提供了更好的路线。

自 2018 年文牍插足 AI 芯片限制以来,该公司的云部门亚马逊收集就业 (AWS) 依然开发了用于推理辩论的定制芯片 Inferentia 和用于 AI 模子训练的 Trainium 芯片。

亚马逊的云就业已将这两条居品线提供给东说念主工智能公司。但 AWS 盘算总监 Rahul Kulkarni 周三对日经新闻和其他新闻媒体暗示,“居品线将会会通。”

Kulkarni 暗示:“咱们将专注于 Trainium,提供推理和训练性能。”

AWS 将络续支柱现时居品线,包括 2022 年发布的 Inferentia2 芯片,“但咱们不会在 Inferentia 上积极开发任何进一步的功能,”Kulkarni 暗示。

Trainium 领有更大的内存容量,支柱更世俗的数据次第,还包含使用多台就业器同期处分大齐数据时结束快速盘算和通讯的机制。

Inferentia 专注于以较低的资本执行较极少的盘算。跟着生成式东说念主工智能变得越来越先进,训练和推理齐需要更大的盘算量。因此,使用不同芯片的公正正在迟缓散失。

Kulkarni 暗示:“通过将 Trainium 行为单一搭伙的居品,咱们可以达到疏通水平的优化和资本效益上风。”

周二,在拉斯维加斯举行的年度科技嘉会上,亚马逊文牍 Trainium2 芯片现已上市。该公司还公布了在 2025 年下半年发布第三代 Trainium3 芯片的筹谋。

据亚马逊先容,Trainium3 将接收先进的 3 纳米芯片制造工艺制造,盘算性能将比 Trainium2 提高一倍。

亚马逊的推敲是苟且英伟达在东说念主工智能芯片市集的主导地位,咫尺英伟达占据群众约 90% 的份额。亚马逊一直在向云客户任性扩充 Trainium2,强调该芯片的运行资本低于英伟达居品。

周二,苹果暗示将使用 Trainium2 芯片进行我方的 AI 开发。好意思国 AI 初创公司 Anthropic 正在从亚马逊取得 80 亿好意思元投资,该公司正在取得数十万个 Trainium2 芯片,以协助其生成式 AI 模子的开发。

AWS的AI芯片,有何不同?

在德克萨斯州奥斯汀的一栋莫得秀美的办公楼里,两个斗室间里放着极少的亚马逊职工假想了两种用于训练和加快生成式 AI 的微芯片。这些定制芯片 Inferentia 和 Trainium 为 AWS 客户提供了一种在Nvidia上训练大型谈话模子的替代决议,因为GPU的采购变得越来越阻难况兼资本越来越高。

亚马逊收集方面曾暗示:“全全国齐但愿领有更多用于生成 AI 的芯片,不管是 GPU 照旧亚马逊我方假想的芯片。我以为,咱们比地球上任何其他公司齐更有能力提供咱们的客户共同需要的容量。”

诚然AWS在大模子方面进展不是很快,但从长久来看,亚马逊的定制硅片可以为其在生成东说念主工智能方面带来上风。

“我以为实在的离别在于他们所具备的时间能力,”他说。“因为你猜如何着?微软莫得 Trainium 或 Inferentia,”他说。

早在 2013 年,AWS 就悄然运转坐蓐定制硅片,其时的专用硬件名为 Nitro。咫尺,它是产量最高的 AWS 芯片。亚马逊告诉 CNBC,每台 AWS 就业器中至少有一台这么的芯片,咫尺使用的就业器总和进步 2000 万台。

2015 年,亚马逊收购了以色列芯片初创公司 Annapurna Labs。随后在 2018 年,亚马逊推出了基于 Arm 的就业器芯片 Graviton ,与AMD和英特尔等巨头的 x86 CPU 竞争。

“Arm 的就业器总销售额可能占到 10% 傍边,其中很大一部分翌日自亚马逊。因此,在 CPU 方面,他们阐扬至极可以,”Bernstein Research 高等分析师 Stacy Rasgon 暗示。

此外,在 2018 年,亚马逊推出了专注于 AI 的芯片。两年前,谷歌文牍推出首款张量处分器单位 (TPU)。微软尚未文牍其一直在研发的 Athena AI 芯片,据报说念,该芯片是与 AMD 配合开发的。

CNBC 参不雅了位于德克萨斯州奥斯汀的亚马逊芯片实验室,Trainium 和 Inferentia 等于在这里开发和测试的。居品副总裁 Matt Wood 发挥了这两款芯片的用途。

“机器学习分为这两个不同的阶段。因此,你要训练机器学习模子,然后针对这些训练好的模子进行推理,”Wood 说。“与在 AWS 上训练机器学习模子的任何其他神志比较,Trainium 在性价譬如面提供了约 50% 的晋升。”

Trainium 于 2021 年头度上市,此前 Inferentia 于 2019 年发布,咫尺已是第二代。

Inferentia 允许客户“提供相等低资本、高抵赖量、低蔓延的机器学习推理,也等于当你在生成式 AI 模子中输入教导时的所有辩论,所有这些齐会在生成式 AI 模子中进行处分并给出反映”,Wood 说。

不外,咫尺 Nvidia 的 GPU 在训练模子方面仍占主导地位。7 月,AWS推出了搭载 Nvidia H100 的新式 AI 加快硬件。

“Nvidia 芯片领有一个庞杂的软件生态系统,在畴前 15 年里,它依然围绕着芯片开拓了一个其他公司齐莫得的生态系统,”Rasgon 说。“咫尺东说念主工智能的最大赢家是 Nvidia。”

https://asia.nikkei.com/Business/Technology/Artificial-intelligence/Amazon-halts-Inferentia-AI-chip-development-as-it-takes-on-Nvidia

半导体极品公众号保举

专注半导体限制更多原创本色

心情群众半导体产业动向与趋势

*免责声明:本文由作家原创。著述本色系作家个东说念主不雅点,半导体行业不雅察转载仅为了传达一种不同的不雅点,不代表半导体行业不雅察对该不雅点赞同或支柱,淌若有任何异议,宽待关系半导体行业不雅察。

今天是《半导体行业不雅察》为您共享的第3968期本色,宽待心情。

『半导体第一垂直媒体』

及时 专科 原创 深度

公众号ID:icbank

心爱咱们的本色就点“在看”共享给小伙伴哦