侵权投诉
订阅
纠错
加入自媒体

亚马逊年底再放大招:硬刚微软,合作英伟达

太平洋时间11月28日,亚马逊云科技(Amazon Web service,AWS)在美国拉斯维加斯举办的2023 re:Invent全球大会上宣布推出专为训练人工智能系统而设计的第二代芯片Trainium2,以及机器学习训练Graviton4处理器


亚马逊推出新 AI 量子芯片 Trainium2 及 Graviton4 处理器

据介绍,Graviton4和Trainium2是亚马逊云科技自研芯片的最新创新。亚马逊云科技每一代自研芯片都持续提升性价比和能效,为客户提供了基于AMDIntel以及英伟达等的最新芯片和实例组合之外的更多选择,从而使Amazon Elastic Compute Cloud (Amazon EC2)可以为客户虚拟运行几乎所有应用和工作负载。

亚马逊计算部门资深副总裁 Peter DeSantis,推出了为生成式AI和机器学习训练设计的云端AI芯片AWS Trainium2,比第一代Trainium芯片相比训练速度提升多达4倍,,可以在极短的时间训练基础模型(FMs)和大语言模型(LLMs),同时能效提升多达2倍,可提供65ExaFlops超算性能。

Peter DeSantis 还指出,Trainium2 芯片采用了被动纠错方法,已可将错误率降低 100 倍,即千分之一的错误率“0.1%”,而硬件过热现象相对预期减少 6 倍。不过,虽然新芯片在量子纠错方面有重大的进展,但现在量子计算依然处于“非常早期的阶段”。

AWS表示,由10万个Trainium芯片组成的集群可以在数周而不是数月内训练出3000亿参数的大语言模型,这大约是OpenAI的大语言模型GPT-3大小的1.75倍。


亚马逊云科技计算和网络副总裁大卫·布朗(David Brown)表示,最新推出的Graviton4是AWS迄今最高能效的自研数据中心处理器。其基于Arm架构,相比Graviton3,处理速度快30%,独立核心增加50%,内存带宽增加了75%,能将数据库应用提速40%,将处理大型Java应用的速度提升45%,为在Amazon EC2上运行的工作负载提供最佳性能和能效,还对所有高速物理硬件接口加密来提高安全性。AWS客户现可开始测试该处理器,由Graviton4支持的R8g实例已推出预览版,该实例计划在未来几个月内全面上市。


AWS硬刚微软,紧随其后,不甘示弱

众所周知,AWS和微软正在云计算这片战场打的火热,两家都在开发定制芯片上进行了大量投资。而11月中旬,微软前脚刚高调发布首款人工智能芯片Maia 100和Azure Cobalt 100,代表了微软在人工智能和通用计算领域的最新技术突破。后脚AWS就推出了自家的两款芯片,这浓浓的火药味大家隔着屏幕都闻到了。

AWS还在这次全球大会上推出生成式AI助手Amazon Q,支持聊天、生成内容、编程、插件及定制开发,可谓硬刚微软的Copilot,并且将数据分析平台Amazon QuickSight、呼叫中心服务Amazon Connect等应用接入Amazon Q,使其具备生成式AI的能力,真的是在硬刚微软的Copilot。

AWS与英伟达扩大战略合作,共建AI基础设施

而这两家不仅推出自研芯片,也都提供对英伟达最新AI芯片H200的访问,微软在推出人工智能芯片Maia 100,就表示微软云(Azure)将配备英伟达H200 GPU

英伟达创始人兼CEO黄仁勋到场,宣布英伟达与AWS扩大战略合作,针对生成式AI推出全新超级计算基础设施、软件及服务,推动客户在生成式AI(Generative AI)的创新。

亚马逊云科技首席执行官亚当·塞利普斯基(Adam Selipsky)表示,“亚马逊云科技与英伟达合作已经超过13年,我们的合作起源于推出全球首个配置GPU(图形处理器)的云端实例。现在我们推出最广泛的英伟达GPU解决方案,可用于各种工作负载,包括绘图、游戏、HPC高性能计算、机器学习,直到现在的生成式AI。”

黄仁勋也表示,“生成式AI正改变各种云端负载,为多元内容创作在底层注入加速计算动能。我们的共同目标是为每个客户提供具有成本效益的先进生成式AI,为此英伟达与亚马逊云科技在整个计算堆栈展开合作,横跨AI基础设施、加速库(acceleration libraries)、基础模型以及生成式AI服务。”并且AWS还全面披露了亚马逊生成式AI技术堆栈:底层基础架构层+中间基础模型构建工具层+上层基础模型AI应用层,版图逐渐完整。

虽然AWS在动作上慢微软一步,但随着AWS与英伟达战略合作的扩大,也让我们更期待他们之后更精彩的合作,为我们带来更多的惊喜。

声明: 本网站所刊载信息,不代表OFweek观点。刊用本站稿件,务经书面授权。未经授权禁止转载、摘编、复制、翻译及建立镜像,违者将依法追究法律责任。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

电子工程 猎头职位 更多
扫码关注公众号
OFweek电子工程网
获取更多精彩内容
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号