亚马逊年底再放大招:硬刚微软,合作英伟达
太平洋时间11月28日,亚马逊云科技(Amazon Web service,AWS)在美国拉斯维加斯举办的2023 re:Invent全球大会上宣布推出专为训练人工智能系统而设计的第二代芯片Trainium2,以及机器学习训练Graviton4处理器。
亚马逊推出新 AI 量子芯片 Trainium2 及 Graviton4 处理器
据介绍,Graviton4和Trainium2是亚马逊云科技自研芯片的最新创新。亚马逊云科技每一代自研芯片都持续提升性价比和能效,为客户提供了基于AMD、Intel以及英伟达等的最新芯片和实例组合之外的更多选择,从而使Amazon Elastic Compute Cloud (Amazon EC2)可以为客户虚拟运行几乎所有应用和工作负载。
亚马逊计算部门资深副总裁 Peter DeSantis,推出了为生成式AI和机器学习训练设计的云端AI芯片AWS Trainium2,比第一代Trainium芯片相比训练速度提升多达4倍,,可以在极短的时间训练基础模型(FMs)和大语言模型(LLMs),同时能效提升多达2倍,可提供65ExaFlops超算性能。
Peter DeSantis 还指出,Trainium2 芯片采用了被动纠错方法,已可将错误率降低 100 倍,即千分之一的错误率“0.1%”,而硬件过热现象相对预期减少 6 倍。不过,虽然新芯片在量子纠错方面有重大的进展,但现在量子计算依然处于“非常早期的阶段”。
AWS表示,由10万个Trainium芯片组成的集群可以在数周而不是数月内训练出3000亿参数的大语言模型,这大约是OpenAI的大语言模型GPT-3大小的1.75倍。
亚马逊云科技计算和网络副总裁大卫·布朗(David Brown)表示,最新推出的Graviton4是AWS迄今最高能效的自研数据中心处理器。其基于Arm架构,相比Graviton3,处理速度快30%,独立核心增加50%,内存带宽增加了75%,能将数据库应用提速40%,将处理大型Java应用的速度提升45%,为在Amazon EC2上运行的工作负载提供最佳性能和能效,还对所有高速物理硬件接口加密来提高安全性。AWS客户现可开始测试该处理器,由Graviton4支持的R8g实例已推出预览版,该实例计划在未来几个月内全面上市。
AWS硬刚微软,紧随其后,不甘示弱
众所周知,AWS和微软正在云计算这片战场打的火热,两家都在开发定制芯片上进行了大量投资。而11月中旬,微软前脚刚高调发布首款人工智能芯片Maia 100和Azure Cobalt 100,代表了微软在人工智能和通用计算领域的最新技术突破。后脚AWS就推出了自家的两款芯片,这浓浓的火药味大家隔着屏幕都闻到了。
AWS还在这次全球大会上推出生成式AI助手Amazon Q,支持聊天、生成内容、编程、插件及定制开发,可谓硬刚微软的Copilot,并且将数据分析平台Amazon QuickSight、呼叫中心服务Amazon Connect等应用接入Amazon Q,使其具备生成式AI的能力,真的是在硬刚微软的Copilot。
AWS与英伟达扩大战略合作,共建AI基础设施
而这两家不仅推出自研芯片,也都提供对英伟达最新AI芯片H200的访问,微软在推出人工智能芯片Maia 100,就表示微软云(Azure)将配备英伟达H200 GPU。
英伟达创始人兼CEO黄仁勋到场,宣布英伟达与AWS扩大战略合作,针对生成式AI推出全新超级计算基础设施、软件及服务,推动客户在生成式AI(Generative AI)的创新。
亚马逊云科技首席执行官亚当·塞利普斯基(Adam Selipsky)表示,“亚马逊云科技与英伟达合作已经超过13年,我们的合作起源于推出全球首个配置GPU(图形处理器)的云端实例。现在我们推出最广泛的英伟达GPU解决方案,可用于各种工作负载,包括绘图、游戏、HPC高性能计算、机器学习,直到现在的生成式AI。”
黄仁勋也表示,“生成式AI正改变各种云端负载,为多元内容创作在底层注入加速计算动能。我们的共同目标是为每个客户提供具有成本效益的先进生成式AI,为此英伟达与亚马逊云科技在整个计算堆栈展开合作,横跨AI基础设施、加速库(acceleration libraries)、基础模型以及生成式AI服务。”并且AWS还全面披露了亚马逊生成式AI技术堆栈:底层基础架构层+中间基础模型构建工具层+上层基础模型AI应用层,版图逐渐完整。
虽然AWS在动作上慢微软一步,但随着AWS与英伟达战略合作的扩大,也让我们更期待他们之后更精彩的合作,为我们带来更多的惊喜。
图片新闻
最新活动更多
-
11月28日立即报名>>> 2024工程师系列—工业电子技术在线会议
-
11月29日立即预约>> 【上海线下】设计,易如反掌—Creo 11发布巡展
-
11月30日立即试用>> 【有奖试用】爱德克IDEC-九大王牌安全产品
-
即日-12.5立即观看>> 松下新能源中国布局:锂一次电池新品介绍
-
12月19日立即报名>> 【线下会议】OFweek 2024(第九届)物联网产业大会
-
即日-12.26火热报名中>> OFweek2024中国智造CIO在线峰会
发表评论
请输入评论内容...
请输入评论/评论长度6~500个字
暂无评论
暂无评论