SOPHON SG2380:AIPC的新选择
2023年是大语言模型(LLM)蓬勃发展、百家争鸣的一年。大语言模型驱动的行业浪潮,推动了架构设计、交互方式、应用生态和内容端等的创新。在以ChatGPT、Midjourney为代表的C端大模型应用崛起标志着深度学习技术迈向了一个新的阶段,特别在LLaMA、Stable Diffusion等系列开放模型出现后,越来越多产品开始集成LLM,提供各种生成式智能(GenAI)应用,开启了一种新的人机交互范式。
首先开始转变的就是工具类软件,比如音视频编辑、办公软件等。本地运行的软件对LLM的集成,这也意味着模型的推理不仅仅需要云端,也需要端侧设备的助力。
AIPC则有望成为首个大规模实际应用的GenAI终端。AIPC是一种新型的PC形态,是集成了智能引擎的PC,具备对语音和图像信息的智能感知能力。
算能在2023年10月,和SiFive、Imagination等合作伙伴一起发布了SG2380——一款为AIPC设计的高性能RISC-V SoC。
SG2380 代号绿洲(Oasis),代表着希望
SG2380配备16核SiFive RISC-V P670处理器,融合了12个大核心和4个小核心,完美平衡了高性能和能效。在图形和多媒体部分,另外还配备了Imagination AXT-16-512图形处理器以及支持众多编码格式的视频编解码器,为用户提供了极致的多媒体体验。图形处理器专为满足高端移动游戏、快速照片编辑以及流畅用户界面而设计,支持Vulkan 1.3,OpenGL ES 3.3/2.0/1.1及扩展和OpenCL3.0。在多媒体处理领域,SG2380同样表现出色。它先进的视频解码器支持最高8192x4320的分辨率,确保高清视频播放流畅且沉浸。无论是专业内容创作还是流媒体最新的4K电影,SG2380都提供了无与伦比的视觉忠实度。
GenAI对算力的巨大需求呼唤着专门的硬件,SG2380的4核SiFive X280 + SOPHON TPU(张量处理单元)正是为此而生。高达32TOPs@INT8和16TFLOPs@FP16的TPU,旨在加速GenAI计算,使得自然语言处理、图片生成、文本生成等机器学习任务不仅成为可能,而且异常快速和高效。而且提供了256位DDR接口,支持高达128GB的内存,以及200GB/s的速率,还有包括PCIe Gen4和USB 3.2Gen2在内的多样化连接选项,这款处理器确保数据能够在内部组件或外部设备之间迅速无阻地流动。
SG2380运行LLaMA-2 13B模型的性能
RISC-V+TPU架构内的整合,预示着AIPC能力的新纪元,过去需要数分钟完成的任务,现在只需几秒钟。这款处理器不仅仅强调原始计算力,它代表的是一种智能计算,能够满足GenAI和多媒体应用的需求,确保复杂的模型和算法能够顺畅运行,无任何阻碍。
SG2380在AIPC行业中的独特之处不仅在于它令人印象深刻的技术规格,还在于它与RISC-V开源架构的一致性。这种对开放标准促进了创新、协作,提高了开发的灵活性,使开发者和制造商能够以快速的步伐适应技术变革和发展。
当我们站在GenAI革命的门槛上时,搭载开创性RISC-V架构的SG2380处理器不仅是一款产品,也是未来的先驱;AIPC不仅是工具,也代表着一种未来伙伴的形态,与我们携手共进,共同拓展更多可能性。在SG2380中,我们见证了智能计算的演化,我们正在参与一场将重新定义“我们与技术”关系的革命。
甲辰计划与算能
作为甲辰计划发起方之一,算能将依托甲辰计划实现SG2380的完全开源开放。甲辰计划的启动标志着RISC-V生态将进入一个全新的增长阶段,预计到2036年,将基于RISC-V实现从数据中心到桌面办公、从移动穿戴到智能物联网的全信息产业覆盖的开放标准体系及开源系统软件栈。此举不仅将加速RISC-V软硬件生态的成熟,而且也将推动SG2380及未来RISC-V高性能处理器的广泛应用,从而促进了2380开源特性的深入发展。
图片新闻
最新活动更多
-
11月28日立即报名>>> 2024工程师系列—工业电子技术在线会议
-
11月29日立即预约>> 【上海线下】设计,易如反掌—Creo 11发布巡展
-
11月30日立即试用>> 【有奖试用】爱德克IDEC-九大王牌安全产品
-
即日-12.5立即观看>> 松下新能源中国布局:锂一次电池新品介绍
-
12月19日立即报名>> 【线下会议】OFweek 2024(第九届)物联网产业大会
-
即日-12.26火热报名中>> OFweek2024中国智造CIO在线峰会
发表评论
请输入评论内容...
请输入评论/评论长度6~500个字
暂无评论
暂无评论