链接已复制!

三星 Exynos 2500:设备端 AI 的秘密武器?

深入分析三星的 Exynos 2500 及其与 Nota AI 的战略合作伙伴关系,探索硬件-软件集成如何解锁真正的设备端生成式 AI。

🌐
机器翻译

本文由英文原文自动翻译而成。 阅读英文原文

具有发光神经网络通路的前卫计算机芯片特写,三星 Exynos 品牌风格

要点

  • 硬件-软件融合:与Nota AI的合作将模型压缩直接集成到Exynos AI Studio中,这对Samsung来说是首次。
  • NPU大幅提升:新NPU提供59 TOPS,比上一代提升39%,专门为生成式AI调优。
  • 隐私第一:使复杂的AI任务(如图像生成和实时翻译)能够完全离线运行,保障用户数据安全。
  • 3nm效率:基于Samsung第二代3nm GAA工艺构建,即使在繁重的AI工作负载下也承诺更好的电池续航。

多年来,“Exynos”在科技爱好者中是一个不受待见的词。Samsung的自研芯片在效率和热管理方面经常落后于Snapdragon的同类产品。但随着Exynos 2500,Samsung不仅仅是在追赶;他们正试图彻底改变游戏规则。

战场已经从原始CPU时钟速度转移到每瓦AI性能。随着生成式AI功能成为旗舰手机的卖点,能够在设备端运行这些模型——没有云端的延迟和隐私风险——是新的圣杯。

进入Exynos 2500以及与Nota AI的一项战略性、低调的合作。他们一起正在构建一个硬件-软件生态系统,旨在使Galaxy S25系列成为市场上最智能的AI手机。

背景:边缘AI问题

在手机上运行大型语言模型(LLM)非常耗费资源。它消耗电池、产生热量并占用内存。

  • 老方法:将请求发送到云端。快速,但需要互联网并暴露数据。
  • 新方法:在本地运行。私密且离线,但需要大规模的硬件优化。

Samsung意识到,向这个问题投入更多原始算力是不够的。他们需要更智能的软件来让模型适配硬件。

理解Nota AI合作

这是Exynos 2500的秘密武器。Samsung System LSI(芯片部门)与专注于AI模型压缩的专家Nota AI签署了合作协议。

工作原理

Nota AI的技术现在直接嵌入到Exynos AI Studio中,这是开发者为Samsung芯片构建应用所使用的工具链。

  1. Netspresso:Nota AI的平台分析一个AI模型(如Llama 3或Gemini Nano)。
  2. 压缩:它修剪不必要的参数并量化模型(略微降低精度以节省大量空间),而不会显著损害准确性。
  3. 优化:然后该模型专门针对Exynos NPU的架构进行编译。

为什么重要

这意味着开发者不必成为硬件专家,就能让他们的AI应用在Galaxy手机上流畅运行。它降低了创建利用NPU的”杀手级应用”的门槛。

技术深度分析:Exynos 2500

硬件本身就是一头猛兽,专为支持这一软件愿景而构建。

NPU(神经处理单元)

  • 性能59 TOPS(每秒万亿次运算)。
  • 架构:采用24K MAC(乘积累加)单元配置,分为两个12K集群。这使它能够高效地处理并行AI任务。
  • 生成式AI支持:专门为transformer模型调优,这是现代聊天机器人和图像生成器背后的架构。

CPU与GPU

  • CPU:10核架构,配备强大的Cortex-X925主核,时钟频率为3.3 GHz。
  • GPUSamsung Xclipse 950,基于AMD的RDNA 3架构。这带来了光线追踪等桌面级图形功能,同时也协助需要浮点精度的AI工作负载。

制造工艺

基于Samsung的**3nm GAA(Gate-All-Around)**工艺构建。这一先进节点提供比旧的FinFET工艺更好的能效,这对于在不过热的情况下维持AI工作负载至关重要。

数据

关键统计数据:

  • 39%:Exynos 2500的NPU相对于上一代Exynos 2400的性能提升。
  • 4091 GFLOPS:Xclipse 950 GPU的原始图形算力。
  • :使用设备端AI时云端往返增加的延迟。

行业影响

对Android生态系统的影响

Samsung正在为Android世界的”垂直整合”设定新标准,效仿Apple的方法。通过同时控制芯片和优化软件,他们可以提供比依赖通用Snapdragon芯片的竞争对手更流畅的体验。

对消费者的影响

对于Galaxy S25买家,这意味着:

  • 即时翻译:在飞行模式下也能工作的实时语音翻译。
  • 更智能的相机:能够立即修复模糊照片或移除物体的AI,无需等待加载转圈。
  • 电池续航:不会在中午前耗尽电池的AI功能。

挑战与限制

  1. Snapdragon的阴影:Qualcomm的Snapdragon 8 Elite也是一个巨头。Samsung必须证明其”Nota AI优化”的方法比Qualcomm的原始算力产生更好的现实世界结果。
  2. 开发者采用:拥有一个出色的工具链(Exynos AI Studio)只有在开发者真正使用它时才有用。如果他们先为Snapdragon优化,Exynos用户在第三方应用中可能仍然得到二等体验。

接下来会怎样?

短期(1-2年)

预计会看到大量”AI优先”应用独家或率先在Samsung设备上发布,利用这些优化工具。

长期(5+年)

我们正在走向”混合AI”,手机处理90%的任务,只有最复杂的查询(如”给我写一部小说”)才会进入云端。Exynos 2500是这个未来的奠基砖。

结论

Exynos 2500不仅仅是规格提升;它是一次战略转折。通过与Nota AI合作,Samsung承认了软件优化与硅片同等重要。如果他们能够执行这一愿景,Galaxy S25将不仅仅是一部拥有快速芯片的手机——它将是你口袋里最智能的边缘设备。


Exynos 2500不仅仅是规格提升;它是一次战略转折。通过与Nota AI合作,Samsung承认了软件优化与硅片同等重要。如果他们能够执行这一愿景,Galaxy S25将不仅仅是一部拥有快速芯片的手机——它将是你口袋里最智能的边缘设备。

资料来源 (3)

Advertisement

🦋 Bluesky 讨论

在 Bluesky 上讨论

正在搜索帖子...