zealotxxxx

@GabrielleBellamy 2~4 w 的功耗基本决定端侧很受限，但是谁也不知道最终怎么样。我的理解是苹果是在赌。

不过我跟你看法稍有不同（但是我认可你对云 ai 的评价，所以我认为这是苹果路线的最大风险点），我认为端侧对于苹果来说如果要做追赶和赶超，端侧是必须要做的，而且也是业界只有苹果自己能做的，最大优势点，放弃太可惜。

但是风险点在于几个：
1. npu 折衷 asic 硬件加速，如果算子出现大变化，那么旧设备几乎等于在 llm 领域全报废。
2. 其他安卓厂商如果利用云来实现功能，积累数据，逐渐裁剪到边缘，甚至融入端侧。这么的话更灾难，因为苹果端侧战略算是全失败了。

2 月 25 日

回复了 linjian 创建的主题 › Apple › MacBook Apple Care 快到期了，要不要用掉？

路过
买了 AC+，到过期没用上。然后机器喝了半杯咖啡自杀。
建议还是用上吧

2 月 24 日

回复了 kamikaze472 创建的主题 › Apple › 听自媒体说, Apple 3 月 4 日会发布超低价 Macbook, 搭载 iPhone 的 A 系列芯片

@GabrielleBellamy 端侧 AI 是苹果不可能放弃的点，利益太多了，沉没成本也太多了。
1. 苹果云服务基因很差，没办法做成利润大头，但是云 ai ，苹果既没模型，又缺基础设施，还成本上偏离苹果硬件盈利的模式太多
2. 端侧如果做成，苹果一下就从落后变成领先，保底是不落后的。

但问题在于，之前的规划摊子铺太大了，既要高智能、复杂架构、还要覆盖更多上下文和设备控制能力（同时保留 siri 的跨设备协同、语音识别精准性，流程执行，以及低占用）。苹果在这块的积累并不行，团队也多次出现波动。现在风险还是蛮大的。

而且苹果目前的路线大概率还是走 NPU （ asic 硬件绑定）加速推理，gpgpu 辅助的低算力模式，且小模型的智力和世界知识实在是有限和云 AI 差太多，要解决不少问题才能跟上。

不过即便如此我也不相信苹果会放弃端侧 ai 的，苹果已经投入很多了，这块倒是坚定不移。至于做不做得成不知道，但是未来 1~2 年应该不存在路线转变，最多最多是架构改简单些。

» zealotxxxx 创建的更多回复