
← What's Next|科技早知道8 jul · 57 min
为什么硅谷开始重新定义「AI 记忆」| S10E20
为什么硅谷开始重新定义「AI 记忆」| S10E20
就在一个多月前,黄仁勋在 Computex 2026 上发布了英伟达 RTX Spark——第一个面向消费级 PC 的 AI 超算芯片,1 Petaflop 算力、128GB 统一内存,能在笔记本本地跑 120B 甚至 200B 参数的大模型。几乎同一时间,苹果 M5 系列也将端侧 AI 推到了前所未有的高度。硬件就位了,但一个老问题依然存在:如果 AI 助理不记得你是谁、不记得你三年前说过什么,再强的算力也只是个聪明的失忆者。
这期节目的嘉宾是 Clipto.AI 的创始人兼 CEO 康洪文(Henry Kang),他在做一款在端侧本地运行的多模态 AI 产品,能读懂你所有的音视频、图片和文档,并在此基础上构建个人记忆系统。我们一起聊了聊大模型做记忆(memory)的天花板在哪里,为什么端侧比云端更适合承载个人记忆;把云上成熟的 AI 架构搬到端侧,都会遇到什么挑战;以及当苹果、谷歌这样的 OS 巨头自己做记忆层(memory layer)时,一家创业公司凭什么不被碾压。
本期人物
康洪文 Henry, Clipto.AI 创始人兼 CEO
Yaxian,「科技早知道」主播
时间轴
[02:12] 英伟达 RTX Spark 的突破是什么?
算力与内存双重突破,让本地跑百亿参数模型成为可能
OpenAI 就是大型机,端侧助理就像个人PC
[04:58] 大模型的万亿参数是公域知识的最大似然估计(MLE)
大模型的生态位应是存储世界共识与通识
用万亿参数去做个人知识是“杀鸡用牛刀”