端侧 AI 是什么？和云端 AI 区别

这期讲了什么

• 云端 AI 是把活交给远处的大服务器：先有网、话飞过去、算好再送回，没网就没戏，你点了什么人家都记下
• 端侧 AI（本地大模型）是把 AI 装进你自己的手机、电脑里跑：不用联网、断网也能干活，数据不出设备
• 代价是个头小、本事弱：上千亿参数的超大模型手机装不下，能跑的都是小一号、精简过的版本
• 三个用处：处理日记、合同、病历这类私密内容更放心；飞机、地铁上断网照样翻译、写两句、语音转文字；不占流量、响应快
• 手机上的离线翻译、相册智能抠图，很多已经是本地悄悄跑的小模型；聪明的用法是简单私密的活给端侧、复杂烧脑的活给云端

文字稿

端侧 AI 是什么

今天要翻译的词是——端侧 AI，它还有个更常听到的名字，叫本地大模型。

先说说这词为什么跟你有关。你想过没有，你跟 AI 说的每一句话，是不是都得先联网、传到很远的地方，才有人搭理你？你跟它说的那些悄悄话、上传的那些私密文档，又到底传到哪儿去了、被谁看了？今天这个词讲明白，这几个问题你心里就都有底了。

你平时用 AI，大部分时候是这样的：你打字提问，得先有网，你的话嗖一下飞到厂商远处的大服务器上，人家算好答案，再嗖一下送回你手机。没网，就没戏。这种把活儿交给远处服务器干的，就叫云端 AI——AI 跑在「云」上，也就是别人家的机房里。很多人以为，所有 AI 都只能这么用。其实不是。

那「端侧」到底是啥意思？你就想象你要吃饭。云端 AI，就像你每次都打电话叫外卖。你想吃啥，得先联网、打个电话，把订单报给远处那家大厨房；人家火力猛、菜品全，什么满汉全席都做得出来，做好了再给你送过来。听着挺好，对吧？可它有两个问题：第一，没网、没信号，这外卖你就叫不成；第二，你今天点了啥、爱吃啥，人家那台服务器全都记下了。

那端侧 AI 呢？端侧 AI，就像你家厨房里，自己请了个小厨师。这个「端」，说白了就是你手上的设备——你的手机、你的电脑。端侧，就是让 AI 直接跑在你自己的设备上；本地大模型，就是装在你本地、能离线干活的那个 AI。有了这个家里的小厨师，你想吃点简单的，张口就来，不用打电话、不用联网，断网也照做；而且你吃了啥，不用告诉外面任何人，数据出不了你家门。

当然，这个小厨师也有短板：他一个人、灶台小，做不了那种几百上千道菜的满汉全席。那种上千亿参数的超大模型，就像五星级的大厨房，你家厨房根本装不下、也带不动。能塞进你手机的，通常是小一号、精简过的版本，本事比云端那个大块头要弱一截。

端侧 AI 有什么用，短板在哪

第一，隐私。你要是拿 AI 处理特别私密的东西——比如你的日记、合同、病历，用能在本地跑的端侧 AI，数据不出设备，就比事事都往云端传要放心得多。

第二，断网也能用。飞机上、地铁里、信号差的地方，端侧 AI 不靠网，照样能给你翻译、能帮你写两句、能语音转文字。而且它不占流量、响应还快。其实现在你手机上的离线翻译、相册里的智能抠图，很多已经是在本地悄悄跑的小模型了。

第三，也别把它神化。端侧再方便，本事就是弱于云端。真碰上复杂的、烧脑的大活儿，还得请远处那个五星级大厨房出手。所以聪明的用法是——简单的、私密的、断网的，交给身边这个小厨师；复杂的、吃算力的，再打电话叫外卖。以后你再看到「手机端 AI」「本地部署」「离线运行」这些词，翻译过来就一句话：这个 AI，是跑在你自己设备上的。

记住一句话就够了：端侧 AI，就是把 AI 从远处的云端，搬进你自己的手机、电脑里跑。好处是数据不出门、断网也能用、还省流量；代价是它个头小、本事弱，干不了云端那种大活儿。说白了，一个是打电话叫外卖，一个是家里请个小厨师——各有各的用处，看你这顿想怎么吃。

常见问题

端侧 AI 和云端 AI 有什么区别？

云端 AI 是把你的话传到远处的大服务器上算，再送回结果，没网就不能用，数据也留在人家服务器上。端侧 AI（本地大模型）直接跑在你自己的手机、电脑上，不用联网，数据不出设备。一个是打电话叫外卖，一个是家里请个小厨师。

本地大模型有什么好处？

三个实在好处：一是隐私，日记、合同、病历这类私密内容不出设备，比往云端传放心；二是断网也能用，飞机、地铁里照样翻译、写两句、语音转文字；三是不占流量、响应快。你手机上的离线翻译、相册智能抠图，很多已经是本地跑的小模型。

端侧 AI 能替代云端 AI 吗？

不能。端侧 AI 的短板是个头小、本事弱，上千亿参数的超大模型手机装不下也带不动，能跑的都是精简版。碰上复杂、烧脑的大活儿还得靠云端。聪明的用法是简单的、私密的、断网的交给端侧，复杂的、吃算力的交给云端。