AI2026-07-15

我在本地跑了一个小模型

起因很简单:想找一个不需要联网就能用的助手。

下载、装环境、找量化版本,前后折腾了两个晚上。第一次跑起来的时候风扇狂转,屏幕上一个个字往外蹦,慢得让人想笑。

但它确实能做事。整理格式,改错别字,把一段啰嗦的话压短。速度慢,胜在不联网,也不用担心什么东西被传出去。

后来我想明白了一件事:模型的大小和它的用处,其实没有必然关系。一个能在自己电脑上跑起来的小东西,比一个永远排队的大家伙更让人安心。

现在它每天帮我做一件很小的事:把当天的笔记整理成三句话。

← 换了一条通勤路线看《海街日记》 →