我在本地跑了一个小模型
起因很简单:想找一个不需要联网就能用的助手。
下载、装环境、找量化版本,前后折腾了两个晚上。第一次跑起来的时候风扇狂转,屏幕上一个个字往外蹦,慢得让人想笑。
但它确实能做事。整理格式,改错别字,把一段啰嗦的话压短。速度慢,胜在不联网,也不用担心什么东西被传出去。
后来我想明白了一件事:模型的大小和它的用处,其实没有必然关系。一个能在自己电脑上跑起来的小东西,比一个永远排队的大家伙更让人安心。
现在它每天帮我做一件很小的事:把当天的笔记整理成三句话。
起因很简单:想找一个不需要联网就能用的助手。
下载、装环境、找量化版本,前后折腾了两个晚上。第一次跑起来的时候风扇狂转,屏幕上一个个字往外蹦,慢得让人想笑。
但它确实能做事。整理格式,改错别字,把一段啰嗦的话压短。速度慢,胜在不联网,也不用担心什么东西被传出去。
后来我想明白了一件事:模型的大小和它的用处,其实没有必然关系。一个能在自己电脑上跑起来的小东西,比一个永远排队的大家伙更让人安心。
现在它每天帮我做一件很小的事:把当天的笔记整理成三句话。