本地部署大语言模型杂谈

Updated on

前言

这篇文章是很久之前动笔的,只动了一半。到现在,很多东西变得老生常谈,我也有了些新想法。干脆就借着锐评之前的文字来记录自己现在的想法好了。

AI会替代人吗?

噫嘘唏,弱智宏观问题哉!替代这类问题我现在鸟都不想鸟了,感觉纯纯是一帮没搞明白人工智能到底是怎么一回事的哲学佬在这浑水摸鱼混淆视听,擅自把AI捧上神坛后虚空打靶,最后来句人的灵魂万岁。尼玛。众所周知,人类的本质是

我们讨论替代时,往往实际上讨论的是功能。没有一个虚空概念能完全替代另一个虚空概念。我理解大家都在讨论什么就业,什么岗位——但最后总能歪到哲学。

玩模型硬门槛低了,隐形门槛高了

之前想用ChatGPT、Claude、Deeepseek要费上一番功夫。什么买接码号、搞纯净IP,甚至服务器资源都有限,高峰时段卡的要死。但现在,ChatGPT不仅免登录就能用,甚至还想下海了。

但不得不说,中间讲究多了去了。表面上大家都是进入平台,在同样的对话窗口、选定同样的模型打字聊天。但实际上,分配给你的Juice值可不一定一样了。之前是保质保量限额,现在是掺水大酬宾。

掺水被端上台后,想办法拿到纯净服务显然更加麻烦。你需要摸清各种渠道的各种刀法,还要顾及是否有什么暗坑在你认知之外……

人们需要开源AI?至少我需要

或者说:我需要本地可控、气质稳定的模型。

玩酒馆的朋友想必已经有些懂我在做什么了。

商业模型的老型号说斩就斩,承诺什么的不存在的1。把同样的设定塞给新模型,情到深处的用户总能感觉到:老婆,你变了……

确实,看别人说本地模型傻的不行,完全不可用——一年前大家也是这么想文生视频的,而现在字节的SeedDance出来了。总之逢山开路,雨水搭桥。机会是留给有准备的人的。一路折腾总归也挺有趣的。

历史

如下是我之前写的文字片段。挺精巧的,姑且保留一下吧。

AI只是工具,会替代掉不会使用AI的人? AI只是工具,会替代掉不能使用AI的人! 或许人类不需要开源AI,但至少人们需要。

距AI元年两年有余。我毕业时AI风头正盛,也一直高强度关注AI,便选定AI为毕业论文的大方向。妹想到其发展相当迅猛,搞得我边写边改,后期不得不调整大方向以留余地。给文章收尾时,我仍心有余悸,话头给AI发展留了相当的余地。结果不过半年之久,哥的文章又爽爽过时。训练预料枯竭得比想象中快,AI的能力范围比想象中的大,普通人使用AI的门槛也愈发地高。当初所谓“AI替代掉的是那些不会用AI的人”的论调也难以让我信服。


AI能否替代人类?ChatGPT3.5和AI绘画初露锋芒是,“AI替代的将是不会用AI的人”这一论调相当流行,我也深以为然。但时至今日,Deepseek供不应求,ChatGPT偷偷降智,各种各样的AI服务提供者卡ip、卡支付渠道,我很难有底气继续支持这一论调。

AI只是工具没有变,AI会替代不会用AI的人也没毛病。但在此之上,更为宏大的问题是:你能用得上正经AI吗?


我处在历史之中。

Footnotes

  1. 我点的就是你Anthropic!