文章 实验室
能胜任的最小模型
连英伟达自己的研究人员都认为,AI 智能体内部的大部分工作更适合交给小模型。对瑞士企业来说,这在成本、速度和隐私上都是好消息。

卖最大芯片的公司替小模型说话,听着有点怪。2025年6月,英伟达研究院的一个团队发表了一篇论文,标题毫不含糊:“Small Language Models are the Future of Agentic AI”,意思是小语言模型才是智能体 AI 的未来。他们的观点很简单:AI 智能体整天做的事,大多范围窄、重复多。读一份文档,提取五个字段,填一张表,调用一个工具,写一段简短摘要。这些活用不着一个受过训练、能谈康德、会写十四行诗的模型。
作者对小模型的定义是:能装进一台普通的消费级设备,并且能足够快地响应单个用户的请求。按今天的水平,大多是 100 亿参数以下的模型。这笔经济账很惊人。作者估计,运行一个 70 亿参数的模型,在延迟、能耗和算力上的成本,比运行 700 亿到 1750 亿参数的模型低 10 到 30 倍。他们研究了三个开源智能体系统,估计这些系统对大模型的调用中,有 40% 到 70% 可以由专用小模型可靠地完成。
关键处用前沿模型
这并不是说大模型要退场了。任务开放、新颖或确实很难时,Anthropic、OpenAI 和谷歌的前沿模型依然遥遥领先,值得花钱。英伟达团队建议两者混用:例行工作交给小模型,例外情况交给大模型。管理得当的公司也是这样运作的:你不会让财务总监去录发票。
小模型不出门
小模型还有第二个优势,在苏黎世比在旧金山更要紧。它们在普通硬件上就能运行:瑞士数据中心里的一块显卡,或公司自己机柜里的一台服务器。数据不必离开瑞士,甚至不必离开大楼。面对瑞士的数据保护法,面对追问文件去向的客户,事情都好办得多。
瑞士现在也有了自己的开源选择。2025年9月,洛桑联邦理工学院、苏黎世联邦理工学院和瑞士国家超级计算中心发布了 Apertus,有 80 亿和 700 亿参数两个版本。它用 15 万亿个 token 训练,覆盖 1000 多种语言,约 40% 的数据不是英语,其中包括瑞士德语和罗曼什语。与多数开源模型不同,除了权重,它还公开训练数据和训练方法,银行或医院可以看清它是用什么训练出来的。2026年7月,这几家机构又发布了 Apertus 1.5,它还能读取图像和音频,并可按 Apache 2.0 许可证商用。同时推出的还有 Apertus Mini:16 个紧凑模型,面向算力有限的机器。
模型跟着任务走
OptAI® 的规矩是:从任务出发,选能把它做得足够好的最小模型,用客户自己的样例来衡量。这往往意味着为某一项工作微调一个开源小模型,比如读取供应商发票或给租户的请求分类,只有小模型拿不准时才调用前沿模型。账单降下来,回答更快,数据也不出门。
造最大模型的竞赛还会继续,有人去跑是好事。大多数公司不必参赛。它们需要的是能胜任的最小模型,以及一个懂得怎么判断的人。
资料来源
- Belcak et al., NVIDIA Research: Small Language Models are the Future of Agentic AI, arXiv, June 2025
- NVIDIA Technical Blog: How small language models are key to scalable agentic AI
- EPFL AI Center: Apertus, a fully open, transparent, multilingual language model, 2 September 2025
- Swiss AI Initiative: About Apertus
- EPFL AI Center: Apertus 1.5, building the next generation of open AI infrastructure, 24 July 2026


