OptAI®
RU

Статьи Лаборатория

Самая маленькая модель, которая справится

Сами исследователи NVIDIA считают, что большую часть работы внутри ИИ-агентов лучше делают малые языковые модели (SLM). Швейцарским фирмам это сулит экономию, скорость и защиту данных.

Ряд простых белых матрёшек от большой до крошечной на фиолетовом фоне

Странно слышать призыв к моделям поменьше от компании, которая продаёт самые большие чипы. В июне 2025 года команда NVIDIA Research опубликовала статью с прямолинейным названием «Small Language Models are the Future of Agentic AI». Мысль простая. Большая часть того, что ИИ-агент делает за день, сводится к узким повторяющимся задачам. Он читает документ, вытаскивает пять полей, заполняет форму, вызывает инструмент, пишет короткое резюме. Для этого не нужна модель, которую учили рассуждать о Канте и писать сонеты.

Малой авторы называют модель, которая помещается на обычном потребительском устройстве и достаточно быстро отвечает на запросы одного пользователя. Сегодня под это определение подходит большинство моделей меньше 10 млрд параметров. Цифры впечатляют. По оценке авторов, модель на 7 млрд параметров в работе обходится в 10, а то и в 30 раз дешевле модели размером от 70 до 175 млрд, если считать задержку, энергию и вычисления. Они изучили три агентные системы с открытым кодом и пришли к выводу, что малые специализированные модели могли бы надёжно взять на себя от 40% до 70% обращений, которые эти системы делают к большим моделям.

Передовые модели там, где это важно

Это не значит, что большим моделям конец. Когда задача открытая, новая или по-настоящему сложная, передовые модели Anthropic, OpenAI и Google по-прежнему далеко впереди, и за них стоит платить. Команда NVIDIA предлагает сочетать одно с другим: малые модели для рутины, большая для исключений. Хорошо организованная компания устроена так же. Никто не сажает финансового директора проводить счета.

Малые модели остаются дома

У малых моделей есть второе преимущество, и в Цюрихе оно весит больше, чем в Сан-Франциско. Они работают на скромном оборудовании: на одной видеокарте в швейцарском дата-центре или на сервере в собственной стойке компании. Данным не нужно покидать ни Швейцарию, ни даже здание, а значит, проще и со швейцарским законом о защите данных, и с клиентами, которые спрашивают, куда уходят их файлы.

Теперь у Швейцарии есть и собственный открытый вариант. В сентябре 2025 года EPFL, ETH Zürich и Швейцарский национальный суперкомпьютерный центр выпустили Apertus, модель в двух размерах: на 8 и на 70 млрд параметров. Её обучали на 15 трлн токенов, больше чем на 1 000 языках, причём около 40% данных не на английском. Среди языков есть швейцарский немецкий и романшский. В отличие от большинства открытых моделей, у Apertus вместе с весами опубликованы обучающие данные и рецепты, так что банк или больница могут увидеть, из чего она сделана. В июле 2026 года те же организации выпустили Apertus 1.5: она работает также с изображениями и звуком, а по лицензии Apache 2.0 её можно использовать в коммерческих целях. Вместе с ней вышла линейка Apertus Mini: 16 компактных моделей для машин с небольшой вычислительной мощностью.

Модель под задачу

В OptAI® правило такое: начинать с задачи и выбирать самую маленькую модель, которая справляется с ней достаточно хорошо, проверяя это на собственных примерах клиента. Часто это значит дообучить малую открытую модель под одну работу, например читать счета поставщиков или сортировать заявки жильцов, и обращаться к передовой модели, только когда малая не уверена. Счёт уменьшается, ответы приходят быстрее, а данные остаются дома.

Гонка за самой большой моделью продолжится, и хорошо, что кто-то в ней участвует. Большинству компаний вступать в неё не нужно. Им нужна самая маленькая модель, которая справляется с задачей, и человек, который умеет понять, какая именно.

Источники

  1. Belcak et al., NVIDIA Research: Small Language Models are the Future of Agentic AI, arXiv, June 2025
  2. NVIDIA Technical Blog: How small language models are key to scalable agentic AI
  3. EPFL AI Center: Apertus, a fully open, transparent, multilingual language model, 2 September 2025
  4. Swiss AI Initiative: About Apertus
  5. EPFL AI Center: Apertus 1.5, building the next generation of open AI infrastructure, 24 July 2026

Ещё статьи