Открытая языковая модель NVIDIA Nemotron 3.5 для ИИ-агентов уже доступна — это Super VL на 120 миллиардов параметров, и она выполняет задачи в пять раз быстрее ближайшей модели своего класса. Вместе с ней NVIDIA показала две компактные версии Bolt: одна умещается в 24 ГБ памяти, вторая — всего в 4 ГБ. То есть агента теперь можно держать и на большом корпоративном сервере, и прямо на твоём домашнем компьютере с видеокартой NVIDIA. Модели открытые: их можно дообучать на своих данных и запускать на своём железе, а не только в чужом облаке.
Что вообще произошло
NVIDIA расширила семейство Nemotron — это её набор открытых моделей. В семействе Nemotron есть три «характера»: Lightning (вышла в августе, тянет много задач сразу), Ultra (решает самые сложные головоломки) и Bolt (приносит интеллект на край — то есть на компактные устройства). Теперь добавились ещё три новинки.
Первая — Nemotron 3.5 Super VL. Она создана вместе с Nemotron Coalition и выдаёт ведущую точность на мультимодальных агентных задачах: понимает инструкции, умеет пользоваться инструментами, ведёт многошаговые бизнес-процессы и разбирает картинки. Это модель для специализированных агентов, которые работают постоянно, а не включаются раз в день. При этом она примерно в пять раз меньше по числу параметров, чем самая крупная reasoning-модель NVIDIA, — а результат сопоставимый. На бенчмарке Artificial Analysis Intelligence Index пропускная способность до 5 раз выше, чем у других моделей её класса.
Вторая и третья — Nemotron 3.5 Bolt 74B-A9B 24GB и Nemotron 3.5 Bolt E4B 4GB. Первая оптимизирована под баланс ума и скорости на каждый гигабайт памяти для локальных агентных нагрузок. Вторая — под интеллект на гигабайт для быстрых разговорных агентов. Super VL и Bolt 74B-A9B доступны уже сейчас, а Bolt E4B выйдет 23 октября.
Что такое ИИ-агент, если по-простому
ИИ-агенты — это не чат, который просто болтает. Это программа, которая сама делает работу: ищет в интернете, читает файлы, пишет код, отлаживает его, заполняет таблицы, готовит отчёт. Ты ставишь задачу — она разбивает её на шаги и идёт по ним.
Раньше для такого нужен был мощный сервер в облаке. Каждое действие — запрос наружу, данные уходили с твоего компьютера. Локальный ИИ-агент — это когда всё то же самое крутится у тебя на машине. Ничего никуда не отправляется, интернет может вообще отключиться, а агент продолжит работать.
Именно эту нишу и закрывают новые Bolt-модели. 74B-A9B влезает в 24 ГБ видеопамяти благодаря нативной 2-битной квантизации — это способ ужать модель так, чтобы она помещалась в память, не потеряв слишком много сообразительности. И вторая, E4B, укладывается в 4 ГБ.
Что это даёт лично тебе
• Мама двоих детей, работает из дома. Раньше вечер уходил на разбор школьных заданий и поиск рецептов на неделю. Локальный агент на ноутбуке с GeForce RTX собирает план питания под продукты в холодильнике и проверяет задачи по математике — без отправки фотографий детей в чужое облако.
• Владелец небольшой кофейни. Ему надо каждую неделю сводить продажи, закупки и остатки в один отчёт. Bolt 74B-A9B ставится на его же рабочую станцию и делает черновик отчёта сам — от выгрузки до таблицы. Он только проверяет цифры.
• Фрилансер-дизайнер. Клиент присылает ТЗ, референсы и кучу правок в переписке. Агент читает картинки (Super VL как раз про визуальное понимание) и собирает из этого понятный чек-лист правок. Не надо держать всё в голове.
• Начинающий программист или студент. Локальные агентные харнессы — это оболочки, в которые вставляется модель, — умеют исследовать веб, писать и отлаживать код. Учиться программированию с таким «напарником» в разы быстрее, а интернет-лимиты не тратятся.
• Специалист с конфиденциальными данными (бухгалтер, юрист, врач). Раньше нельзя было скормить документы облачному ИИ. Теперь можно: Bolt 74B-A9B — №1 открытая модель в своём классе на PinchBench и №2 открытая модель для BrowseComp, и она работает без отправки нагрузок в облако.
Как попробовать прямо сейчас
Шаг 1. Зайди на страницу NVIDIA про её ИИ-направление: NVIDIA AI. Там собраны модели семейства Nemotron и инструкции по запуску.
Шаг 2. Посмотри, что у тебя за железо. Если есть 24 ГБ видеопамяти (NVIDIA RTX или DGX Spark) — тебе подходит Bolt 74B-A9B 24GB. Она доступна уже сейчас. Проверь, сколько памяти свободно: модель должна поместиться и не мешать остальным программам.
Шаг 3. Выбери локальный агентный харнесс — это программа-обёртка, которая даёт модели руки: доступ к браузеру, файлам, терминалу. Подключи к ней скачанную модель.
Шаг 4. Если железа мало или нужен голосовой помощник на устройстве — жди Bolt E4B 4GB, она выходит 23 октября. Она рассчитана на GeForce RTX, Jetson и RTX/DGX Spark: разговор плюс многошаговые действия, всё локально.
Шаг 5. Дай агенту первую простую задачу. Не «сделай мне бизнес», а конкретно: «собери из этой папки с чеками таблицу расходов по месяцам». Так ты сразу увидишь, в чём он силён, а что надо поправить.
Плюсы и что изменится
Главное — не нужно выбирать между возможностями и развёртыванием. Раньше приходилось выбирать: либо умная модель, но только в облаке и за деньги, либо что-то компактное, но глупое. Теперь три открытые модели закрывают весь диапазон — от крупных корпоративных серверов до локального железа.
Второе — свои данные остаются своими. Любая организация (и ты тоже) может дообучить Super VL на своих данных, инструментах, регламентах и развернуть её на своей инфраструктуре. Именно так уже делают десятки компаний: Scale AI дообучила модель для финансового агента Skydance и для проверки сделок в EY, AfterQuery — для анализа кредитных договоров в Hebbia, AI21 и Alice — под кибербезопасность, Mercor — под кодинг-агентов на бенчмарке APEX-SWE. Разработчики могут тонко настраивать модель через фреймворк ms-swift от ModelScope.
Через месяц-полгода это будет выглядеть так: локальные агенты станут обыденностью, как сейчас текстовый редактор. Ты будешь поручать им рутину — отчёты, переписку, разбор документов, черновики кода, — и проверять результат, а не делать всё руками.
Минусы честно. Часть моделей пока недоступна: Bolt E4B выйдет только 23 октября. Модель на 24 ГБ требует приличной видеокарты — на старом ноутбуке она не заведётся, и это стоит денег. А чтобы уместиться в 24 ГБ, Bolt 74B-A9B использует нативную 2-битную квантизацию — то есть модель сознательно «сжали», и по качеству она не догонит самые большие серверные варианты.
Итог
Мы живём в момент, когда большие языковые модели перестали быть игрушкой из чужого дата-центра и переехали на рабочий стол. Открытая языковая модель NVIDIA Nemotron 3.5 — это не абстрактная новость, а конкретный инструмент: 120 миллиардов параметров для серьёзных задач и компактные Bolt для локальной работы.
Сделай одно действие сегодня: зайди на страницу NVIDIA, найди, сколько у тебя видеопамяти, и определись, какая из трёх моделей — твоя. А потом напиши в комментариях в @aigoby, какую рутину ты хочешь спихнуть агенту первым делом.
🎁 Бонус: промпт для первого запуска
Скопируй и подставь свои данные:
```
Ты — мой локальный ИИ-агент. Работай по шагам и не придумывай данные, которых нет.
МОЯ РУТИНА: [опиши задачу — например, «каждую неделю свожу расходы из чеков в таблицу»]
МОИ ФАЙЛЫ: [папка или список документов]
ЧТО НУЖНО НА ВЫХОДЕ: [например, таблица: дата, категория, сумма, итог по месяцу]
План:
1. Уточни, если чего-то не хватает — задай мне максимум 3 вопроса.
2. Разбей задачу на шаги и покажи их списком.
3. Выполни первый шаг и покажи результат.
4. Спроси у меня подтверждение перед следующим шагом.
Не отправляй данные в интернет и не меняй мои файлы без моего разрешения.
```
Чек-лист на сегодня:
• [ ] Проверить объём видеопамяти
• [ ] Решить, какие задачи отдать агенту первыми (3 штуки)
• [ ] Скопировать промпт выше и подставить свою рутину
• [ ] Записать 23 октября в календарь — выход Bolt E4B 4GB
Комментарии 0