Теперь обучение нейросетей укладывается в вечер — берёшь открытую модель на 4 миллиарда параметров, арендуешь GPU и дообучаешь на русских задачах. Автор GG1KENOBI выложил модель и код в открытый доступ. На своих задачах она забирает почти две трети потока на автоматику, а поводом стала Jev от TypeSafe AI с ответами за 70–500 мс.
Что вообще произошло
В сентябре 2026 года компания TypeSafe AI выпустила Jev и назвала его «System One» — по аналогии с психологией: «Система 1» это быстрое мышление на автомате, «Система 2» — медленное и рассуждающее. Большие языковые модели с цепочками рассуждений как раз «Система 2». А Jev задуман как «Система 1»: решать быстро, дёшево и много.
Работает он предельно просто. Ты передаёшь ему состояние — письмо клиента, заявку, документ, карточку товара — и набор вопросов. На каждый вопрос он отвечает в одном из трёх видов: балл от 0 до 1 (насколько отзыв негативный), да или нет (нарушает ли объявление правила), один вариант из N (в какой отдел идёт обращение). Текст при этом не генерируется вообще. За один проход модель выдаёт вероятность каждого допустимого ответа и укладывается в 70–500 миллисекунд.
Внутри нет никакой новой архитектуры — обычный трансформер-декодер, как у любой LLM. Фокус в другом. Обычную чат-модель учат «быть полезной», и её уверенность систематически завышена: она говорит «уверена на 99%» там, где права в 70% случаев. Jev учили отдельным методом калибровки, чтобы «0,8» действительно означало «права примерно в 80% случаев». Для бизнеса это и есть главная фишка: по таким вероятностям можно честно решать, что отдавать автоматике, а что людям. Стоит это у разработчика $0,042 за миллион входных токенов, ответ бесплатный.
Минус тоже сразу виден: веса закрыты, это чёрный ящик. Что внутри и почему модель ответила именно так — не покажут.
А теперь эксперимент за вечер
Автор пошёл дальше и проверил, повторимо ли это без закрытых весов. Он взял открытую модель на 4 миллиарда параметров, дообучил её на русских задачах на арендованной видеокарте и сравнил с открытыми аналогами типа OpenJev, а также с небольшими LLM — YandexGPT и GigaChat (просто было интересно, хотя это не модели решений).
Сравнение честное: на задачах, которых не видела ни одна из моделей, и с одинаковой калибровкой для всех. На своих задачах его модель забирает почти две трети потока на автоматику, на чужих держится в верхней группе, но не лидирует. Это, пожалуй, главный вывод для практики: обучение нейросетям под свою конкретную задачу даёт больше, чем попытка найти одну универсальную супермодель.
Что это даёт лично тебе
Владелец интернет-магазина с возвратами. У него поток писем в день: «не подошло», «пришло битое», «передумал». Модель решений за один проход ставит каждому письму балл и вариант — вернуть, отказать, позвать человека. Почти две трети потока уходят в автоматику, менеджер разгребает только спорные случаи с реальной вероятностью, а не наугад.
• Фрилансер-дизайнер, который тонет в заявках. Вместо чтения всего инбокса он получает три категории: «срочный макет», «можно на следующей неделе», «не мой профиль». Тут не нужна красивая формулировка — нужен ярлык и число, которым можно доверять.
• Владелец кофейни. Отзывы с карт и маркетплейсов прогоняются через вопрос «насколько негативный, от 0 до 1» и «это про еду, про персонал или про доставку». Скандал виден в тот же день, а не когда кто-то вспомнил зайти в отзывы.
• Мама двоих детей на удалёнке. Разбор входящей почты и школьных чатов: что срочно, что подождёт до понедельника. Ровно тот вопрос, который обычная LLM решает абзацем текста, а модель решений — одним значением.
• Руководитель или финдиректор. Кто согласует командировку: руководитель или финдиректор, положена ли компенсация и какая. Типовая задача автоматизации бизнес-процессов, где важно не «красиво ответить», а не ошибиться и понимать, когда ошибка возможна.
• Студент или научный сотрудник. Сортировка статей по темам и релевантности — авторы Jev сами приводят это как пример применения.
Как попробовать прямо сейчас
Бесплатный первый шаг: возьми 20 своих реальных писем или обращений и прогони через YandexGPT или GigaChat с прямым вопросом «к какому отделу отнести, ответь одним словом». Посмотри, сколько раз модель уверенно ошиблась. Это и будет твоя отправная точка — и заодно понимание, нужен ли тебе свой инструмент.
Дальше по шагам:
1. Сузь задачу до одной. Не «пусть ИИ разберётся с бизнесом», а «определить, срочная это жалоба или нет». На каждый вопрос модель отвечает в одном из трёх видов: балл от 0 до 1, да или нет, один вариант из N.
2. Собери данные. Реальные примеры с уже известным правильным ответом. Для нейросети обучение держится именно на данных: без своих примеров любая модель будет угадывать.
3. Арендуй видеокарту на вечер — своё железо не нужно.
4. Возьми открытую модель на 4 миллиарда параметров — такую, как в эксперименте автора.
5. Дообучи её на своих примерах — это и есть fine-tuning моделей: модель не учится с нуля, а подстраивается под твою задачу.
6. Проверь калибровку. Прогони примеры, которых модель не видела, и сверь: там, где она говорит 0,8, права примерно в 80% случаев? Если нет — ответам нельзя доверять автоматике.
7. Сравни с YandexGPT и GigaChat на тех же примерах.
Модель и весь код автор выложил в открытый доступ — есть с чего начать, даже если ты не пишешь код, а просто умеешь копировать и подставлять свои данные.
Плюсы и что изменится
Раньше автоматизация бизнес-процессов требовала либо программиста, либо подписки на дорогой сервис, либо веры в то, что большая модель не соврёт. Теперь есть ещё один путь: маленькая модель, свои данные, один вечер и арендованная видеокарта. Ответ за 70–500 миллисекунд вместо секунд ожидания. Цена — центы. И честная вероятность вместо бодрого «я уверена на 99%».
Теперь честно про минусы
На чужих задачах самодельная модель держится в верхней группе, но не лидирует — ждать от неё чуда на незнакомых данных не стоит. Jev закрыт: веса не отдают, объяснить его ответы нельзя, это чёрный ящик. И главное — без нормальных данных ничего не работает: 20 кривых примеров дадут кривую модель. Плюс всегда нужен контрольный порог, ниже которого решение уходит человеку.
Вывод
Обучение ИИ и нейросетей перестало быть отдельной профессией на годы — оно уместилось в вечер, если задача узкая, а данные свои. Тебе не нужно строить свою модель с нуля: дообучил, проверил калибровку, отдал автоматике две трети потока.
Что сделать сегодня: открой свои входящие, выбери 20 однотипных писем и попробуй разложить их по трём категориям вручную. Получилось? Значит, у тебя уже есть задача для своей модели. Сомневаешься, с чего начать, — напиши в комментариях в @aigoby, разберём вместе.
🎁 Бонус: промпт для разметки своих данных
Половина работы при обучении — это привести примеры в порядок. Скопируй промпт и подставь свои данные:
```
Ты — мой помощник по подготовке данных для обучения нейросетей.
Ниже список моих реальных обращений клиентов.
Задача: для каждого обращения определи ровно один ответ из списка:
• BILLING (вопрос про оплату, счёт, возврат денег)
• DELIVERY (вопрос про доставку и сроки)
• SUPPORT_OTHER (всё остальное)
Правила:
1. Отвечай строго одним словом из списка. Без пояснений и текста.
2. Если сомневаешься между двумя вариантами — выбери тот, который
вероятнее, и добавь в конце строки знак «?».
3. Не придумывай новые категории.
Формат ответа (каждая строка):
<номер обращения> | <категория>
Вот мои обращения:
[вставь сюда список]
```
Размечай так партиями по 50 штук и за час получишь тот самый датасет, на котором уже можно дообучать свою модель решений.
Комментарии 0