GPT-6 Astra от OpenAI подняла точность Qwen3.5-0.8B на MATH-500 с 7,9% до 48,1%, изменив лишь 0,016% весов — управление ИИ теперь похоже на точную подстройку. MIT показал: модель понимает и правит внутренние настройки чужих нейросетей без обычного обучения. Тебе это даёт более дешёвый способ настраивать модели.
Что вообще произошло
Веса — это огромные таблицы чисел, по-научному матрицы. Именно в них «зашито» всё выученное: и то, как сеть играет в игру, и то, на каком языке она отвечает, и то, как она рассуждает. Обычно, чтобы что-то поправить, модель долго и дорого доучивают. Подход MIT назвали Weight-Space Programming — правка прямо по числам, без привычного обучения. Astra тут работает как механик: открывает капот и крутит конкретные винты, а не перебирает весь двигатель. В разных опытах она либо работала напрямую со списками чисел, либо использовала инструменты программирования и обратную связь от тестовых прогонов.
Дальше — самое интересное. Astra по «сырым» числам определила, в какую из четырёх компьютерных игр обучена сеть. Распознала базовые фигуры, которые рисовал генератор изображений, правда, перепутала залитые фигуры с контурами. Правильно сопоставила язык обучения маленьких языковых моделей — без доступа к обучающим данным и без возможности их запустить. А вот отличить по весам две дообученные модели, одна из которых всегда соглашается с пользователем, сразу не смогла: получилось только когда ей разрешили посмотреть, на что модели обращают внимание при обработке текста — и тогда она определила «поддакивающую» во всех трёх парах.
Она даже пишет модели с нуля
Отдельный блок экспериментов — про игры. Astra создала веса для трёх простых игр вообще без обучения, только по правилам и исходному коду. По словам исследователей, эти модели обошли те, что тренировали стандартным методом больше 100 миллионов раундов. В Breakout модель Astra набирала в среднем 517 очков против 25 у обученной базовой версии. Но честно: в двух других играх она отстала от версий, которые обучали дольше всего.
С го на поле 9x9 история такая: Astra написала веса сети примерно на 1,5 миллиона параметров и за 50 итераций тестов, где сеть играла до 128 тренировочных партий за раунд, обошла сопоставимую по размеру модель, обученную примерно на 20 миллионах партий. Это и есть дешёвая оптимизация нейросетей.
Что это даёт тебе в обычной жизни
Смысл новости для человека без технического бэкграунда простой: настройка нейросетей перестаёт быть уделом лабораторий с большими бюджетами. Вот как это может выглядеть в жизни.
• Мама двоих детей, которая ведёт семейный бюджет в таблице. Ей не нужно «обучать свою модель» — достаточно, чтобы помощник подстроился под её правила категорий и формулировки. Когда такие правки станут кнопкой в сервисе, персональный финансовый ассистент перестанет путать «продукты» и «бытовую химию».
• Владелец кофейни. Он хочет, чтобы бот отвечал гостям его голосом и знал меню наизусть. Раньше это тянуло на отдельный проект с переобучением, теперь речь о точечной подстройке под его стиль и данные.
• Фрилансер-дизайнер. Генератор картинок упорно путает заливку с контуром в его стиле — именно эту ошибку Astra тоже ловила. Точечная правка под свой визуальный язык вместо месяцев уговоров промптами.
• Студент перед экзаменом. Модель зацикливается и повторяет одну и ту же фразу вместо ответа — ровно эту проблему Astra нашла у Qwen3.5-0.8B сама. Лечится не переобучением, а хирургической правкой.
• Тот, кто зарабатывает на услугах. «Настрою нейросеть под твою задачу» становится дешевле в производстве: меньше часов на обучение — больше заказов можно взять.
Как попробовать прямо сейчас
Самой GPT-6 Astra в открытом доступе нет, и это важно понимать: новость про исследование, а не про кнопку. Но принцип «сначала разберись, где модель ломается, потом правь точечно» работает уже сегодня — и его можно проверить на практике.
1. Открой ChatGPT — это бесплатный первый шаг.
2. Опиши свою реальную задачу: «мне нужно, чтобы ассистент разбирал отзывы гостей кофейни и раскладывал их по темам».
3. Прогони 10–20 реальных примеров и выпиши, где ответы ломаются: путает темы, повторяется, уходит в лишние рассуждения.
4. Попроси ChatGPT: «вот мои примеры и вот ошибки — найди закономерность, почему так происходит».
5. Собери из ответа список правил и вставь их в свой постоянный промпт.
6. Прогони те же примеры снова и сравни результат до и после — это и есть твоя личная «правка весов», только на уровне инструкций.
Что станет лучше и где подвох
Главный плюс — экономия. Вместо полного переобучения правится крошечная доля: в опыте с Qwen3.5-0.8B это 0,016% весов, а следование инструкциям у той же модели поднялось с 21% до 62%. Представь, что вместо капремонта квартиры ты меняешь одну лампочку — и света становится достаточно. Такие штуки могут пригодиться в обычных сервисах: персонализация, исправление «тупостей» конкретной модели под твою нишу, более дешёвые ИИ-продукты. Перепрограммирование ИИ напрямую по числам перестанет звучать как магия.
Ограничения тоже честные. Astra путала залитые фигуры с контурами. По одним весам не смогла отличить «поддакивающую» модель — понадобился доступ к картам внимания модели. В двух играх из трёх отстала от долго обучавшихся версий. А у Qwen циклы размышления не исчезли полностью: треть ответов всё ещё достигала максимальной длины, хотя раньше таких было 93%. На маленькой Gemma 3 270M, которая в такие циклы почти не попадает, измеримого улучшения вообще не получилось.
Итог и одно действие на сегодня
Это не новость «завтра всё поменяется», а сигнал: стоимость подгонки ИИ под конкретную задачу падает, и выиграют те, кто раньше начнёт разбираться, как формулировать задачи и находить слабые места моделей. Одно действие на сегодня: открой ChatGPT, возьми свою самую рутинную задачу и прогони по ней 10 реальных примеров, записав, где ответы ломаются. Результатом поделись в комментариях у @aigoby — что получилось и где модель спотыкается.
🎁 Бонус: промпт для разбора своей задачи
Скопируй и подставь свои данные — он помогает найти слабое место модели до того, как ты начнёшь всё переделывать.
```
Ты — инженер по качеству ИИ-ответов. Помоги мне найти, где моя модель ломается.
Моя задача: [опиши в 2–3 предложениях, что должна делать модель]
Мои входные данные: [вставь 10–20 реальных примеров]
Что меня не устраивает: [перечисли ошибки своими словами]
Сделай по шагам:
1. Сгруппируй мои примеры по типам и покажи, в каких группах ответы хуже всего.
2. Найди повторяющуюся закономерность: модель зацикливается, путает категории, уходит в лишние рассуждения, игнорирует часть инструкции?
3. Сформулируй 5–7 точечных правил, которые исправят именно эту закономерность, не ломая остальное.
4. Дай готовый текст промпта с этими правилами.
5. Предложи 5 новых проверочных примеров, чтобы я честно сравнил результат до и после.
```



Комментарии 0