Bonsai 27B — это открытая ИИ-модель на 27 миллиардов параметров, которая после агрессивного сжатия занимает всего 3,9 ГБ и работает прямо на iPhone без единого запроса в облако. Разработала её компания PrismML, основанная выпускниками Caltech, а в основе лежит модель Qwen3.6-27B от Alibaba. По данным CNBC, Apple уже тестирует эту технологию сжатия для собственных нужд. Для владельца iPhone 17 Pro Max это значит одно: полноценный ИИ-агент с рассуждениями, работой с инструментами и распознаванием изображений теперь может жить в кармане и не зависеть от связи.
Почему оффлайн ИИ важен именно тебе
Если ты фрилансер или предприниматель и уже платишь за API нейросетей, ты знаешь, как быстро набегают токены — особенно когда агент делает десятки вызовов подряд. Bonsai 27B убирает эту статью расходов: раз модель считает на устройстве, каждый шаг цепочки рассуждений ничего не стоит. Плюс — данные не покидают телефон. Это критично, если агент читает твою переписку, документы или скриншоты экрана: локальный ИИ обрабатывает всё офлайн, а в облако летят только самые сложные запросы. PrismML прямо называет это фундаментом для «всегда включённых» ассистентов и гибридных систем, где простое считается на телефоне, а сложное — на серверах.
Как PrismML сжала модель для ии на iphone до 3,9 ГБ
Обычно модель такого размера весит 54 ГБ, а после стандартного сжатия — около 18 ГБ. PrismML пошла дальше: вместо привычных 16 бит на каждый вес нейросети используется 1–2 бита. В самом агрессивном варианте у каждого веса всего два состояния, в чуть более крупном — три. Это и есть суть технологии PrismML — сжатие применяется по всей языковой модели целиком, а не выборочно, как у конкурентов. Для сравнения: похожий по названию «2-битный» билд Qwen3.6-27B на деле использует в среднем 2,8 бита на вес — просто маркировка вводит в заблуждение. У Bonsai всё честно, и именно поэтому 1-битная версия показывает лучшую в отрасли «плотность интеллекта» на гигабайт.
Что реально умеет лучший ии в телефоне
По собственным тестам PrismML на 15 бенчмарках, старшая версия (для ноутбуков, 5,9–8,49 ГБ) сохраняет 95% качества оригинала, младшая для смартфонов — 90%. Математика и код почти не пострадали. Просели распознавание изображений, следование инструкциям и работа с агентными инструментами — но не критично. Показательный момент: сжатая до 3,9 ГБ версия Bonsai набрала 76,1 балла против 72,7 у конкурирующей модели весом 9,4 ГБ. На iPhone 17 Pro Max мобильный ИИ без интернета выдаёт около 11 токенов в секунду, а одного процента заряда батареи хватает примерно на 672 токена.
Что делать с этим ии в телефоне самсунг уже сейчас
Переговоры PrismML с Apple пока на ранней стадии, но CEO компании Бабак Хассиби подтвердил: тестируют скорость, энергопотребление и качество — и «прогресс есть». Если тренд закрепится, в ближайших iPhone стоит ждать встроенных офлайн-ассистентов без подписок на облачный ИИ. Тем, кто строит продукты на базе нейросетей, уже сейчас имеет смысл присматриваться к on-device AI как к способу сократить расходы на API и снять вопрос приватности данных пользователей — это направление явно не разовый эксперимент, а следующий этап гонки ИИ-гигантов.
Комментарии 0