Поставить ИИ на телефон без интернета теперь реально: открытое приложение Cortiq Mobile для Android и iOS запускает нейросети прямо на смартфоне, и на iPhone 16 модель LFM2.5 230M Q4TP выдала 162,1 токена в секунду — это 95 токенов ответа всего за 0,6 секунды. Проще говоря, нейросеть без интернета работает: отвечает на вопросы, читает твои файлы и переводит письма без единого мегабайта трафика. Работает в самолёте, в метро, на даче без вышки и в странах, где связь ограничивают.
Что вообще случилось
Вышло приложение Cortiq Mobile — с открытым кодом, для Android и iOS (в AppStore его пока нет, идёт проверка). Оно запускает модели формата CMF, то есть Cortiq Model Format. Это самое интересное место, объясню на пальцах.
Обычно модель — это ворох файлов: веса отдельно, настройки отдельно, токенизатор отдельно, и без инструкции не разберёшься. CMF собирает всё в один файл. Внутри — веса, архитектура, токенизатор, описание задач и шаблон чата. Файл сам о себе рассказывает: сколько у модели слоёв, какой контекст, сколько памяти ей нужно. Приложение читает эту «этикетку» ещё до загрузки и показывает её прямо в библиотеке. Как коробка с конструктором, на которой честно написано, что внутри и на какой стол это влезет.
Скорость проверили на реальном железе: iPhone 16 (чип A18), модель lfm2.5-230m-q4tp на 230 миллионов параметров, 14 слоёв, файл весит всего 126 MiB. Считает на процессоре, в пять потоков, GPU даже не включался. Параметры генерации — temperature 0.10, top_p 0.95, max_tokens 128. Замеры делали на сборке TestFlight 1.3.0 (47), а исходный код версии 1.3.0 лежит открыто.
Что это даёт лично тебе
Сценарии простые и бытовые.
• Мама двоих детей в поезде. Интернета нет, а надо разобрать школьный реферат в формате txt. Прикрепляешь файл к диалогу — и модель отвечает по нему. Лимит — до 512 KiB текста, этого хватает на большую статью или кусок кода.
• Фрилансер в стране с ограниченной связью. Клиент прислал письмо на английском. Специальная модель Hy-MT2 на 1,8 миллиарда параметров переводит офлайн: русский на английский и обратно, немецкий, турецкий, китайский на русский. Чат-модель для перевода даже не нужна — Hy-MT2 умеет только переводить, зато делает это отлично. В исходных тестах на iPhone было семь заданий, включая идиому и кусок JSON.
• Владелец кофейни. Ему не нужен красивый текст, ему нужно решение. Режим Decisions отдаёт программе готовый структурированный ответ вместо болтовни — аналог Jev. Это уже про автоматизацию рутины, а не про «поболтать с ИИ».
• Студент на паре без Wi-Fi. Конспект, методичка, таблица с данными — всё летит в чат, и можно спрашивать по существу. Каждый диалог хранится отдельной темой со своим контекстом, ответы идут потоком, под каждым видно время, число токенов и tok/s.
• Разработчик-одиночка. Дома тот же телефон становится локальным AI-сервером: в доверенной сети отдаёт ноутбуку локальный API. Одна модель — на всех устройствах.
• Всем, кто устал платить за подписки. Это те самые ИИ на телефон: поставил приложение, скачал модель — и дальше считаешь на своём железе.
Как попробовать прямо сейчас
Шаг 1. Скачать ИИ на телефон просто: ставишь Cortiq Mobile. Android — из Google Play. На iOS приложение ещё проходит проверку в AppStore, так что путь один — тестовая сборка. Исходный код версии 1.3.0 открыт: infosave2007/cmfmobile, там же ссылки на страницу со скриншотами на Hugging Face Space.
Шаг 2. Открываешь каталог моделей. У каждой модели видно, что это: Chat или Decisions. Выбираешь готовый .cmf — он скачивается в один тап. Если сеть оборвётся, докачка пойдёт с последнего байта, а не с нуля.
Шаг 3. Запускаешь чат. Каждый диалог — отдельная тема со своим контекстом. Ответы приходят потоком, под ними время, токены и tok/s.
Шаг 4. Прикрепляешь документ: txt, md, код или JSON — до 512 KiB. Файл становится частью разговора, и модель отвечает по нему. Подойдёт любая чат-модель с шаблоном чата и контекстом от 2048 токенов.
Шаг 5. Нужен перевод — берёшь в каталоге Hy-MT2 и не мучаешь чат-модель лишним.
Есть и продвинутые пути, если хочется свою модель. Любой подходящий репозиторий с Hugging Face в формате safetensors приложение сконвертирует в CMF прямо на телефоне. Модель в GGUF переводится в CMF настольной утилитой cortiq import-gguf и импортируется готовым файлом. Тот же формат читает и движок Cortiq на компьютерах.
Плюсы, минусы и что изменится
Скачал модель один раз — считаешь сколько хочешь. Плюс второй: приватность. Документ никуда не уходит, всё происходит на твоём телефоне — это важно, если работаешь с чужими текстами, договорами или клиентскими данными. Плюс третий: работает там, где связи нет — метро, электрички, деревня, перелёты, заграница с блокировками. Плюс четвёртый: телефон уже по скорости догоняет ноутбук, а значит часть задач можно перенести с платных сервисов.
Что будет дальше: возможно, через месяц-полгода нормальным станет держать на телефоне не одну модель, а набор — чат, переводчик, решатель. И переключать их под задачу, как приложения.
Минусы честно: на iOS приложение пока не в AppStore, идёт проверка — придётся идти через тестовую сборку. Документ — до 512 KiB, большие файлы не влезут. Модель на 230 миллионов параметров компактная, это рабочий инструмент для бытовых задач, а не гигант из облака. Hy-MT2 умеет только переводить — другого от неё не жди.
Попробуй сегодня
Скачай приложение, возьми в каталоге одну модель Chat и одну Decisions, включи авиарежим и задай вопрос. Просто чтобы своими глазами увидеть: нейросеть отвечает без интернета. Это займёт минуты, а привычка «сначала спросить у локального ИИ» сэкономит тебе подписки и нервы. Сохрани статью, чтобы не искать инструкцию потом, и напиши в комментариях, что у тебя получилось.
🎁 Бонус: готовый промпт для офлайн-чата
Скопируй и вставь в диалог — он заточен под компактную модель, поэтому короткий и без лишних украшений.
```
Ты — мой помощник по работе с документами. Ниже я прикреплю файл.
Сделай три вещи по порядку:
1. Дай суть в 5 пунктах, каждый — одна строка.
2. Выпиши все числа, даты и сроки отдельным списком.
3. Найди 3 места, где непонятно или не хватает данных, и задай по каждому один уточняющий вопрос.
Отвечай по-русски, без вступлений и без похвал.
```
Комментарии 0