Детектор OpenAI по имени textGrain сдаётся, как только ты меняешь 25% слов на синонимы: проверка текста на ИИ обваливается с 92% до 17%. Заменишь 10% слов — точность просядет с 92% до 66%. Эти цифры компания опубликовала сама, вместе с запуском технологии. И самое главное: отсутствие найденного водяного знака не доказывает, что текст написал человек.
Что вообще произошло
«OpenAI выпустила textGrain — решение в ответ на требование о происхождении контента в европейском законе об ИИ, EU AI Act, статья 50(2).» Если по-простому: регулятор требует, чтобы у сгенерированного текста был след, по которому можно понять, что его сделала машина. OpenAI решила задачу через водяной знак — невидимую статистическую метку, вплетённую прямо в выбор слов. Глазами её не видно, читать она не мешает, а найти её можно только секретным ключом самой OpenAI.
Самое интересное тут даже не сам знак, а то, что компания честно показала, как легко он ломается. Вместе с релизом выложили график отказов, где видно: чем больше слов ты меняешь, тем хуже работает детектор.
Почему метка разваливается
Водяной знак работает не как штамп на бумаге, а как лёгкий перекос в вероятностях. Когда модель пишет, она чуть чаще выбирает одни слова вместо других — по секретному правилу. Если ты потом переписываешь текст своими словами или прогоняешь его через перевод туда-обратно, этот перекос рассыпается.
Цифры жёсткие. Заменил 10% слов на синонимы — детекция упала с 92% до 66%. Заменил 25% — упала до 17%. То есть почти вровень со случайным угадыванием. Плюс есть два слепых пятна: математические выкладки и короткие отрывки почти не маркируются вообще, потому что там у модели слишком мало свободы в выборе слов.
Что это даёт лично тебе
• Мама двоих детей, которая ведёт блог о воспитании. Она пишет посты с помощью ИИ, а потом правит их своим голосом — меняет формулировки, добавляет личные истории. Раньше боялась, что её «поймают», теперь понимает: после нормальной редактуры метка и так не выживает, а её отсутствие ничего не доказывает.
• Владелец кофейни. Ему нужно каждый день писать посты и отвечать на отзывы. Он надиктовывает черновик ИИ, потом просит переписать «проще и теплее» — и всё. Время на контент падает с часа до десяти минут.
• Фрилансер-дизайнер. Присылает клиенту описание концепции, написанное с помощью ИИ, а клиент прогоняет его через ИИ-детектор онлайн и обвиняет в «неживом тексте». «Теперь у фрилансера есть аргумент: даже OpenAI пишет, что отсутствие водяного знака не доказывает, что текст написал человек.»
• Студент. Готовит реферат, пересказывает источники своими словами — метка не сохраняется. Но полагаться на это как на способ обойти преподавателя не стоит, и ниже я объясню почему.
• Копирайтер на бирже. Заказчик требует «человеческий текст по детектору». Ты уже знаешь, что такой детектор ничего не гарантирует, и можешь спокойно обсуждать с заказчиком качество, а не мифические проценты.
• Предприниматель, который запускает рассылку. Ему важно, чтобы письма не попадали в спам и читались живо. Он прогоняет текст через ИИ, потом сам переписывает первые абзацы — и получает и скорость, и человеческий тон.
Как попробовать прямо сейчас
1. Открой демо-объяснение с «лабораторией атак» — там есть готовый текст с водяным знаком. Ссылка: интерактивный разбор textGrain. Внутри на той же странице есть ссылка на французскую версию.
2. В лаборатории примени замену синонимов. Смотри, как p-value (вероятность случайно увидеть такой результат) обваливается в реальном времени. Сначала поменяй 10% слов, потом 25% — и сравни ощущения.
3. Попробуй прогон через перевод туда-обратно. Переведи текст на другой язык и обратно. Метка рассыпается так же, как от синонимов.
4. Переключись на «математический» режим. Увидишь, что формулы и короткие пассажи почти не помечаются — детектору просто не за что зацепиться.
5. Возьми свой собственный текст. Сгенерируй абзац в ChatGPT, а потом перепиши его своими словами — так, как ты обычно говоришь. Сравни, как меняется результат.
6. Хочешь копнуть в первоисточник — открой пост OpenAI про текстовое происхождение. Там та самая официальная кривая отказов.
Плюсы и что изменится
Раньше проверка текста на ИИ выглядела как чёрный ящик: сервис выдаёт процент, и никто не знает, откуда он взялся. Теперь у тебя есть публичные цифры и рабочий способ проверить их самому — бесплатно, в браузере. «Теперь можно обсуждать проверку предметно.»
Для обычного человека тут несколько выгод. Во-первых, страх «а вдруг меня вычислят» становится менее острым: метка не выдерживает нормальной редактуры. Во-вторых, у тебя появляется честный аргумент в спорах с заказчиками и преподавателями, если те ссылаются на детектор как на истину. «В-третьих, ты начинаешь понимать, что любой ИИ-детектор — это вероятностная оценка, а не окончательный вердикт.»
Через полгода, скорее всего, появится больше таких меток от разных компаний и одновременно больше способов их обойти. Тот, кто понимает механику, будет спокойнее относиться к шумихе вокруг «AI-детекторов» и не потратит деньги на сомнительные сервисы.
Честно про минусы
Ограничения тоже важно знать. Замена синонимов ослабляет метку — но то же самое делает любой сильный рерайт, а значит, метка плохо защищает от целенаправленного обхода. Математика и короткие тексты почти не маркируются, то есть для них вся система бесполезна. И главное — слова самой OpenAI: отсутствие обнаруженного водяного знака не доказывает человеческое авторство. Если кто-то обещает тебе проверку на ИИ-текст бесплатно и «со 100% точностью», это как минимум повод не верить на слово.
Вывод и одно действие на сегодня
«Водяные знаки ИИ — не гарантия и не универсальное решение.» Это хрупкая статистическая метка, которая честно ломается от простой редактуры, и OpenAI сама это признала, выложив цифры и график.
Сделай одно простое действие прямо сейчас: открой лабораторию атак, поменяй синонимы в тестовом тексте и посмотри, как детектор сдаётся. А если хочешь разбираться в ИИ без иллюзий — заходи в @aigoby и задай свой вопрос в комментариях.
🎁 Бонус: промпт для переписывания текста
Скопируй этот промпт и вставь в ChatGPT, когда нужно превратить машинный черновик в живой текст:
```
Ты — редактор, который пишет простым человеческим языком.
Перепиши текст ниже так, чтобы он звучал как рассказ знающего друга:
• замени минимум четверть слов на синонимы, где это уместно;
• убери канцелярит и штампы вроде «в современном мире» и «важно отметить»;
• добавь один конкретный бытовой пример;
• сохрани все факты и цифры без изменений;
• длина — плюс-минус 10% от исходной.
Текст:
[вставь сюда свой черновик]
```
Такой прогон заодно проверяет на практике то, о чём писала OpenAI: после нормальной редактуры от водяного знака остаётся немного.
Комментарии 0