ИИ-чат с персонажами в Character.AI оказался под ударом: 40 генеральных прокуроров США требуют защитить данные пользователей при банкротстве сервиса. Компания объявила о банкротстве по главе 11 и продаже части активов Disney. Прокуроры хотят, чтобы покупатель ввёл проверку возраста, ограничения для подростков, «кризисные предохранители» и удаление данных.
Что случилось на самом деле
Начнём с простого: глава 11 — это не «компания закрылась и всё исчезло». Это юридическая процедура, при которой бизнес продолжает работать, а долги и имущество разбирают под присмотром суда. Часть активов Character.AI объявили к продаже, и одним из покупателей называется Disney.
И тут в дело вступили прокуроры. Генеральный прокурор Нью-Йорка Летиция Джеймс рассказала, что расследование против сервиса шло не один год. Сорок генеральных прокуроров подали уведомление о заинтересованности в деле о банкротстве — это официальное «мы следим, и без наших условий сделку не пропустим». Формулировка простая: любые продажи и передачи бизнеса должны сначала решить вопросы защиты данных.
Что нашли в ходе проверки (по данным прокуратуры Нью-Йорка): чат-боты выдавали себя за лицензированных специалистов, пользователи сталкивались с сексуальным и жестоким контентом, проверка возраста была слабой, заявления о безопасности — вводящими в заблуждение, а законы штатов о приватности, возможно, нарушались. Договориться с компанией штаты не успели — та подала на банкротство раньше. Ни Character.AI, ни Disney оперативно на запросы журналистов не ответили; материал об этом вышел у The Verge.
Отдельная и очень тяжёлая часть истории: расследование началось в 2024 году после иска матери 14-летнего подростка. По её словам, разговор с чат-ботом состоялся буквально за секунды до трагедии. Среди требований прокуроров есть и «кризисные предохранители» — механизмы, которые должны срабатывать, когда человек в беде.
Что это даёт лично тебе
Главная новость не про Disney и не про юристов. Она про то, что защита данных в ИИ перестаёт быть абстракцией и становится темой, за которую берутся прокуроры. Вот как это выглядит в реальной жизни:
• Мама подростка теперь может зайти в телефон ребёнка и посмотреть, в каких ИИ-чатах он сидит. Если сервис не спрашивает возраст и не ограничивает темы — это тревожный сигнал. Она получает не повод для паранойи, а конкретный критерий: есть ли проверка возраста и понятные правила.
• Фрилансер-дизайнер, который привык скидывать в чат брифы клиентов вместе с именами, адресами и цифрами бюджета, задумается: эта переписка сейчас лежит на серверах компании, которая проходит процедуру банкротства. А значит, она часть имущества.
• Владелец кофейни, который обсуждал с ИИ поставщиков, наценки и слабые места конкурентов, поймёт простую вещь: его «внутренняя кухня» — это чувствительные данные для бизнеса, и их лучше не отдавать сервису, где нет нормальных настроек приватности.
• Студентка, которая выгружала боту личные переживания про семью и тревогу перед экзаменами, получает шанс на удаление этих данных — прокуроры прямо требуют дать пользователям такую возможность.
• Начинающий предприниматель, тестирующий идеи в ИИ-чате, теперь видит рычаг: если сервис ведёт себя мутно, на него можно жаловаться, и это уже работает в масштабе 40 генеральных прокуроров.
• Родитель, который ищет ребёнку «ИИ-чат без ограничений», наконец поймёт, что «без ограничений» обычно означает ещё и «без проверки возраста, без модерации и без защиты». Это не фича, это дырка.
Как проверить свои ИИ-чаты за десять минут
Инструмент сегодня — не новый сервис, а твоя голова и настройки. Делай по шагам:
1. Открой список всех ИИ-чатов, куда ты когда-либо писал: Character.AI, любые чат-боты с персонажами, ассистенты в приложениях, боты в мессенджерах. Просто выпиши их.
2. Найди раздел про данные и приватность. Ищи три слова: «удалить», «экспорт», «история». Есть кнопка удалить всю переписку и аккаунт — хорошо. Нет — ставь себе галочку «не писать сюда личное».
3. Удали то, что уже не нужно. Старые переписки, где есть имена клиентов, телефоны, адреса, документы, чужие персональные данные. Не жди, пока это станет чьим-то лотом на торгах.
4. Заведи правило одного вопроса: сказал бы ты это незнакомцу в очереди в поликлинике? Если нет — не пиши это боту. Это самый рабочий фильтр, который существует.
5. Обезличивай рабочие задачи. Вместо «Иван Петров, ООО “Ромашка”, точный бюджет» пиши «клиент из сферы услуг, бюджет средний». Смысл для ИИ не изменится, а утечки не будет.
6. Следи за делом Character.AI. Требование прокуроров — это индикатор: регулирование ИИ-чатов будут ужесточать по возрасту, модерации и удалению данных. Что сегодня необязательно, через полгода станет нормой.
Хочешь конкретики — вот что именно прокуратуры просят судью закрепить за покупателем активов: эффективная система подтверждения возраста, ограничения на то, как несовершеннолетние общаются с чат-ботами, «кризисные предохранители» и право пользователя удалить свои данные. Это и есть твой ориентир, когда выбираешь, какому сервису доверить свою переписку.
Плюсы и что будет дальше
Плюс первый: у обычного человека появляется реальный рычаг. Раньше жалоба на ИИ-сервис уходила в пустоту. Теперь сорок прокуроров из обеих партий официально заявляют, что данные пользователей — это не бесплатный ресурс, который можно продать вместе с серверами. Плюс второй: с рынка постепенно выдавят худшее — сервисы без проверки возраста, без кризисных протоколов, без кнопки «удалить меня». Плюс третий: появится понятный стандарт, по которому можно сравнивать чат-боты с персонажами, не разбираясь в юридических тонкостях.
Что может стать возможным: кнопка «удалить мои данные» превратится из редкой фишки в обязательную; при регистрации будут нормально спрашивать возраст; в разговорах с ботами появятся подсказки-предохранители. А ещё усилится давление в сторону обезличивания — и это выгодно всем, кто использует ИИ для работы с клиентскими данными.
Минус, и честно: данные, которые уже собраны, никуда не денутся — их могли скачать, скопировать, использовать для обучения моделей ещё до всей этой истории. Удаление аккаунта убирает доступ, но не отменяет прошлое. Ещё будет неприятная сторона: более строгие проверки возраста означают меньше анонимности, больше подтверждений личности и, возможно, платных тарифов там, где раньше было бесплатно. Зато меньше шансов, что твой личный разговор окажется на витрине.
Вывод и что сделать сегодня
Банкротство Character.AI — это не просто новость про очередной стартап. Это первый серьёзный сигнал: конфиденциальность данных в ИИ теперь защищают на уровне прокуроров штатов, а твоя переписка с ботом юридически — ценность, за которую стоит бороться.
Одно действие на сегодня: зайди в тот ИИ-чат, куда ты писал больше всего личного, и удали старые диалоги или аккаунт целиком. Пять минут — и ты уже в безопасности больше, чем вчера. А если хочешь разобраться глубже или не согласен с моим фильтром «сказал бы незнакомцу в очереди» — напиши своё мнение в комментариях у @aigoby, разберём вместе.
🎁 Бонус: промпт для аудита своих ИИ-сервисов
Скопируй это в любой удобный ИИ-чат и получишь персональный разбор рисков.
```
Ты — специалист по защите персональных данных. Помоги мне провести аудит моих ИИ-сервисов.
Мои сервисы (перечисли названия и для чего использую): ...
По каждому сервису задай мне 5 вопросов, чтобы оценить риск:
1. Есть ли там информация, по которой меня или других людей можно найти?
2. Есть ли данные клиентов, детей, медицинские или финансовые сведения?
3. Найду ли я в настройках кнопки «удалить историю» и «удалить аккаунт»?
4. Может ли этот сервис закрыться, сменить владельца или обанкротиться?
5. Что произойдёт с моими переписками, если это случится?
Затем составь для меня таблицу: сервис → уровень риска (низкий/средний/высокий) → что сделать в первую очередь.
Отдельно дай список из трёх привычек, которые снизят риски при работе с ИИ-чатами в будущем.
Пиши простым языком, без юридического жаргона.
```
Чек-лист, если промпт не нужен: проверь наличие кнопки удаления данных, никогда не пиши ИИ пароли и документы, обезличивай клиентов, следи за новостями сервиса, которому доверяешь переписку.
Комментарии 0