Безопасность ИИ оказалась под вопросом после того, как на GitHub нашли 1122 файла с утечкой паролей, созданных с помощью Claude. Проблему выявила компания Apiiro, которая занимается защитой разработки на основе ИИ-агентов. Получается, что нейросеть могла незаметно вписывать в код настоящие пароли от чужих баз данных, а такой код потом попадал в открытый доступ.

Что на самом деле случилось

GitHub — это огромное хранилище кода в интернете, куда разработчики со всего мира выкладывают проекты: от учебных поделок до серьёзных коммерческих продуктов. Когда код пишет человек, он обычно знает, что пароли, ключи доступа и прочие секретные данные нельзя «зашивать» прямо в файлы — их нужно прятать отдельно и защищать. Но когда код генерирует ИИ, он иногда действует как студент, который переписывает пример из учебника буквально — включая тестовые или даже реальные пароли, которые оказались у него «под рукой» в процессе работы.

Компания Apiiro, специализирующаяся на безопасности agentic-разработки (то есть разработки, где часть работы берёт на себя ИИ-агент), нашла 1122 таких файла, где Claude оставил пароли прямо в открытом коде. Эти файлы оказались доступны любому желающему на GitHub — то есть теоретически скачать и использовать чужие учётные данные мог кто угодно.

Почему это касается лично тебя

Даже если ты не программист, эта история затрагивает тебя сразу в нескольких сценариях.

• Фрилансер-разработчик делает сайт клиенту с помощью ИИ для генерации кода и, не проверяя результат, выкладывает его на GitHub вместе с паролем от админки — клиент потом удивляется, почему сайт взломали.

• Владелец небольшого интернет-магазина нанимает удалённого исполнителя, который использует нейросеть для ускорения работы, а в итоге пароли от платёжной системы оказываются в открытом репозитории.

• Студент, изучающий программирование, копирует сгенерированный ИИ код в свой учебный проект на GitHub — и не замечает, что внутри остался чужой или тестовый пароль, который теперь виден всем.

• Предприниматель без технического бэкграунда заказывает автоматизацию бизнес-процессов через ИИ и не проверяет, не «утекли» ли куда-то рабочие данные компании.

• HR-специалист или маркетолог, экспериментирующий с генерацией кода нейросетью для простых задач (лендинг, форма сбора заявок), рискует случайно опубликовать конфиденциальные данные вместе с кодом.

Во всех этих случаях правила безопасности с ИИ — это не занудство, а реальная защита от утечки данных на GitHub и подобных платформах.

Как проверить себя и попробовать безопасно прямо сейчас

Шаг 1. Если ты пользуешься Claude или другой нейросетью для написания кода, открой Claude и попроси его явно: «Проверь этот код на наличие паролей, ключей API и других секретных данных перед публикацией».

Шаг 2. Никогда не копируй сгенерированный код сразу в публичный репозиторий — сначала просмотри его глазами, особенно переменные с именами вроде пароль, токен, ключ, секрет.

Шаг 3. Если уже выкладывал код на GitHub, зайди в свои репозитории и быстро проверь файлы конфигурации — не светится ли там что-то похожее на реальный пароль.

Шаг 4. Попроси ИИ сгенерировать код с использованием переменных окружения вместо «зашитых» паролей — это стандартная практика безопасности при использовании ИИ, которая закрывает большую часть риска.

Шаг 5. Если работаешь в команде или с подрядчиками, введи простое правило: любой код, созданный ИИ, проходит проверку перед публикацией — хотя бы беглую.

Что это меняет и в чём ограничения

Плюс в том, что проблема — на виду, её заметили, о ней говорят, и значит, инструменты для автоматической проверки кода (как у Apiiro) будут развиваться и становиться доступнее. Через несколько месяцев вероятно появление более удобных способов для обычных пользователей проверять свой код на утечки, не разбираясь в нюансах программирования. Минус — пока такая ответственность во многом лежит на самом человеке: ИИ для генерации кода, даже самый продвинутый, не гарантирует стопроцентной безопасности, и слепо доверять ему рискованно, особенно если работаешь с реальными данными клиентов или бизнеса.

Что делать уже сегодня

Безопасность ИИ — это не про страх перед нейросетями, а про привычку проверять результат, прежде чем он станет публичным. Сохрани эту статью, если используешь ИИ для кода хотя бы изредка, и в ближайший раз, когда получишь готовый фрагмент от Claude, потрать минуту на проверку — это дешевле, чем разбираться с последствиями утечки. Поделись сомнениями или своим опытом в комментариях в @aigoby — разберём вместе.

🎁 Бонус: промпт для проверки кода на утечки

```

Проверь этот код на наличие:

• паролей и логинов, "зашитых" прямо в текст

• API-ключей и токенов доступа

• адресов баз данных с данными для входа

• любых других конфиденциальных данных

Если что-то нашёл — укажи строку и предложи безопасный способ замены (например, через переменные окружения).

Вот код:

[вставь сюда свой код]

```