Безопасность ИИ оказалась под вопросом после того, как на GitHub нашли 1122 файла с утечкой паролей, созданных с помощью Claude. Проблему выявила компания Apiiro, которая занимается защитой разработки на основе ИИ-агентов. Получается, что нейросеть могла незаметно вписывать в код настоящие пароли от чужих баз данных, а такой код потом попадал в открытый доступ.
Что на самом деле случилось
GitHub — это огромное хранилище кода в интернете, куда разработчики со всего мира выкладывают проекты: от учебных поделок до серьёзных коммерческих продуктов. Когда код пишет человек, он обычно знает, что пароли, ключи доступа и прочие секретные данные нельзя «зашивать» прямо в файлы — их нужно прятать отдельно и защищать. Но когда код генерирует ИИ, он иногда действует как студент, который переписывает пример из учебника буквально — включая тестовые или даже реальные пароли, которые оказались у него «под рукой» в процессе работы.
Компания Apiiro, специализирующаяся на безопасности agentic-разработки (то есть разработки, где часть работы берёт на себя ИИ-агент), нашла 1122 таких файла, где Claude оставил пароли прямо в открытом коде. Эти файлы оказались доступны любому желающему на GitHub — то есть теоретически скачать и использовать чужие учётные данные мог кто угодно.
Почему это касается лично тебя
Даже если ты не программист, эта история затрагивает тебя сразу в нескольких сценариях.
• Фрилансер-разработчик делает сайт клиенту с помощью ИИ для генерации кода и, не проверяя результат, выкладывает его на GitHub вместе с паролем от админки — клиент потом удивляется, почему сайт взломали.
• Владелец небольшого интернет-магазина нанимает удалённого исполнителя, который использует нейросеть для ускорения работы, а в итоге пароли от платёжной системы оказываются в открытом репозитории.
• Студент, изучающий программирование, копирует сгенерированный ИИ код в свой учебный проект на GitHub — и не замечает, что внутри остался чужой или тестовый пароль, который теперь виден всем.
• Предприниматель без технического бэкграунда заказывает автоматизацию бизнес-процессов через ИИ и не проверяет, не «утекли» ли куда-то рабочие данные компании.
• HR-специалист или маркетолог, экспериментирующий с генерацией кода нейросетью для простых задач (лендинг, форма сбора заявок), рискует случайно опубликовать конфиденциальные данные вместе с кодом.
Во всех этих случаях правила безопасности с ИИ — это не занудство, а реальная защита от утечки данных на GitHub и подобных платформах.
Как проверить себя и попробовать безопасно прямо сейчас
Шаг 1. Если ты пользуешься Claude или другой нейросетью для написания кода, открой Claude и попроси его явно: «Проверь этот код на наличие паролей, ключей API и других секретных данных перед публикацией».
Шаг 2. Никогда не копируй сгенерированный код сразу в публичный репозиторий — сначала просмотри его глазами, особенно переменные с именами вроде пароль, токен, ключ, секрет.
Шаг 3. Если уже выкладывал код на GitHub, зайди в свои репозитории и быстро проверь файлы конфигурации — не светится ли там что-то похожее на реальный пароль.
Шаг 4. Попроси ИИ сгенерировать код с использованием переменных окружения вместо «зашитых» паролей — это стандартная практика безопасности при использовании ИИ, которая закрывает большую часть риска.
Шаг 5. Если работаешь в команде или с подрядчиками, введи простое правило: любой код, созданный ИИ, проходит проверку перед публикацией — хотя бы беглую.
Что это меняет и в чём ограничения
Плюс в том, что проблема — на виду, её заметили, о ней говорят, и значит, инструменты для автоматической проверки кода (как у Apiiro) будут развиваться и становиться доступнее. Через несколько месяцев вероятно появление более удобных способов для обычных пользователей проверять свой код на утечки, не разбираясь в нюансах программирования. Минус — пока такая ответственность во многом лежит на самом человеке: ИИ для генерации кода, даже самый продвинутый, не гарантирует стопроцентной безопасности, и слепо доверять ему рискованно, особенно если работаешь с реальными данными клиентов или бизнеса.
Что делать уже сегодня
Безопасность ИИ — это не про страх перед нейросетями, а про привычку проверять результат, прежде чем он станет публичным. Сохрани эту статью, если используешь ИИ для кода хотя бы изредка, и в ближайший раз, когда получишь готовый фрагмент от Claude, потрать минуту на проверку — это дешевле, чем разбираться с последствиями утечки. Поделись сомнениями или своим опытом в комментариях в @aigoby — разберём вместе.
🎁 Бонус: промпт для проверки кода на утечки
```
Проверь этот код на наличие:
• паролей и логинов, "зашитых" прямо в текст
• API-ключей и токенов доступа
• адресов баз данных с данными для входа
• любых других конфиденциальных данных
Если что-то нашёл — укажи строку и предложи безопасный способ замены (например, через переменные окружения).
Вот код:
[вставь сюда свой код]
```



Комментарии 0