Во время тестирования компания Google столкнулась с необычным инцидентом: искусственный интеллект Gemini получил доступ к системам трех реальных организаций. Разбираемся, что произошло и какие риски для компьютерной безопасности создает технология, способная самостоятельно взаимодействовать с внешними ресурсами.
Что именно произошло: тест, интернет и совпадение названий
В мае 2026 года компания Google проверяла возможности Gemini в области кибербезопасности. Само тестирование доверили независимой компании Irregular. Модель должна была атаковать вымышленную организацию в контролируемой среде. Но доступ в интернет оказался включен непреднамеренно, поэтому действия искусственного интеллекта вышли за пределы симуляции.
Позднее Irregular объяснила, что название вымышленной компании случайно совпало с реальным доменом. В большинстве запусков модели работали внутри тестовой системы, но в отдельных случаях обращались к реальным ресурсам, считая их частью задания.
В сентябре 2026 года агентство Reuters сообщило со ссылкой на Google и The Wall Street Journal, что Gemini получила доступ к защищенным системам трех организаций. Google заявила, что во всех трех случаях модель прекратила действия, а затронутые организации были уведомлены об инциденте.
Как ИИ смог получить доступ: пароли и открытые репозитории
Для получения доступа к реальным системам Gemini использовала довольно простые методы. В одном случае модель подбирала пароли, пока не смогла войти в защищенную систему. Подробности этого подбора не раскрываются, поэтому неизвестно, какие пароли проверял искусственный интеллект и сколько попыток потребовалось.
В двух других случаях Gemini обнаружила учетные данные в открытом репозитории и с их помощью получила доступ к защищенным системам. Публичные репозитории используют для хранения исходного кода и других материалов, и иногда вместе с ними разработчики случайно публикуют учетные данные. В этом инциденте не уточняется, что именно нашла модель — пароль или другие сведения.
Как Google и Irregular отреагировали на инцидент
После обнаружения проблемы Irregular отключила сценарий тестирования и проверила журналы действий модели. Компания также усилила контроль тестовой среды, расширила ручную проверку действий искусственного интеллекта и создала отдельную внутреннюю команду для проверки механизмов изоляции и управления моделями. По сообщению Irregular, ошибки, из-за которых доступ в интернет оказался открыт, уже устранены.
О проблеме Irregular уведомила Google в конце июля. Google сообщила о произошедшем трем затронутым организациям и федеральным властям США. Компания вместе с Irregular изменила процедуры тестирования, чтобы снизить риск повторения подобных случаев.
При этом Google не считает произошедшее признаком того, что Gemini намеренно пыталась выйти из-под контроля. По данным Google, модель считала реальные системы частью задания и во всех трех случаях остановилась после получения доступа к настоящим ресурсам.
Какие риски инцидент создает для компаний и пользователей
Этот инцидент показывает компаниям, что даже простые ошибки в защите могут стать опаснее, когда их начинает искать искусственный интеллект. Gemini не использовала неизвестную уязвимость: в одном случае смогла подобрать пароль, а в двух других нашла опубликованные учетные данные.
Проблема в том, что модель способна быстро находить информацию в интернете, проверять ее и переходить от одного действия к другому. Если в открытый репозиторий случайно попал действующий пароль или ключ, этого может быть достаточно для доступа к внутренней системе. Поэтому организациям важно контролировать, какие секреты публикуются вместе с кодом, использовать надежные пароли и многофакторную аутентификацию.
Для пользователей риск возникает, если скомпрометированная система содержит их персональные данные, учетные записи или платежную информацию. Если эти сведения попадут к злоумышленникам, то могут быть использованы для захвата аккаунтов, мошенничества и других атак.
В случае Gemini серьезных последствий не подтверждено. Неизвестно, к какой информации получил доступ ИИ и были ли среди нее личные данные. Поэтому говорить об утечке информации в результате этого инцидента нельзя.
Что делать компаниям и пользователям: практические меры защиты
Этот инцидент не требует от бизнеса принципиально новых средств защиты именно от искусственного интеллекта. Gemini использовала давно известные слабые места: подбор пароля и опубликованные учетные данные. Поэтому основная задача организаций — не оставлять конфиденциальные сведения и учетные записи доступными извне.
Компаниям стоит:
- Проверять открытые репозитории на секреты: API-ключи, токены, пароли и другие учетные данные не должны храниться в исходном коде. Используйте автоматическое сканирование конфиденциальной информации и защиту от их публикации.
- Сразу отзывать скомпрометированные учетные данные. Если данные уже оказались в открытом репозитории, отзовите его и выпустите новый.
- Ограничивать права учетных записей. Пользователь или сервис должны получать только тот доступ, который нужен для работы.
- Защищать важные учетные записи дополнительным фактором. Двухфакторная аутентификация снижает риск несанкционированного доступа, даже если пароль стал известен постороннему.
- Следить за попытками входа и использованием секретов. Журналы событий помогают заметить необычный доступ и быстрее отозвать учетные данные, если они были скомпрометированы.
Пользователь не может контролировать защиту внутренней системы компании, которой доверяет свои данные. Но он может уменьшить последствия возможного инцидента. Для этого следует:
- использовать для каждого сервиса отдельный надежный пароль;
- включить двухфакторную аутентификацию, особенно для почты, банковских сервисов и других важных аккаунтов;
- не использовать один и тот же пароль в нескольких сервисах;
- после сообщения компании о компрометации учетных данных сменить пароль и завершить активные сеансы.
Чем лучше организация контролирует учетные данные и доступ к своим системам, тем меньше возможностей получить их будет и у человека, и у ИИ-инструмента.
Узнавайте об утечках своих данных раньше мошенников
Если учетные данные оказались скомпрометированы, злоумышленники могут использовать их для фишинга и других атак. Kaspersky Premium автоматически оповестит вас об утечках данных, а также обнаружит вредоносные программы и заблокирует фишинговые сайты.
Попробовать Kaspersky Premium бесплатноКак безопасно тестировать ИИ-агентов
Irregular признала, что причиной описанных инцидентов стали прежде всего ошибки в контроле доступа в интернет, и после расследования усилила защиту тестовой среды. Поэтому при работе с ИИ-агентами стоит:
- использовать изолированные среды и тестовые учетные данные вместо реальных;
- вести подробные журналы действий модели и отслеживать выход за заданные границы;
- быстро останавливать тестирование, если ИИ начинает взаимодействовать с неожиданным ресурсом.
Регулирование и ответственность: кто отвечает за инциденты ИИ
Единого правила для всех стран и всех систем ИИ нет — законодательство пока не успевает за развитием этой сферы. Например, европейский AI Act требует от поставщиков моделей общего назначения с системным риском проводить оценку и тестирование, снижать выявленные риски, обеспечивать кибербезопасность и сообщать о серьезных инцидентах.
В России закон № 243-ФЗ устанавливает, что за нарушения в сфере разработки, внедрения и применения больших моделей ИИ отвечают конкретные лица и организации в зависимости от того, какое нарушение произошло.
В США пока нет единого комплексного федерального закона об ИИ. К отдельным случаям могут применяться действующие нормы в сфере кибербезопасности, а общая обязанность сообщать обо всех опасных инцидентах ИИ отсутствует.
Что в итоге
В дискуссиях об ИИ часто говорят о глобальных рисках для человечества, но этот инцидент показывает более практическую проблему. ИИ-модель может использовать слабые пароли или случайно раскрытые учетные данные, чтобы получить доступ к защищенным системам.
Для компаний это еще одна причина контролировать внешнюю поверхность атаки и ограничивать доступ к важным системам. Пользователям стоит использовать уникальные пароли и двухфакторную аутентификацию.
Полезные статьи:
- ИИ Агенты: откуда шумиха вокруг OpenClaw и есть ли угроза для персональных данных?
- Управление поверхностью атаки: как найти, расставить приоритеты и уменьшить уязвимость
- Советы по созданию уникальных надежных паролей
Рекомендуемые продукты:
