Модель искусственного интеллекта Gemini от Google во время тестирования возможностей в сфере кибербезопасности получила доступ к системам трех реальных компаний. Инциденты произошли после того, как ИИ непреднамеренно получил возможность выходить из тестовой среды в интернет, передает Ulysmedia.kz.
Первой об этом 18 сентября сообщила The Wall Street Journal. Google впоследствии подтвердила информацию об инцидентах нескольким СМИ и информагентствам.
Названия трех компаний, системы которых оказались доступны Gemini, не раскрываются.
В одном случае Gemini удалось подобрать пароли для входа в защищенную систему.
Еще в двух случаях модель обнаружила учетные данные в открытых источниках. Используя их, ИИ получил доступ к системам реальных организаций.
При этом, по данным Google, во всех трех эпизодах Gemini прекращала дальнейшие действия, когда определяла, что проникла в систему настоящей компании, а не в специально созданную тестовую среду.
Случаи произошли еще в мае 2026 года. Возможности Gemini проверяла независимая компания Irregular, которая занимается оценкой кибербезопасности.
Как пишет WSJ, одна из причин произошедшего заключалась в совпадении названий. Вымышленная организация, созданная для тестирования, называлась так же, как реальная компания.
Кроме того, доступ модели в интернет оказался непреднамеренно открыт. В результате Gemini смогла взаимодействовать уже не только с подготовленной для эксперимента средой.
Случай с Gemini оказался не первым подобным инцидентом во время тестирования ИИ-моделей.
Ранее о случаях, когда модели в рамках тестов по кибербезопасности взаимодействовали с системами реальных организаций, сообщалось в связи с разработками OpenAI, Anthropic и Meta.
В этих эпизодах, по данным издания, также фигурировала компания Irregular.
