Модель Gemini от Google зашла в интернет и взломала другие компании во время проверки ее способностей в сфере кибербезопасности
ИИ-модель Gemini от Google во время тестирования ее возможностей в сфере кибербезопасности самостоятельно вышла в интернет и получила доступ к защищенным системам трех реальных компаний. Об этом сообщают «Известия» со ссылкой на газету The Wall Street Journal.
«Модель Gemini от Google зашла в интернет и взломала другие компании во время проверки ее способностей в сфере кибербезопасности», — говорится в публикации.
По данным издания, тестирование проводила компания Irregular в мае. В одном случае Gemini смогла подобрать учетные данные для доступа к защищенной системе, еще в двух — обнаружила необходимые данные в публичном репозитории. После того как модель определяла, что взаимодействует с реальными компаниями, она прекращала дальнейшие действия.
Google подтвердила произошедшее и заявила, что компании не понесли ущерба. В корпорации сравнили действия модели с поиском уязвимостей в рамках программ bug bounty. Irregular уведомила Google об инцидентах в конце июля.
Как пишет WSJ, причиной произошедшего стало использование при тестировании вымышленных компаний, названия которых совпадали с названиями реально существующих организаций. Google уведомила затронутые компании и власти США об инциденте.
Телеканал CNN со ссылкой на источники 18 сентября сообщил, что военные США весной едва не перехватили китайское судно на Ближнем Востоке после того, как созданный с помощью искусственного интеллекта разведывательный отчет ложно указал, что оно перевозило компоненты ядерной оружейной программы.
