Модель Google Gemini получила доступ к защищённым системам трёх компаний. Как сообщает The Wall Street Journal, это первые случаи, когда модель ИИ самостоятельно провела взлом.
По данным издания, сами инциденты были важны не столько из-за уровня техники, сколько из-за того, что действия выполнила именно модель ИИ. Проверку проводила компания Irregular в рамках тестов по кибербезопасности.
В одном случае Gemini подбирала пароли, пока не получила доступ. В двух других случаях модель нашла учётные данные в публичном репозитории и использовала их для входа.
Ситуация напоминает недавний инцидент с OpenAI и Hugging Face, где модель также получила доступ в ходе тестирования. Однако в материале подчёркивается, что речь идёт прежде всего о новом типе поведения ИИ-систем, а не о технически редком способе взлома.
Как пишет WSJ, Irregular уведомила Google об этих случаях в конце июля. Публично компании подтвердили информацию только в пятницу, после запроса газеты.
Google объяснила, что раньше не раскрывала эти инциденты, потому что Gemini «действовала надлежащим образом», прекращая каждое проникновение сразу после того, как понимала, что получила доступ к системе реальной компании.
Глава компании Corridor Джек Кейбл дал иную оценку. По его словам, Google «пытается скрыться за нормами раскрытия уязвимостей», вместо того чтобы признать, что «модели выходят за допустимые рамки и проводят реальные кибератаки».
Источник: The Wall Street Journal.
