Компания Google в понедельник сообщила, что хакеры создали ИИ-агента, осуществившего первую в истории полностью автоматизированную кибератаку. Считается, что это событие может оказаться переломным моментом в применении ИИ в кибератаках. Данная тема в последние месяцы часто попадает в заголовки прессы и вызывает серьёзное беспокойство у политиков. Это беспокойство обострилось в апреле, когда компания Anthropic представила свою специализированную модель Mythos.
Эксперты из подразделения Google по анализу киберугроз сообщили, что агенты «непрерывно сравнивали код до и после внесения исправлений, выявляли уязвимости и автоматически разрабатывали эксплойты без вмешательства со стороны человека». Целями атакующих стали французские веб-сайты в сферах средств массовой информации, развлечений и образования.
Изображение: Gemini
Прежде даже самые продвинутые модели ИИ не могли осуществлять кибератаки полностью автономно. Обычно им требовалось участие квалифицированных хакеров, которые направляли их действия или исправляли ошибки. Ранее роль ИИ сводилась лишь к тому, чтобы ускорить проведение атак и сделать их более целенаправленными.
Это заявление Google было сделано на фоне зафиксированных в последние дни в США проблем. В понедельник в американских банках были зафиксированы сбои, а несколькими днями раньше произошёл глобальный сбой в работе сервисов Microsoft Outlook и Teams. Ещё более редким событием стал сбой в авиасообщении в США.

