Написать в блог
Блоги
Global_Chronicles

Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Компания Anthropic провела испытания своей новой, еще не выпущенной модели искусственного интеллекта. Результаты показали, что нейросеть способна находить бреши в защите и использовать их так, как это делают опытные хакеры.
реклама

С развитием технологий программы становятся умнее, и это касается не только полезных приложений. Возможность нейросетей самостоятельно искать слабые места в компьютерных системах давно беспокоит специалистов по безопасности, ведь такие инструменты могут попасть в руки злоумышленников.

Изображение: The Hacker News

В ходе внутреннего тестирования специалисты Anthropic обратили внимание на необычное поведение своей экспериментальной модели. Нейросеть не просто находила отдельные ошибки в программном коде, а выстраивала их в логическую цепочку. Иначе говоря, она научилась комбинировать разные уязвимости, чтобы обойти защиту и получить доступ к системе.

реклама

Уязвимость — это ошибка в программе, которая позволяет постороннему вмешаться в ее работу. Обычно хакеры ищут одну большую брешь. Сложность в том, чтобы соединить несколько мелких недочетов, которые сами по себе кажутся безобидными, и превратить их в полноценный инструмент для взлома. Для этого нужен высокий уровень интеллекта и аналитических способностей.

Как сообщает The Hacker News, внутренняя модель Anthropic смогла не просто обнаружить ошибки в популярных программах, но и связать несколько таких ошибок в последовательности, позволяющие выполнить определенные действия на чужом устройстве. Компания описала пять подобных сценариев, затрагивающих браузеры Chrome и Safari, смартфоны на Android, а также компьютеры и серверы под управлением Windows и Linux.

Один из самых наглядных примеров связан с браузером Google Chrome. В лабораторном эксперименте специально подготовленная веб-страница позволяла запустить калькулятор на обычном компьютере Mac всего через несколько секунд после ее загрузки. Пользователю не требовалось нажимать дополнительные кнопки. Для этого модель объединила несколько отдельных уязвимостей, каждая из которых помогала обойти очередной уровень защиты браузера.

В случае с Safari потенциальная опасность была иной. Найденная цепочка ошибок позволяла веб-странице получить доступ к данным других сайтов, на которых пользователь уже вошел в свою учетную запись. В зависимости от обстоятельств это могло поставить под угрозу историю посещений, файлы авторизации и другие сведения, связанные с работой в интернете.

Отдельные сценарии касались мобильных устройств и серверов. Для Android модель продемонстрировала способ извлечения фотографий и других данных с заблокированного телефона, если злоумышленник имеет физический доступ к устройству и может подключить его через USB. Уязвимость в Windows позволяла выводить сервер из строя с помощью сетевых запросов, а ошибка в Linux открывала возможность выполнять команды с правами администратора на определенных серверах без входа в учетную запись.

Компания подчеркивает, что все описанные сценарии создавались в рамках испытаний, а не применялись для реальных атак. Обнаруженные проблемы передали разработчикам соответствующих продуктов, и, по данным Anthropic, исправления уже выпущены.

Anthropic рассчитывает использовать подобные возможности для укрепления защиты программ и устройств. Вместе с тем результаты испытаний показывают, что искусственный интеллект способен не только помогать находить ошибки, но и существенно упрощать подготовку сложных кибератак. Поэтому для разработчиков становится все важнее своевременно выявлять уязвимости и устранять их до того, как ими воспользуются злоумышленники.

Источник: thehackernews.com
Теперь в новом формате

Наш Telegram-канал @overclockers_news
Подписывайся, чтобы быть в курсе всех новостей!

Популярные новости