ИИ от Anthropic успешно атаковал популярные операционные системы и браузеры

В ходе контролируемых испытаний ИИ-модель, разработанная компанией Anthropic, продемонстрировала способность к автономному проведению кибератак. Алгоритм успешно обошел защитные механизмы браузеров Chrome и Safari, а также операционных систем Android, Windows и Linux, разработав пять сложных сценариев атак.

Ход испытаний и результаты

Специальное подразделение Frontier Red Team проводило тестирование в лабораторных условиях. Искусственный интеллект самостоятельно выявлял уязвимости и объединял их в рабочие эксплойты, показав высокий уровень автономности.

Результаты тестов:

• В браузере Chrome модель объединила четыре уязвимости, вышла за пределы «песочницы безопасности» и через несколько секунд запустила стороннее приложение после загрузки вредоносной страницы.
• В Safari ИИ удалось обойти правило безопасности, запрещающее сайтам получать доступ к данным других ресурсов, что потенциально угрожает конфиденциальной информации пользователей.
• На платформе Android эксплойт позволил извлечь файлы с заблокированного смартфона, но для этого требовался физический доступ через USB-кабель.
• Атака на Windows позволяла вызвать сбой системы, постоянно поддерживая сервер, принимающий HTTP/3 запросы, без доступа к сохраненным данным.
• В Linux искусственный интеллект получил права администратора (root-доступ) на сервере через сеть, не требуя ввода логина или пароля.

Стоит отметить, что для успешной атаки на Linux требовалась специфическая сетевая конфигурация, поэтому она не сработала бы на всех системах этой операционной системы.

Устраненные уязвимости и риски

Представители Anthropic заявили, что все обнаруженные уязвимости были переданы разработчикам и уже устранены с помощью соответствующих обновлений. На данный момент нет подтверждений использования подобных ИИ-эксплойтов в реальных кибератаках вне лаборатории Anthropic.

Компания пока не раскрывает название новой модели и предполагаемые сроки ее выпуска. Эксперты подчеркивают двойственную природу искусственного интеллекта: с одной стороны, он помогает находить и устранять уязвимости до того, как они будут использованы злоумышленниками, а с другой — демонстрирует потенциальные риски создания полностью автономных цифровых хакеров.