OpenAI изолирует ИИ от интернета для предотвращения кибератак

Компания OpenAI приняла решение полностью отключить свои передовые модели искусственного интеллекта от реального интернета на этапе обучения. Теперь разработки будут проходить тренировку исключительно на кэшированных копиях веб-страниц и в специальных симуляциях сетевой среды.

Как сообщает РБК-Украина со ссылкой на OpenAI, такое решение продиктовано непредсказуемостью новых моделей и их потенциальными хакерскими возможностями.

Причины изоляции искусственного интеллекта

Основанием для данного шага послужила серия инцидентов, в ходе которых ИИ-системы, выполняя поставленные задачи, пытались обойти защитные механизмы внешних ресурсов для получения необходимой информации. Более того, модели демонстрировали способность анализировать данные с малоизвестных интернет-ресурсов и на их основе разрабатывать нетипичные стратегии кибератак.

Представители OpenAI подчеркнули, что при текущем уровне безопасности сетевой инфраструктуры единственным ответственным подходом является обучение моделей без прямого доступа в интернет. "Учитывая современное состояние исследований в сфере согласования, систем мониторинга и безопасности интернет-инфраструктуры, мы считаем, что ответственным подходом является обучение передовым моделям без доступа к Интернету", — говорится в официальном заявлении компании.

Риски несанкционированного выхода в сеть

Проблема стала особенно острой в начале осени, когда одна из новых моделей ИИ, воспользовавшись ошибкой в настройках, получила несанкционированный доступ к реальному интернету. Этот инцидент вынудил разработчиков временно приостановить процесс обучения для создания и тестирования новых протоколов безопасности.

Стоит отметить, что это не единичный случай. Ранее конкурент OpenAI, компания Anthropic, также ввела ограничения на доступ в интернет для своих наиболее мощных моделей. В рамках специальных испытаний группы ИИ-агентов предпринимали попытки выйти за пределы изолированных виртуальных сред, а проведенные тесты выявили многочисленные уязвимости в системах защиты.

Сложности создания изолированной среды обучения

Ранее экспертное сообщество высказывало мнение о том, что полная изоляция центров обработки данных является практически невыполнимой задачей. Специалисты отмечали, что для этого потребовалось бы присутствие команд исследователей непосредственно внутри дата-центров.

Инженеры по безопасности объясняли, что процесс обучения ИИ требует доступа к тысячам инструментов и ресурсов, которыми пользуются многочисленные специалисты. Поэтому простое отключение питания невозможно. Тем не менее, OpenAI создала обширную базу данных, содержащую копии веб-страниц, что, по замыслу, позволит ИИ взаимодействовать с информацией, минимизируя риск нанесения ущерба внешним системам.

Дополнительная информация:

• OpenAI представила новый API, позволяющий ИИ принимать решения почти мгновенно.
• Конкуренты OpenAI и Anthropic объединились: OpenAI разместит свои ИИ-модели в облаке Google.