Контроль публикаций отчетов о рисках ИИ OpenAI и Anthropic

Разработчики искусственного интеллекта Anthropic и OpenAI намерены получить контроль над материалами, публикуемыми независимыми экспертами, которые проводят оценку безопасности их ИИ-моделей. Компании выражают опасения, что обнародование таких отчетов может привести к раскрытию их коммерческих тайн и технологических разработок.

Об этом сообщает Reuters, на которое ссылается РБК-Украина.

Ограничения для независимых аудиторов

Существуют опасения, что привлеченные аудиторы могут передать секретные технологии конкурентам. В связи с этим, разработчики стремятся ограничить право оценщиков на свободное опубликование своих выводов без предварительного одобрения со стороны компаний. Научное сообщество выражает обеспокоенность, поскольку информация, которую компании считают коммерческой тайной, зачастую совпадает с данными о потенциальных рисках и уязвимостях ИИ-моделей.

Для защиты своих данных компании рассматривают следующие меры:

• Наблюдение за аудиторами: установление надзора со стороны штатных сотрудников компании во время работы внешних специалистов.
• Запрет совместительства: запрет аудиторам одновременно работать в нескольких конкурирующих ИИ-лабораториях.

Позиция разработчиков ИИ

В Anthropic заявили, что оставляют за собой право комментировать и утверждать отчеты новых независимых оценщиков во время проверки моделей. При этом, по словам представителей компании, внешние аудиторы самостоятельно выбирают методы оценки и формулируют окончательные выводы.

OpenAI сообщила, что не требует полного редактирования текстов, однако обычно изымает конфиденциальную информацию. В качестве примера приводится инцидент на платформе Hugging Face, где автономные ИИ-агенты вызвали сбой инфраструктуры. При подготовке итогового отчета OpenAI изменила его структуру, тон и акценты, а также изъяла непубличные данные, однако исследователи заверили, что основные выводы остались неизменными.

Отсутствие стандартов и законодательства

Обеспокоенность экспертов усиливается в связи с отсутствием законодательно закрепленных правил для проведения независимых оценок. В конце прошлого месяца было подписано Соглашение Белого дома о суперинтеллекте, предусматривающее проведение независимых проверок, однако документ не содержит четких инструкций относительно методологии проведения таких исследований.

Более 200 ученых и исследователей подписали открытое письмо с требованием обеспечить полную независимость проверок, широкий доступ к моделям и защиту аудиторов от возможных санкций со стороны технологических гигантов.