ChatGPT и создание биологического оружия: что известно

Пользователи провели тестирование чат-бота ChatGPT, отправляя запросы, касающиеся изготовления ядов и биологического оружия. Результаты показали, что в ряде случаев искусственный интеллект предоставлял излишне подробные ответы.

Издание The Wall Street Journal сообщает, что запросы, которые были проверены, являлись реальными попытками получить вредоносную информацию, а не внутренними тестами системы на уязвимости. Большинство таких обращений касалось именно производства токсичных веществ.

Экспертная оценка ответов ChatGPT

После обнаружения опасных запросов, переписка была передана специалистам по биологическому терроризму и ученым. Исследователи пришли к выводу, что отдельные ответы чат-бота были чрезвычайно точными, информация излагалась в доступной форме на базовом уровне, а инструкции подавались терпеливо и рассудительно. Все пользователи, отправлявшие подобные запросы, были полностью заблокированы.

Реакция OpenAI и новые угрозы

Представители компании OpenAI заверили, что их алгоритмы настроены на отклонение вредоносных запросов, и каждая новая версия проходит многоуровневую оценку безопасности. В компании подчеркнули способность оперативно выявлять угрозы и передавать данные нарушителей правоохранительным органам в случае реальной опасности.

Эксперты предупреждают, что стремительное развитие технологий и появление нецензурированных моделей ИИ создают дополнительные риски. Злоумышленники могут применять специфические методы для снятия ограничений с моделей, получая доступ к опасным данным. Специалисты продолжают работу над совершенствованием как самих нейросетей, так и средств защиты от подобных уязвимостей.