95 сценариев экзистенциальных рисков, связанных с ИИ
Специалисты провели анализ научных работ, посвященных угрозам развития искусственного интеллекта, и выделили 95 потенциальных сценариев, которые могут привести к катастрофическим последствиям для человечества. Исследование, результаты которого опубликованы AIxrisks, систематизировало эти риски, охватывая спектр от потери контроля над технологиями до вымирания.
Анализ угроз: от коллапса до антиутопии
В ходе изучения 3184 документов исследователи отобрали 58 работ, в которых детально описаны сценарии полного исчезновения человечества, необратимого краха цивилизации или установления тотальной антиутопии. Эти сценарии были сгруппированы в восемь категорий, объединенных в три основных направления.
Категории рисков, связанных с ИИ
Первое направление, включающее 60 сценариев, описывает постепенный захват контроля над будущим со стороны искусственного интеллекта. Это может происходить как через доминирование одной неконтролируемой системы, так и через координацию нескольких независимых ИИ или постепенную передачу полномочий людьми, ведущую к необратимой потере контроля.
Второе направление сосредоточено на сценариях, где власть оказывается в руках отдельных лиц с использованием ИИ. Это может выражаться в установлении тоталитарных режимов или значительном усилении экономического неравенства из-за массового вытеснения людей с рынка труда. Данное направление включает 1 сценарий.
Третье направление охватывает ситуации, когда ИИ усиливает деструктивные возможности человека. Сюда относятся создание опасных технологий с катастрофическими последствиями и автоматизированные войны под управлением ИИ. В этой категории описаны 3 сценария.
Оценка вероятности и мониторинг угроз
Авторы исследования подчеркивают, что количество сценариев в каждой категории не отражает их вероятность. Кроме того, представленный перечень не является окончательным и может быть дополнен новыми вариантами развития событий.
Для каждого семейства сценариев исследователи разработали детальное описание последовательности событий, ведущих к катастрофе. Такой подход, по словам соавтора исследования Питера Слэттери из MIT FutureTech, позволит экспертам оценивать реалистичность каждого этапа, сравнивать различные точки зрения на риски и своевременно выявлять первые признаки угроз. Это также упростит взаимодействие между разработчиками ИИ, регуляторами и специалистами по оценке рисков, давая возможность принять упреждающие меры до наступления критической ситуации.



