Невозможность создания абсолютно безопасного ИИ доказана математически

Создание искусственного интеллекта (ИИ), который был бы на 100 процентов предсказуемым и безопасным, невозможно из-за фундаментальных математических ограничений. По мнению ученых, существуют как минимум два непреодолимых предела, которые остаются даже при наличии неограниченных вычислительных ресурсов. Об этом свидетельствует исследование, опубликованное в научном журнале Transactions of the American Mathematical Society.

Математические барьеры на пути к безопасному ИИ

Первое препятствие — нехватка времени. В математике существует классическая задача коммивояжера, которая заключается в поиске кратчайшего маршрута для объезда нескольких городов с последующим возвращением в исходную точку. Если городов всего десять, обычный компьютер справляется с этой задачей за доли секунды. Однако при увеличении числа городов до двадцати количество возможных комбинаций возрастает до 2,4 квинтиллиона, а время расчета увеличивается до 77 лет. Если же городов тридцать, число комбинаций достигает астрономического показателя с 32 нулями (более 260 нониллионов). Для простого перебора всех этих путей самому быстрому современному компьютеру потребовалось бы 8,4 квадриллиона лет, что примерно в 600 тысяч раз превышает возраст Вселенной. Никакое ускорение процессоров не способно решить эту проблему, поскольку скорость роста числа вариантов всегда опережает технологический прогресс.

Второе препятствие — существование вопросов, на которые в принципе отсутствует алгоритмический ответ. Еще в 1953 году была доказана теорема Райса, которая утверждает, что ни одна программа не способна автоматически анализировать произвольный код и гарантировать его предсказуемое поведение в любых условиях. Это означает, что невозможно математически доказать, что ИИ будет всегда вести себя безопасно при любых возможных ситуациях и командах.

Проблема выравнивания ИИ и практические решения

Проблема выравнивания ИИ, то есть гарантия того, что система будет действовать исключительно в интересах человека и не причинит вреда, сталкивается с обоими вышеупомянутыми барьерами. Для проверки безопасности даже небольшого числа параметров с множеством настроек требуются колоссальные вычислительные мощности. Например, для проверки всего шести параметров безопасности с десятью вариантами настроек в каждом, компьютеру необходимо проанализировать миллион комбинаций. В реальных системах безопасности количество таких параметров значительно больше.

Учитывая невозможность точного математического доказательства безопасности ИИ из-за теоремы Райса, ученые отказались от идеи достижения полной математической гарантии и вместо этого полагаются на ограниченные тесты.

Квантовые компьютеры и компромисс в разработке ИИ

Квантовые вычисления часто рассматриваются как потенциальное решение, однако, по мнению ученых, они лишь отодвигают проблему, а не устраняют ее. Известный квантовый алгоритм Гровера 1996 года позволяет значительно ускорить поиск. Благодаря ему расчет для 20 городов сокращается с 77 лет до двух секунд, а для 30 городов — с 8,4 квадриллиона лет до шести месяцев. Тем не менее, при дальнейшем увеличении количества городов или параметров, взрывной рост числа комбинаций снова будет опережать даже квантовые мощности.

В практических условиях сложные задачи решаются путем изменения подхода. Логистические компании, например, строят детальные маршруты для тысяч грузовиков, используя упрощенные правила. Они получают маршруты, которые лишь незначительно отличаются от идеальных, но достигают этого за считанные секунды. Прикладной ИИ работает аналогично: разработчики создают системы с высокой эффективностью, не предоставляя абсолютных математических гарантий. Более совершенные модели ИИ не меняют законов математики, а лишь повышают точность своих приблизительных прогнозов.

Среди недавних достижений в области ИИ стоит отметить:

• Создание Китаем первого в мире автономного гуманоида, устойчивого к вирусам и кибератакам.
• Успешный запуск квантового компьютера в космосе впервые в истории.