Уязвимость ИИ ставит под угрозу поиск внеземной жизни
Учёные из Университета штата Мичиган выявили, что системы искусственного интеллекта (ИИ) склонны ошибочно идентифицировать неодушевлённые объекты как живые организмы. Это открытие создаёт серьёзные риски для будущих космических миссий, направленных на поиск внеземной жизни, сообщает РБК-Украина со ссылкой на Space.
«Ахиллесова пята» искусственного интеллекта
Основная проблема современных нейросетевых моделей заключается в их работе с так называемыми «внераспределительными» образцами — объектами, которые существенно отличаются от данных, использованных при обучении алгоритма. По словам вычислительного биолога Кристофа Адами, ИИ легко ввести в заблуждение. Он определяет жизнь через способность к кодированию и воспроизведению информации.
«Поскольку биология на других планетах может кардинально отличаться от земной, космические аппараты будут полагаться именно на такие универсальные маркеры», — поясняет исследователь.
Эксперимент с цифровой жизнью
Для проверки надёжности ИИ учёные Кристоф Адами и Анкит Гупта провели тестирование с помощью компьютерной программы Avida. Эта платформа моделирует цифровые организмы, используя программный код, который способен мутировать, самовоспроизводиться и конкурировать за процессорное время.
В течение трёх месяцев на 1000 параллельных компьютерах проводился эксперимент, целью которого было:
- Научить ИИ отличать цифровые организмы со свойствами жизни от неодушевлённого кода.
- Постепенно изменять структуру кода, имитирующего случайный набор молекул, наблюдая за «уверенностью» нейросети.
В результате проведённых точечных корректировок учёным удалось полностью обмануть искусственный интеллект, заставив его признать неодушевлённую программу полноценным живым организмом.
Последствия для космических миссий
Обнаруженная уязвимость указывает на то, что марсоходы и другие роботизированные аппараты, оснащённые ИИ, могут предоставлять ложноположительные результаты. Ошибочная идентификация биомаркеров на других планетах может привести к бесполезной трате ресурсов и времени на исследование объектов, которые на самом деле не имеют отношения к внеземной жизни.
