Искусственный интеллект и распознавание эмоций: новые риски

Искусственный интеллект (ИИ) все активнее осваивает сферу распознавания человеческих эмоций, анализируя мимику, голос и физиологические сигналы. Исследователь Лейденского университета Александра Прежан высказывает опасения относительно того, что безошибочность таких систем может создать новые риски для общества.

Данные выводы основаны на диссертационном исследовании ученой, опубликованном на сайте Лейденского университета, и сообщаются РБК-Украина.

Алгоритмы принимают решения за человека

Для оценки последствий внедрения передовых технологий распознавания чувств Александра Прежан смоделировала несколько сценариев будущего. В одном из них хирург, готовясь к сложной операции, сталкивается с тем, что система ERT (Emotional Recognition Technology) фиксирует его эмоциональную нестабильность. Несмотря на то, что причина его волнения – личные переживания, не связанные с работой (тяжелый развод и беспокойство за ребенка), технология расценивает его состояние как фактор риска при выполнении служебных обязанностей. В результате врач оказывается отстранен от работы и вынужден раскрывать личные тайны перед работодателем, поскольку система уже вынесла свой вердикт.

Причина тревоги алгоритма не имела отношения к профессионализму хирурга, однако технология расценила его состояние как риск выполнения служебных обязанностей. Человек оказывается в ситуации, когда система уже вынесла свой вердикт, вынуждая его оправдываться.

Изменение правил социального взаимодействия и утрата границ

В течение жизни человек исполняет множество социальных ролей, самостоятельно определяя, какие аспекты своего внутреннего мира раскрывать в той или иной ситуации. Использование ERT может привести к стиранию этих границ.

Происходит потеря конфиденциальности: невозможность скрыть внутренние переживания ведет к окончательному разрушению границы между частной и профессиональной жизнью. Также изменяются ритуалы общения: например, публичные выступления или заявления должностных лиц могут оцениваться не по содержанию, а по предполагаемой ИИ «неподдельности» печали. При этом профессиональная этика часто требует от врачей, полицейских или политиков сдерживать эмоции, что не умаляет искренности их профессиональных действий. Наблюдается смещение ориентиров: общество может начать полагаться исключительно на данные технологий о состоянии человека, а не на его слова и поступки.

Защита эмоциональной конфиденциальности и будущее регулирование

Европейский акт об ИИ (EU AI Act) уже налагает ограничения на использование технологий распознавания эмоций, в первую очередь из-за их текущей невысокой точности. Исследование Прежан направлено на долгосрочную перспективу: когда алгоритмы станут безошибочными, обществу потребуются более сильные этические аргументы для ограничения их применения.

Технологии ERT не несут исключительно негативного характера; они могут способствовать ранней диагностике неврологических расстройств или помогать людям, испытывающим трудности с распознаванием эмоций. Однако, как утверждает ученая, защита эмоциональной конфиденциальности — это не только защита информации, но и сохранение социального пространства, в котором человек сам определяет, как позиционировать себя и строить отношения с другими людьми.