Вчені застерігають: ідеальний ШІ з розпізнавання емоцій може зруйнувати приватність
Дослідниця Лейденського університету Александра Прежан попереджає про ризики впровадження досконалих технологій розпізнавання емоцій (ERT). За її словами, безпомилкові алгоритми можуть знищити межі між особистим і професійним життям, змінити соціальні ритуали та змусити людей виправдовуватися перед роботодавцями за власні переживання.
Технології розпізнавання емоцій, які дедалі частіше використовуються для аналізу міміки, голосу та фізіологічних сигналів, можуть стати джерелом нових суспільних ризиків, якщо досягнуть досконалості. Дослідниця Лейденського університету Александра Прежан у своєму дисертаційному дослідженні попереджає, що безпомилкові алгоритми здатні кардинально змінити правила соціальної взаємодії та позбавити людей права на емоційну приватність.
Щоб оцінити можливі наслідки, науковиця змоделювала кілька сценаріїв майбутнього. В одному з них хірург перед складною операцією стикається з системою ERT, яка фіксує його емоційну нестабільність. Керівництво лікарні відсторонює лікаря від роботи, хоча причина тривоги алгоритму не пов'язана з професіоналізмом: медик переживає важке розлучення та хвилюється за дитину. Попри те, що він свідомо залишив особисті проблеми поза роботою, технологія розцінила його стан як ризик для виконання службових обов'язків. У результаті людина змушена розкривати перед працедавцем таємниці особистого життя, адже система вже винесла свій вердикт.
Прежан наголошує, що протягом життя кожна людина виконує безліч соціальних ролей: хірурга, батька чи матері, партнера, друга або сусіда. Зазвичай ми самі вирішуємо, які межі та пласти свого внутрішнього світу відкривати в тій чи іншій ситуації. Використання ERT загрожує знищенням цих меж. Якщо приховати внутрішні переживання стає неможливо, межа між приватним і професійним життям остаточно руйнується.
Окрему увагу дослідниця приділяє зміні ритуалів спілкування. Публічний виступ чи вибачення посадовця після трагедії можуть оцінювати не за змістом, а за «непідробністю» смутку за версією ШІ. При цьому лікарі, поліцейські чи політики часто змушені стримувати емоції задля самозахисту в межах професійної етики, а це не робить їхній професійний обов'язок менш щирим. Суспільство ризикує втратити орієнтири: замість віри словам і вчинкам людей воно може почати покладатися виключно на те, що про їхній стан «повідомляє» технологія.
Сьогодні Європейський акт про ШІ (EU AI Act) вже обмежує використання технологій розпізнавання емоцій, проте переважно через їхню низьку точність на даному етапі. Дослідження Прежан спрямоване на довгострокову перспективу: коли алгоритми стануть безпомилковими, суспільству знадобляться сильніші етичні аргументи для обмеження їхнього застосування.
Варто зазначити, що технології ERT не є виключно негативними. Вони можуть допомогти в ранній діагностиці неврологічних розладів або сприяти людям, які мають труднощі з розпізнаванням емоцій. Проте захист емоційної приватності, стверджує науковиця, це не лише захист інформації. Це збереження соціального простору, у якому людина сама вирішує, як позиціонувати себе та будувати стосунки з іншими.
