Материал The Atlantic рассказывает, как сервисы для распознавания эмоций с помощью ИИ незаметно входят в повседневную рабочую практику. Журналистка Эллен Кушинг проверила на себе работу MorphCast: во время встречи с начальником система решила, что она в целом была «развлечена», «настроена решительно» и «заинтересована», а временами — «нетерпелива».
Этот эксперимент стал отправной точкой для разбора быстро растущего рынка, который продвигают под названиями emotion AI и affective computing. Такие продукты анализируют видеозаписи собеседований, аудио из колл-центров и переписку в чатах.
Как пишет The Atlantic, MetLife отслеживает у операторов колл-центра высоту голоса и интонацию. Burger King тестирует чат-бота для гарнитуры под названием Patty, который оценивает дружелюбие сотрудников во время общения. Производитель мебели Framery испытывал офисные кресла с биосенсорами, способными измерять пульс, частоту дыхания и уровень нервозности.
Инструменты для анализа настроения также встраивают в корпоративные сервисы. В материале упомянуты интеграции для Slack, включая Aware, а также Microsoft Azure. Отдельные поставщики, например Imentiv, предлагают эмоциональный анализ на этапе найма.
Кушинг ставит под сомнение научную базу таких систем. Многие из них опираются на теорию Пола Экмана о шести базовых эмоциях, которую, по данным The Atlantic, уже десятилетиями критикуют как слишком упрощённую и методологически слабую.
Нейробиолог Лиза Фельдман Барретт в статье говорит: «Движения — будь то на лице, в теле или в интонации — не несут врождённого эмоционального значения. Они несут значение в контексте отношений». Она также отмечает, что в США люди хмурятся от злости лишь примерно в 35% случаев.
В материале также приведено исследование Лорен Рью. Оно показало, что ИИ для распознавания эмоций чаще оценивал темнокожих игроков НБА как более злых, чем их белых товарищей по команде, даже если в отдельных случаях они улыбались.
По данным расследования The New York Times за 2022 год, сомнительные методы оценки и слежение уже вредят сотрудникам. Социальным работникам UnitedHealth снижали рейтинг за отсутствие активности на клавиатуре, хотя в это время они разговаривали с пациентами.
ACLU также утверждает, что платформа HireVue и её клиент Intuit отказали в повышении сотруднице команды по доступности, у которой нарушен слух. В письме с отказом ей посоветовали «практиковать активное слушание». HireVue и Intuit эти претензии оспаривают.
Евросоюз уже запретил использовать такие системы распознавания эмоций на рабочем месте в рамках AI Act. Исключения сделаны только для медицины и задач безопасности. После этого MorphCast перенесла штаб-квартиру из Флоренции в район залива Сан-Франциско.
По оценке, которую цитирует The Atlantic, к 2030 году мировой рынок таких решений может вырасти втрое — до 9 млрд долларов.
В финале Кушинг делает мрачный вывод: ещё тревожнее, чем ошибочные системы, был бы сценарий, при котором они действительно начнут работать точно. Тогда, пишет она, у работников появится ещё одна обязанность — помимо своей основной работы, создавать у «эмоционального робота» впечатление, что они достаточно жизнерадостны.
Источник: The Atlantic, The New York Times.
