Улыбка в камеру: темная сторона технологии распознавания эмоций
Taigusys утверждает, что его программное обеспечение может распознать «симулянта» — неестественную улыбку, неискренний взляд, притворство.
Технологии распознавания эмоций, с помощью которых отслеживаются выражения лица гнева, печали, счастья и скуки, а также другие биометрические данные, предположительно могут определять чувства человека на основе таких характеристик, как движения лицевых мышц, тон голоса, движения тела и другие биометрические сигналы.Это выходитза рамки технологий распознавания лиц, которые просто сравнивают лица для определения совпадения.
Китайская компания Taigusys специализируется на технологиях распознавания эмоций через камеры наблюдения. Среди десятков ее клиентов — крупнейшие китайские телеком-операторы, нефтяные компании и Huawei. Как именно компании используют распознавание эмоций в своих офисах и на производстве, неизвестно — ни одна из компаний не захотела рассказывать об этом журналистам.
Алгоритм считывает движения мимических мышц человека и его биометрические сигналы и оценивает их по шкале «положительных» и «отрицательных» эмоций. О самых грустных сотрудниках система оповещает менеджеров, рекомендуя предоставить им эмоциональную поддержку. Сайт компании утверждает, что система может даже определять фальшивую улыбку.
Системы от Taigusys установлены в 300 тюрьмах. 60 тысяч умных камер помогают контролировать заключенных, следя за ними 24/7 и распознавая «опасное поведение». Также камеры мониторят учителей и учеников в школах и следят за эмоциональным состоянием жителей домов престарелых.
Экспертам и правозащитникам такой подход сильно не нравится: это одновременно и нарушение приватности, и использование биометрических данных человека против него, и слежка, от которой невозможно скрыться. К тому же технология основана на сомнительной науке: экспертыутверждают, что нельзя упрощать психический мир человека до оценки его мимики нейросетью.
Критики говорят, что технология основана на псевдонауке стереотипов, и все большее число исследователей, юристов и правозащитников считают, что она имеет серьезные последствия для прав человека, конфиденциальности и свободы выражения мнений.
