Inteligência artificial emocional: nova tecnologia é capaz de conhecer sentimentos através de movimentos faciais sutis

É possível uma máquina perceber que você está bravo apenas olhando no seu rosto? E descobrir se você está estressado apenas analisando seus e-mails? Seria possível um computador entender suas emoções melhor do que você?

Segundo uma nova onda de startups, a resposta para todas essas perguntas é um retumbante sim. Um série de empresas estão tentando vender a ideia de que a Inteligência Artificial Emocional (EAI para a sigla em inglês) consegue captar movimentos faciais que nem notamos estar fazendo, usar essas contrações minúsculas para determinar o que estamos sentindo e, em seguida, transformar essas contrações privadas em dados quantificáveis

Os desenvolvedores afirmas que a EAI é capaz de separar emoções de felicidade, confusão, raiva e até mesmo sentimentalismo. Teoricamente, essa tecnologia permite que um simples computador conheça emoções que nem mesmo a gente consiga reconhecer.

A EAI pode ser uma grande mina de ouro, para as empresas. Conseguir compreender os pensamentos, sentimentos e personalidades dos clientes tornaria as vendas ainda mais fácil para as empresas venderem seus produtos.

Algumas empresas já estão utilizando a tecnologia para fabricar brinquedos inteligentes, áreas da robótica, veículos e até mesmo chatbots de IA empáticos. Além dos fins comerciais, a EAI poderia ajudar empresas no local de trabalho: reconhecer o estado emocional de um funcionário e também auxiliar as empresas na tomada de decisões que possam melhoras a produtividade e que mantenham o funcionamento do ambiente.

Porém, existe um problema: ainda não está claro se a EAI realmente funciona. A ciência por trás da tecnologia é contestada por especialistas na área, e alguns críticos dizem não ser possível entender como a pessoa vai se sentir ao ter suas expressões faciais examinadas.

Mas isso não impede que as empresas utilizem inteligência artificial emocional para espionar as emoções de seus funcionários determinar como se sentem e identificar quem deve ser contratado e quem deve ser despedido. A IA está preparada para influenciar todas as partes da força de trabalho , mas esta pode ser uma das mais insidiosas. 

Como funciona?

Embora versões de IA emocional estejam em desenvolvimento desde o final da década de 1990, a indústria decolou nos últimos anos, à medida que a tecnologia subjacente que alimenta a IA se tornou mais sofisticada e o interesse no campo aumentou. Hoje, a quantidade de dados nos quais a EAI pode ser treinada é esmagadora. 

As empresas usam a tecnologia para medir coisas como respiração, frequência cardíaca, transpiração, mudanças na condutância elétrica da pele e postura corporal. Esses dados são então usados ​​para uma ampla variedade de aplicações, como detectar quando alguém pode estar mentindo sobre sinistros de seguros, ajudar a diagnosticar depressão e rastrear como os alunos respondem a um professor durante o aprendizado on-line.

 Algumas versões do EAI concentram-se em dicas verbais, rastreando pequenas pausas na conversa e mudanças de tom. Outros levam em consideração as alterações na dilatação da pupila e no olhar. Existem também modelos que podem ler seus e-mails, textos ou outras mensagens e gerar relatórios detalhados sobre quais emoções subjacentes você pode estar expressando inconscientemente.

Gabi Zijderveld, diretora de marketing da Smart Eye, uma empresa EAI que afirma que sua tecnologia “compreende, apoia e prevê o comportamento humano”, disse que a empresa acumulou grandes quantidades de dados baseados em emoções ao analisar mais de 14,5 milhões de vídeos de expressões faciais. foi feito com participantes voluntários. Ela descreveu sua IA como “basicamente olhar para o ser humano, observar a análise da expressão facial, o movimento das pessoas, as pistas não-verbais das pessoas – como gostamos de dizer – para entender qual é o seu estado emocional e, talvez, cognitivo”.

O Smart Eye usa essa tecnologia para coisas como sistemas de monitoramento de motorista que detectam a fadiga do motorista usando uma mistura de análise facial e rastreamento ocular. Ele também fornece análises para empresas de publicidade e entretenimento. Nestes casos, os participantes pagos assistem a vídeos online e as suas expressões faciais são analisadas pela tecnologia EAI para determinar se uma piada num anúncio foi engraçada ou se um determinado momento num trailer de filme provocou a resposta emocional que deveria provocar. (Zijderveld enfatizou que a participação nesses grupos de teste era sempre opcional.) A empresa então usa esses dados – combinados com as informações demográficas fornecidas pelos participantes – para, disse Zijderveld, “começar a segmentar como as diferentes populações estão reagindo a esse conteúdo”.

Empresas como a CBS e a Disney podem usar essas informações para adaptar seus produtos com base na forma como as pessoas reagem a eles. Talvez eles recortem um trailer, se livrem de uma piada que não está dando certo ou alterem um anúncio com base na demografia do público para o qual estão vendendo.

Monitorando as emoções dos funcionários

Embora essas aplicações possam parecer benignas ou até benéficas, o uso da EAI no local de trabalho é muito mais complicado. Os funcionários muitas vezes não percebem que ele está sendo usado, o que significa que podem ser considerados infelizes no trabalho, emocionalmente instáveis ​​ou estressados ​​demais para realizar seu trabalho, mesmo sem saber que estão sendo vigiados.

HireVue , uma plataforma de recrutamento de Utah, começou a usar a análise facial EAI em 2014 como parte de seu processo de entrevista de candidatos . A ideia por trás da tecnologia era nobre: ​​o EAI deveria mitigar preconceitos e identificar candidatos ideais, identificando habilidades interpessoais, capacidade cognitiva, traços psicológicos e inteligência emocional durante entrevistas em vídeo. 

Centenas de empresas, incluindo Ikea, Dow Jones e Oracle, usaram o software para avaliar mais de 1 milhão de candidatos a emprego, informou o The Washington Post. Mas em 2019, uma reclamação do Centro de Informações de Privacidade Eletrônica alegou “práticas injustas e enganosas” porque não foi comprovado que a tecnologia da HireVue era capaz de fazer o que a empresa dizia que poderia. 

A denúncia apontava para pesquisas que concluíam que a análise facial poderia ser tendenciosa contra mulheres, pessoas de cor e pessoas com diferenças neurológicas, e argumentava que não deveria ser usada para tomar decisões de contratação.

Em resposta ao clamor público, a empresa disse em 2021 que interromperia o uso da análise facial EAI porque não valia a pena se preocupar, mas continuaria analisando a fala, a entonação e o comportamento durante as entrevistas. Segundo a empresa, os elementos verbais foram suficientes para tirar conclusões sobre o estado emocional do candidato. “Os algoritmos não veem poder preditivo adicional significativo quando dados não-verbais são adicionados aos dados de linguagem”, afirmou .

Outras plataformas de recrutamento, como a Retorio, uma “plataforma de inteligência comportamental” de Munique, usam uma combinação de análise facial, reconhecimento de pose corporal e análise de voz “para criar um traço de personalidade e um perfil de habilidades interpessoais dos candidatos, permitindo que os recrutadores sejam mais inteligentes. decisões de recrutamento de vendas”, diz o site da empresa. Afirma ainda que sua tecnologia elimina preconceitos e que o processo é voluntário para os candidatos, que podem cancelar a qualquer momento antes do envio da gravação do vídeo à empresa contratante e se inscrever de outra forma.

Sarah Myers West, diretora-gerente do AI Now Institute, é cética em relação às afirmações da empresa de que a EAI é livre de preconceitos. “Não há nenhum cenário em que você possa fazer esse tipo de afirmação com qualquer rigor”, disse ela. E embora a Retorio possa enfatizar a natureza voluntária da sua tecnologia, as empresas que a licenciam podem estar a descontar os candidatos que optam por não enviar uma entrevista em vídeo.

Uma vez contratados, os trabalhadores não ficam livres da tecnologia de reconhecimento de emoções. Nos call centers , o EAI já está sendo usado para captar as emoções dos representantes de atendimento ao cliente e dos clientes do outro lado da linha. Ele pode fornecer feedback em tempo real aos trabalhadores sobre como eles devem ajustar seu tom para se alinhar com o que os algoritmos consideram apropriado. Isso deixou alguns trabalhadores confusos com o feedback negativo e com medo de que a tecnologia os colocasse em apuros se não parecessem suficientemente positivos, descobriram os pesquisadores .

E outras empresas estão correndo para desenvolver dispositivos habilitados para EAI para aprofundar ainda mais a psique dos funcionários. A Framery , uma empresa que fabrica cápsulas de escritório de última geração usadas por empresas como LinkedIn e Nvidia, começou recentemente a testar uma cadeira de escritório com biossensores incorporados. “Podemos medir a frequência cardíaca, a variabilidade da frequência cardíaca, a frequência respiratória e o nervosismo das pessoas”, disse o fundador Samu Hällfors, com sede em Helsínquia. Framery também patenteou uma ferramenta para medir o riso com base apenas no movimento do corpo. Hällfors prevê que as empresas incluirão em breve métricas de bem-estar dos funcionários nos seus relatórios corporativos. Se isso acontecer, a Framery poderá intervir e compilar anonimamente dados de suas cadeiras inteligentes para ajudar as empresas a determinar o sentimento geral de seus locais de trabalho – e monitorar quando os funcionários estão mais estressados.

Mas West questionou as alegações de manter os dados emocionais anônimos: “Você está lidando com dados identificáveis ​​inerentemente se estiver trabalhando com biometria e reconhecimento de emoções”. Ela acrescentou: “Há tantos fluxos de dados sendo coletados que a reivindicação de anonimato realmente falha”.

Os fundadores da Looksery, uma empresa de fotografia e software de propriedade da Snap Inc., receberam uma patente em 2017 para tecnologia de videoconferência conhecida como “Emotion Recognition For WorkForce”. Embora não esteja claro se está sendo usado, a patente cobre o reconhecimento de emoções para videochamadas, especialmente para trabalhadores de call centers, e afirma inequivocamente que “um empregador pode usar essas informações para otimizar a força de trabalho, demitir funcionários com baixo desempenho, promover aqueles funcionários que têm atitudes positivas em relação aos clientes ou tomar outras decisões administrativas.”

Kat Roemmich, Ph.D. estudante da Escola de Informação da Universidade de Michigan que conduziu pesquisas sobre EAI, descobriu que os funcionários frequentemente não sabem que sua empresa está usando a tecnologia enquanto estão no trabalho. Na verdade, não há exigência de que os empregadores lhes informem . A informação emocional pode ser recolhida “analisando dados que já recolhem como parte de programas de monitorização e vigilância existentes”, disse Roemmich, o que significa que as empresas podem simplesmente incorporar a EAI nos programas de vigilância existentes sem alertar os funcionários.

A rápida expansão dos programas de vigilância durante a pandemia devido ao trabalho remoto deixou mais pessoas expostas à possibilidade de terem as suas emoções monitorizadas no trabalho. Como o EAI não é considerado um dado biométrico exclusivamente identificável – como uma impressão digital ou uma digitalização facial – ele não é regulamentado nos EUA. Na Europa, a UE está a trabalhar num projeto de lei que provavelmente tornaria ilegal o emprego no local de trabalho. Mas até que haja regulamentação, as empresas são livres para usá-lo como quiserem.

Uma pseudociência?

Além dos problemas éticos da EAI, a tecnologia enfrenta outro desafio: pode até nem funcionar. A EAI que interpreta expressões faciais está frequentemente enraizada na pesquisa do psicólogo americano Paul Ekman, que propôs que as emoções humanas fundamentais – medo, raiva, alegria, tristeza, nojo e surpresa – foram reveladas através de expressões faciais universais que transcendem as diferenças culturais. Mas o trabalho de Ekman tem enfrentado um retrocesso substancial nos últimos anos, e não há consenso entre os cientistas sobre a definição de emoções humanas específicas, ou como podemos lê-las com precisão no rosto de alguém.

Uma revisão de 2019 da investigação disponível sobre o reconhecimento de emoções através da análise facial descobriu que não havia provas suficientes para qualquer ligação entre expressões faciais e emoções. Os autores do artigo escreveram: “Sabe-se muito pouco sobre como e por que certos movimentos faciais expressam instâncias de emoção, particularmente em um nível de detalhe suficiente para que tais conclusões sejam usadas em aplicações importantes do mundo real”. Salientaram também que diferentes contextos e culturas podem resultar numa enorme variedade de expressões para a mesma emoção.

As empresas EAI discordam. Zijderveld, da Smart Eye, disse que a vasta quantidade de dados da empresa de cerca de 90 países “nos permite levar em conta essas sensibilidades culturais”. Ela acrescentou que conhecer o contexto era claramente importante para compreender a correlação entre emoções e expressões faciais.

Mas a opacidade da indústria torna quase impossível obter provas independentes, baseadas em pesquisas, de como a tecnologia funciona. “É um ponto crítico para mim”, disse Roemmich. “Se não conseguirmos enquadrar corretamente os debates e as questões fundamentais, então, como já estamos vendo, os profissionais que usam a emotividade irão desconsiderá-la”.

Mesmo que a tecnologia consiga captar genuinamente os sentimentos internos, a sua utilização em ambientes de trabalho dá às empresas um acesso sem precedentes às emoções privadas dos seus funcionários. E se isso não for possível, as empresas que utilizam a EAI para tomar decisões sobre contratar ou demitir alguém poderão estar totalmente equivocadas. De qualquer forma, é uma indicação preocupante de como as empresas estão se infiltrando em todas as partes de nossas vidas – até mesmo em nossos pensamentos e sentimentos mais íntimos.