O problema do assédio a chatbots e assistentes virtuais

Muitos conhecem a Lu, assistente virtual inteligente da rede Magazine Luiza; a Alexa, da Amazon, e a Siri, da Apple. Além de auxiliares online no mercado nacional e internacional, essas três “personalidades” têm outra coisa em comum: casos de assédio.

Sim, há muitas ocorrências em que elas (ou os robôs em chats de respostas de empresas) têm que responder a perguntas ou questões machistas de clientes. E, como era de se esperar, esses recursos de inteligência artificial não estão preparados para contestar ou atender a esse tipo de “investida”.

Para as empresas que utilizam essas ferramentas no contato com os clientes, esse assédio pode prejudicar o verdadeiro potencial dessa tecnologia de resolver questões simples, deixando os problemas mais complexos nas mãos dos operadores humanos.

Desse modo, uma das consequências desses comportamentos é a perda considerável da produtividade dessas ferramentas. Que, consequentemente, sobrecarrega atendentes e aumenta o tempo de espera e demora na resolução. A experiência do consumidor também tende a ser pior, prejudicando a imagem da empresa e marca.

Entre os principais fatores por esses comportamentos estão o preconceito, que é uma ideologia que oprime — em diversas formas — as minorias, aqui retratadas por vozes femininas; e a pouca diversidade no campo dos profissionais de programação, no que tange o gênero. Isso impacta diretamente na maneira com que os chatbots são criados e programados. Desse modo, a vida real se transfere para a tecnologia, refletindo um comportamento mais passivo, tolerante e até submisso aos robôs.

Para minimizar os danos desses comportamentos no potencial das ferramentas, as marcas devem liderar um movimento de mudança na programação. O que inclui, por exemplo, novos perfis de colaboradores que façam parte das minorias. Assim, além de darem respostas adequadas a cada tipo de situação, irão levar uma nova bagagem cultural para a inteligência artificial.

Em paralelo, as empresas de tecnologia podem construir ainda novos padrões de respostas, sempre com cuidado para não ferir ninguém. Afinal, educar a sociedade é um processo longo e fundamental para mudar esse cenário.

Com novas mentes desenvolvendo, haverá novos padrões a serem seguidos pelas Machine Learning (Aprendizado de Máquina). Isso permitirá aos bots identificarem novos padrões e seguirem trabalhando a favor da empresa e do público, alcançando o propósito inicial para o qual foram criados.

Com ajuda das organizações e de iniciativas como a da Unesco (contra o preconceito de gênero e o assédio sexual às AIs, por exemplo), podemos desconstruir, aos poucos, esse viés inconsciente do preconceito e misoginia aplicados a essas soluções. E, ainda, tentar mudar a perspectiva da tecnologia, considerada um ambiente pouco diverso!

O post O problema do assédio a chatbots e assistentes virtuais apareceu primeiro em E-Commerce Brasil.

Na próxima semana farei mais um review com depoimento e resenha sobre O problema do assédio a chatbots e assistentes virtuais. Espero ter ajudado a esclarecer o que é, como usar, se funciona e se vale a pena mesmo. Se você tiver alguma dúvida ou quiser adicionar algum comentário deixe abaixo.