Google enfrenta reação “horrorizada” à inteligência artificial

O produto mais comentado e futurista do evento de desenvolvedores do Google ainda não está concluído — e o Google não definiu como finalizá-lo.

Em sua conferência I/O, na terça-feira, o Google, da Alphabet, apresentou o Duplex, um serviço experimental que permite que seu assistente digital baseado em voz agende compromissos por conta própria. Ele faz parte de uma série de recursos, como o que redige e-mails de forma automatizada, com os quais o Google divulgou como sua tecnologia de inteligência artificial poupa tempo e esforço das pessoas. Em uma demonstração no palco, o Google Assistente conversou com a recepcionista de um salão de beleza, imitando o “hum” de pausa da fala humana. Em outra demonstração, a ferramenta conversou com o funcionário de um restaurante para reservar uma mesa. A plateia, formada por programadores, aplaudiu.

Fora da bolha tecnológica do Google, os críticos atacaram. A empresa está colocando robôs para conversar com humanos sem que essas pessoas percebam. A pergunta óbvia veio logo a seguir: um software de inteligência artificial inteligente o suficiente para enganar os humanos deveria ser obrigado a se identificar? Os executivos do Google ainda não têm uma resposta clara. O Duplex surge em um momento delicado para as empresas de tecnologia e não ajudou a aliviar os questionamentos a respeito do crescente poder da empresa sobre as informações, dos softwares de automação e das consequências para a privacidade e o trabalho.

“Estou horrorizada”, escreveu Zeynep Tufekci, professora e crítica frequente das empresas de tecnologia, no Twitter, sobre a Duplex. “O Vale do Silício está eticamente perdido, sem rumo, e não aprendeu nada.”

Como nos anos anteriores, a empresa revelou um recurso antes que estivesse pronto. O Google ainda debate como liberá-lo e quão humana será a tecnologia, disseram vários funcionários durante a conferência. Esse debate aborda um dilema muito maior para o Google: mesmo correndo para construir uma inteligência excepcional e parecida com a humana, a empresa é cautelosa para evitar erros que possam fazer as pessoas perderem a confiança para usar seus serviços.

Scott Huffman, executivo da equipe do Google Assistente, disse que as reações ao Duplex foram conflitantes. Alguns ficaram impressionados com as demonstrações técnicas e outros mostraram preocupação com as implicações. Huffman disse entender as preocupações, mas não endossa uma das soluções propostas para o fator medo: dar uma voz obviamente robótica ao recurso na hora dos telefonemas. “As pessoas provavelmente desligarão”, disse.

Em entrevista, na quarta-feira, Huffman sugeriu que a máquina poderia dizer algo como “eu sou o Google Assistente e estou telefonando para um cliente”. Há mais experimentos planejados para este verão (Hemisfério Norte), observou.

O Duplex foi projetado para executar um conjunto limitado de tarefas bastante específicas. A tecnologia de IA do Google não é inteligente o bastante para aprender a fazer muitas outras coisas rapidamente. Se o ser humano do outro lado da linha fizer perguntas sobre algo diferente de cabelo ou restaurantes, o Duplex não terá uma resposta humana e poderá encerrar a ligação — deixando claro que é um software. Um funcionário do Google o comparou ao sistema de reservas de restaurantes on-line da OpenTable, que automatiza o processo na internet. Ninguém está preocupado com a possibilidade de o sistema enganar os humanos e aprender a executar outras tarefas, observou o funcionário.

---