Por que os chatbots falham

Na indústria de tecnologia, queremos tanto que a próxima grande novidade esteja aqui que saltamos muito rapidamente para anunciar sua chegada. Impulsionados em parte por um entusiasmo genuíno, em parte por incentivos capitalistas inerentes, geramos onda após onda de exagero. E há um sabor especial desse zelo reservado para tecnologias que realizam aquele pináculo da fantasia de ficção científica: inteligência artificial semelhante à humana.

Um problema com o termo “inteligência artificial” é que ele é usado de forma tão descuidada. A narrativa atual do chatbot de IA gira em torno do uso do processamento de linguagem natural (NLP), por exemplo, mas a Pesquisa do Google usa o NLP em seus resultados de pesquisa há muito tempo . IA é um termo de marketing usado para gerar hype, e a mídia de tecnologia está acreditando nisso .

Isso não quer dizer que uma ampla gama de “tecnologias de IA” não criará valor para o usuário. Mas, como designers de produtos, devemos ser capazes de distinguir esse valor do discurso de vendas. Não faz muito tempo que a Cortana da Microsoft, a Alexa da Amazon e o Google Assistant estavam crescendo para mudar o mundo. Pela maneira como as pessoas falavam naquela época , parecia inevitável que esses assistentes digitais se tornassem copilotos em nossas vidas, aliviando-nos de seu tédio.

As grandes empresas de tecnologia reivindicaram a vitória , mas cinco anos depois a tendência é clara: embora úteis para certas coisas, os robôs não mudaram a sociedade de maneira significativa. Essa baixa adoção não é resultado de resistência de ativistas luditas, regulamentação restritiva do governo ou medo de máquinas malignas. A questão é de inércia – simplesmente não há muitos motivos para sair do seu caminho para usar a coisa, como se vê.

Mudar o comportamento humano não é uma tarefa trivial. Existe tanto uma disciplina acadêmica quanto uma indústria de autoajuda dedicada a entender suas nuances. Às vezes, as empresas de tecnologia encontram ouro e criam produtos atraentes o suficiente para entrar em nossas vidas cotidianas – computadores pessoais, smartphones e mídias sociais – mas, de um modo geral, é preciso muito para as pessoas mudarem seus hábitos. Para que uma nova tecnologia pegue, ela precisa atingir uma nota específica no tom certo, na hora certa. Bilhões de dólares foram gastos tentando descobrir como atingir essa nota de forma consistente, mas ela permanece indescritível.

A indústria teve algum tempo para testar e iterar em chatbots, e agora existem algumas excelentes diretrizes de design por aí. A maioria dessas diretrizes reconhece as limitações dos chatbots, bem como seus pontos fortes. Existem alguns problemas importantes de UX com interfaces de conversação que dificultam a afirmação de que chatbots como ChatGPT ou Bard são a próxima grande novidade em tecnologia.

Somente texto

Com uma interface de chat, o texto é apresentado de forma linear. Imagine segurar um lápis na mão e tentar discernir sua cor. Se você está olhando para o nariz de um lápis, vai ser difícil. Se você puder mover o lápis e olhá-lo de vários ângulos, será muito mais fácil.

Usar um chatbot é como olhar para o nariz de um lápis. Quando você faz uma pergunta e obtém uma resposta na forma de texto, obtém uma informação por vez. Em vez de digitar uma consulta em uma caixa de pesquisa e obter uma lista de respostas na forma de texto e outros elementos da interface do usuário, como botões e guias, você obtém uma resposta de texto que pode ou não ser útil.

É por isso que sou muito cético em relação à nova pesquisa do Bing com tecnologia ChatGPT . Quando estamos procurando algo na internet, não há necessariamente uma resposta certa. Às vezes, o ChatGPT retorna uma lista de resultados, o que ajuda um pouco. Mas uma lista ordenada simples ainda carece de interatividade.

Ao longo dos anos, até mesmo a Pesquisa Google evoluiu de listas para uma interface de usuário muito mais robusta com guias, cartões expansíveis e elementos de resumo conhecidos como painéis de conhecimento . Esses elementos interativos colocam mais controle nas mãos do usuário, permitindo que eles encontrem a resposta em meio aos resultados, em vez de depender de um chatbot para acertar em cheio com uma resposta de conversação.

Entrada ambígua

Outro problema com os chatbots é que você nunca sabe exatamente o que dizer para obter a resposta que procura. É por isso que, se você já usou um assistente digital, ele primeiro oferece sugestões sobre o que pode fazer. Sem esses prompts, os usuários não têm ideia de como interagir com ele.

É certo que o ChatGPT ajuda a resolver esse problema por ter um modelo incrivelmente sofisticado que pode responder de maneira muito natural à maioria das mensagens geradas pelo usuário. Mas o fato permanece: se você está procurando uma resposta diferenciada para uma resposta complexa, é frustrante ir e voltar com um chatbot até encontrar o que está procurando. Muito melhor obter todas as informações em um instante e encontrar rapidamente por si mesmo o que é mais relevante.

As interfaces gráficas do usuário foram realmente inventadas para resolver esse problema exato. Nos primórdios da computação, você precisava de interfaces de linha de comando para executar funções. Quando o pessoal do Xerox PARC inventou a GUI, eles capacitaram toda uma população de não programadores a usar computadores, recriando modelos familiares (por exemplo, arquivos, pastas) em uma tela.

Novidade não é suficiente

O principal valor de um chatbot ou de qualquer IA é seu fator de novidade. As pessoas adoram brincar com a coisa – é legal! Mas se o frescor é o principal motivo pelo qual as pessoas o estão usando, isso é um problema para a longevidade do produto.

Chamar algo de “artificialmente inteligente” é arrogante. E a resposta do público a isso será testar imediatamente os limites dessa coisa supostamente inteligente, esperando quebrá-la. (Preciso lembrá-lo do infame bot Tay ?)

Já vimos jornalistas gerarem ciclos de notícias negativas para o ChatGPT fazendo isso . Além da retórica prejudicial que os chatbots irrestritos poderiam disseminar, provavelmente não é bom para os negócios se a principal maneira de as pessoas se envolverem com seu produto for tentando provar que ele não funciona muito bem.

O ChatGPT está sendo anunciado como uma tecnologia inovadora, mas os chatbots são, na verdade, uma ideia obsoleta. Nosso apego à fantasia de uma IA senciente é o que torna esta uma grande notícia, enquanto a experiência do usuário é encoberta e o trem do hype continua rolando. Precisamos quebrar esse molde para desbloquear a tecnologia que realmente agregará valor aos usuários. O que me entusiasma pessoalmente não é a inteligência artificial (o que quer que isso signifique), mas o que ela pode permitir. Isso requer um processo de tentativa e erro com base nas necessidades e no comportamento do usuário, não no exagero. Um forte pensamento centrado no ser humano pode direcionar a tecnologia na direção certa – e é aí que entra a comunidade de design.

Se você é alguém que gosta de ler um monte de informações semi-úteis em forma de texto, sugiro simplesmente assinar minha Substack , onde escrevo sobre uma variedade de tópicos de tecnologia e design. Eu prometo que você nunca será manipulado sombriamente para terminar seu casamento . 😊