Os novos chatbots podem mudar o mundo. Você pode confiar neles?

Anúncio

Apoiado por

A Siri, a Pesquisa do Google, o marketing online e o dever de casa do seu filho nunca mais serão os mesmos. Depois, há o problema da desinformação.

Envie uma história a qualquer amigo

Como assinante, você tem 10 artigos de presente para dar a cada mês. Qualquer um pode ler o que você compartilha.

Por Cade Metz

Cade Metz escreveu este artigo com base em meses de conversas com os cientistas que constroem chatbots e as pessoas que os utilizam.

Este mês, Jeremy Howard, um pesquisador de inteligência artificial, apresentou um chatbot online chamado ChatGPT para sua filha de 7 anos. Ele havia sido lançado alguns dias antes pela OpenAI, um dos laboratórios de IA mais ambiciosos do mundo.

Ele disse a ela para perguntar ao chatbot experimental o que viesse à mente. Ela perguntou para que servia a trigonometria, de onde vinham os buracos negros e por que as galinhas incubavam seus ovos. A cada vez, ele respondia em prosa clara e bem pontuada. Quando ela pediu um programa de computador que pudesse prever a trajetória de uma bola arremessada no ar, ela também conseguiu.

Nos dias seguintes, o Sr. Howard - um cientista de dados e professor cujo trabalho inspirou a criação do ChatGPT e tecnologias semelhantes - passou a ver o chatbot como um novo tipo de tutor pessoal. Poderia ensinar matemática, ciências e inglês a sua filha, sem mencionar algumas outras lições importantes. A principal delas: não acredite em tudo que lhe dizem.

"É uma emoção vê-la aprender assim", disse ele. "Mas eu também disse a ela: não confie em tudo que ela lhe dá. Ela pode cometer erros."

A OpenAI está entre as muitas empresas, laboratórios acadêmicos e pesquisadores independentes que trabalham para construir chatbots mais avançados. Esses sistemas não podem conversar exatamente como um humano, mas muitas vezes parecem. Eles também podem recuperar e reembalar informações com uma velocidade que os humanos jamais conseguiriam. Eles podem ser vistos como assistentes digitais – como Siri ou Alexa – que são melhores em entender o que você está procurando e fornecer a você.

Após o lançamento do ChatGPT – que já foi usado por mais de um milhão de pessoas – muitos especialistas acreditam que esses novos chatbots estão prontos para reinventar ou até mesmo substituir os mecanismos de busca da Internet como Google e Bing.

Eles podem fornecer informações em frases curtas, em vez de longas listas de links azuis. Eles explicam conceitos de maneiras que as pessoas possam entender. E eles podem fornecer fatos, ao mesmo tempo em que geram planos de negócios, tópicos de trabalhos de conclusão de curso e outras novas ideias do zero.

"Agora você tem um computador que pode responder a qualquer pergunta de uma forma que faça sentido para um ser humano", disse Aaron Levie, executivo-chefe de uma empresa do Vale do Silício, a Box, e um dos muitos executivos que exploram as maneiras pelas quais esses chatbots mudarão o mundo. cenário tecnológico. "Ele pode extrapolar e pegar ideias de diferentes contextos e mesclá-los."

Os novos chatbots fazem isso com o que parece ser total confiança. Mas eles nem sempre dizem a verdade. Às vezes, eles até falham em aritmética simples. Eles misturam fatos com ficção. E à medida que continuam a melhorar, as pessoas podem usá-los para gerar e espalhar inverdades.

O Google construiu recentemente um sistema específico para conversação, chamado LaMDA, ou Language Model for Dialogue Applications. Nesta primavera, um engenheiro do Google afirmou que era senciente. Não foi, mas capturou a imaginação do público.

Aaron Margolis, um cientista de dados em Arlington, Virgínia, estava entre o número limitado de pessoas fora do Google que tinham permissão para usar o LaMDA por meio de um aplicativo experimental do Google, o AI Test Kitchen. Ele sempre ficava impressionado com seu talento para conversas abertas. Isso o manteve entretido. Mas ele alertou que poderia ser um pouco fabulista – como era de se esperar de um sistema treinado a partir de grandes quantidades de informações postadas na internet.

"O que isso dá a você é como um filme de Aaron Sorkin", disse ele. O Sr. Sorkin escreveu "A Rede Social", um filme frequentemente criticado por estender a verdade sobre a origem do Facebook. "Partes disso serão verdadeiras e outras não serão verdadeiras."