A inteligência artificial (IA) é frequentemente criticada por criar informações que parecem factuais, mas são falsas, fenômeno conhecido como “alucinações”. Esses erros plausíveis já causaram confusão em sessões de chatbots, processos judiciais e até registros médicos.
No ano passado, uma afirmação falsa de um novo chatbot do Google contribuiu para uma queda de cerca de US$ 100 bilhões no valor de mercado da empresa.
No universo da ciência, no entanto, os inovadores estão descobrindo que as alucinações da IA podem ser incrivelmente úteis. As máquinas inteligentes estão “sonhando” com realidades irreais que ajudam cientistas a rastrear o câncer, projetar medicamentos, inventar dispositivos médicos, descobrir fenômenos climáticos e até ganhar o Prêmio Nobel.
“O público pensa que é tudo ruim,” diz Amy McGovern, cientista da computação que dirige um instituto federal de IA. “Mas, na verdade, está dando aos cientistas novas ideias. Está oferecendo a eles a chance de explorar possibilidades que talvez nunca tivessem considerado.”
A imagem pública da ciência é de algo frio e analítico. Porém, as primeiras etapas da descoberta científica são muitas vezes repletas de palpites e especulações. “Tudo vale” é como Paul Feyerabend, filósofo da ciência, descreveu esse momento de liberdade criativa.
Agora, as alucinações da IA estão revitalizando o lado criativo da ciência. Elas aceleram o processo pelo qual cientistas e inventores desenvolvem novas ideias e as testam para verificar sua viabilidade. É o método científico —só que turbinado. O que antes levava anos agora pode ser feito em dias, horas ou minutos. Em alguns casos, esses ciclos acelerados de investigação estão ajudando a abrir novas fronteiras.
“Estamos explorando,” diz James J. Collins, professor do Instituto de Tecnologia de Massachusetts (MIT), que recentemente elogiou as alucinações por acelerarem sua pesquisa em antibióticos inéditos. “Estamos pedindo aos modelos que criem moléculas completamente novas.”
As alucinações da IA surgem quando cientistas ensinam modelos computacionais generativos sobre determinado assunto e deixam as máquinas reorganizarem essas informações. Os resultados podem variar entre erros sutis e ideias surreais —e, às vezes, levam a grandes descobertas.
Em outubro, David Baker, da Universidade de Washington, recebeu o Prêmio Nobel de Química por sua pesquisa pioneira sobre proteínas, moléculas fundamentais para a vida. O comitê do Nobel destacou sua capacidade de criar rapidamente proteínas completamente novas, inexistentes na natureza, chamando o feito de “quase impossível”.
Antes do anúncio do prêmio, Baker comentou que os surtos de imaginação da IA foram essenciais para “fazer proteínas do zero”. A nova tecnologia, diz ele, ajudou seu laboratório a obter cerca de cem patentes, muitas voltadas para o cuidado médico. Uma delas é para um novo tratamento contra o câncer; outra, para combater infecções virais globalmente. Baker também fundou ou ajudou a criar mais de 20 empresas de biotecnologia.
“As coisas estão avançando rápido,” afirma. “Mesmo cientistas que trabalham com proteínas não sabem o quanto isso progrediu.” Quantas proteínas seu laboratório já projetou? “Dez milhões —todas novas,” ele responde. “Elas não existem na natureza.”
Apesar do apelo das alucinações da IA para descobertas, alguns cientistas consideram o termo enganoso. Para eles, as criações da IA generativa não são ilusórias, mas prospectivas —têm chance de se tornar realidade, como conjecturas feitas nas primeiras etapas do método científico. Por isso, evitam o uso da palavra “alucinação”.
Ainda assim, especialistas reconhecem que as criações da IA científica têm vantagens significativas em relação às alucinações de chatbots. Essencialmente, os impulsos criativos da IA científica estão fundamentados nos fatos sólidos da natureza e da ciência, diferentemente das ambiguidades da linguagem humana ou das falhas da internet, com seus vieses e inverdades.
“Estamos ensinando física à IA,” explica Anima Anandkumar, professora do Instituto de Tecnologia da Califórnia (Caltech). Segundo ela, essa base física em fatos confiáveis gera resultados altamente precisos. Ela também observa que os modelos de linguagem de chatbots não têm um método prático para verificar a precisão de suas afirmações.
O teste final, ressalta, ocorre quando os cientistas comparam as criações digitais com a realidade física. “É preciso testar,” enfatiza Anandkumar. “Algo novo projetado pela IA precisa ser validado.”
Recentemente, Anandkumar e sua equipe usaram alucinações da IA para criar um novo tipo de cateter que reduz drasticamente a contaminação bacteriana —um problema global que causa milhões de infecções urinárias todos os anos. O modelo de IA gerou milhares de geometrias de cateter e escolheu a mais eficaz. As paredes internas do cateter possuem espinhos em forma de serrilha, que impedem as bactérias de se fixarem e subirem para infectar a bexiga dos pacientes. A equipe agora discute a comercialização do dispositivo.
Apesar de elogiar a utilidade da IA, Anandkumar evita o termo “alucinação”. No entanto, outros pesquisadores adotaram a palavra. Harini Veeraraghavan, chefe de um laboratório do Memorial Sloan Kettering Cancer Center, em Nova York, usou o termo em um artigo sobre o uso de IA para melhorar imagens médicas borradas. Seu título inclui “MRI Alucinado” (sigla para ressonância magnética).
Pesquisadores da Universidade do Texas em Austin também abraçaram o termo: “Aprendendo com Alucinações” é o título de um artigo sobre navegação de robôs. E Pushmeet Kohli, chefe da divisão científica da DeepMind, elogiou as alucinações por promoverem descobertas. Ele comentou pouco depois de dois colegas da empresa ganharem o Nobel de Química junto com Baker.
“Temos essa ferramenta incrível que consegue demonstrar criatividade,” afirma Kohli. Um exemplo, diz ele, é como um computador da DeepMind venceu o campeão mundial de Go em 2016. O ponto decisivo do jogo foi o movimento 37. “Achávamos que era um erro,” ele conta. “Mas, com o desenrolar do jogo, percebemos que era um golpe de gênio. Esses modelos conseguem produzir percepções muito novas.”
McGovern, diretora do instituto de IA, é também professora de meteorologia e ciência da computação na Universidade de Oklahoma. Ela sugere que as alucinações da IA poderiam ser descritas de forma mais técnica como “distribuições de probabilidade”, um termo antigo no mundo da ciência.
Meteorologistas, segundo ela, já utilizam IA para criar milhares de variações sutis de previsão do tempo. Essa riqueza de possibilidades permite identificar fatores inesperados que causam eventos extremos, como ondas de calor mortais. “É uma ferramenta valiosa,” conclui McGovern.