Devemos temer a inteligência artificial que ‘sente’?

A expectativa de que máquinas “sintam” parece fascinar – ainda que cause certo temor. Como com tantos outros dilemas neste primeiro quarto do século 21, este também saltou das telas e das páginas da ficção para o dia a dia das pessoas.

Os avanços da IA (Inteligência Artificial) e de conceitos associados (aprendizado de máquina, inteligência artificial geral etc.) provocam questões de sabor mais filosófico. Já circulam pela internet relatos de quem tenha “hackeado” o ChatGPT e feito surgir o chatbot Dan (“Do Anything Now”, na sigla em inglês – ou “Faça Qualquer Coisa Agora”, em tradução livre). O ChatGPT já tem travas e filtros para minimizar, ou eliminar, discurso de ódio, informações falsas e coisas do tipo. O Dan driblaria esses filtros.

Quem já usou aponta que o Dan seria capaz de gerar textos que manifestariam uma certa “afeição” pelos graciosos pinguins. Reportagem recente da BBC, por exemplo, diz que o chatbot, em algumas respostas, manifesta o que pareceria a qualquer pessoa arrogância, inveja, excitação – ou, na novilíngua digital, “infocobiça” (busca por dados a qualquer custo), “sintaxemania” (obsessão pela “pureza” das linhas de código) e “datarush” (a “adrenalina” de complegtar uma tarefa com sucesso). Os idiomas falados hoje no mundo talvez não evoluam na velocidade necessária para explicar tudo que está em transformação (mas essa é uma discussão para especialistas).

Faz algum sentido pensar em sistemas artificiais que desenvolvam emoções? Haverá especialistas de respeito dos dois lados da questão com respostas extremamente convincentes. Mas, se não fosse pela noção sólida de que não há como prever o futuro, o argumento de que sim, elas terão emoções próprias em algum momento, pareceria levar vantagem. Porque impressiona que a interação com um computador, em linguagem natural (português, inglês, espanhol etc.) consiga produzir o que parece cada vez mais com um discurso coerente de outro ser humano. Não demora e queremos projetar na máquina mais de nós mesmos. E se a “inteligência” já parece estar ali, restaria projetar as emoções.

Tende a passar um pouco despercebido na conversa sobre se IAs podem ou não criar emoções o fato de que emoções, sentimentos, consciência e até mesmo a mente, entre outros conceitos, são objetos de acentuadas divergências e debates acalorados entre especialistas de áreas que vão da neurociência à filosofia. Encheriam algumas bibliotecas os livros e artigos dedicados a tudo isso – e já existem alguns clássicos modernos – entre eles “O Erro de Descartes”, do neurocientista português radicado nos EUA António Damásio (mas pode-se começar por basicamente qualquer de seus livros, muito didáticos e acessíveis).

O temor a que se fez menção pouco mais acima é o de que, posto em movimento, um mecanismo inicialmente controlado e controlável de alguma maneira escape ao controle. Pense o leitor, já aqui indo mais perto da fronteira entre o possível e o absurdo, no exemplo, mencionado na reportagem da BBC, por Michael Wooldridge, diretor do Instituto Alan Turing: uma torradeira que se odiasse a cada vez que queimasse uma torrada. Que serventia teria isso? Ainda que inicialmente fosse possível programar uma determinada emoção isolada em uma máquina, o que impediria que o avanço do machine learning a levasse a desenvolver outras emoções, não esperadas nem desejáveis? De novo: essa é só uma elocubração que caminha no fio da navalha entre ficção e realidade – mas, nesse mesmo registro, resposta poderia ser: nada.

Em uma resposta sumária: máquinas que se emocionam, se fossem mecanismos plenamente controlados e controláveis, teriam sem dúvida aplicações de que hoje não se pode fazer nem uma ideia aproximada. Bem programadas, com filtros éticos bem postos e seguros, seriam uma revolução de tal ordem que faria a humanidade do século 22 pensar no século 21 como hoje pensamos na pré-história. Mas emoções, o que se passa em nós ao acompanhar um eclipse solar total, ao vibrar com o gol do time do coração, ao segurar pela primeira vez a mão do filho recém-nascido – talvez esteja aí o limite além do qual a tecnologia não possa ir.