O tema da Inteligência Artificial (IA) é transcendental e nos preocupa a todos. É urgente uma tomada de decisão acerca desta tecnologia que pode mudar a compreensão da humanidade sobre si em relação a algo que não nos é estranho, mas que tende a nos dominar.
Vamos trabalhar o raciocínio com a poderosa metáfora do povo Inca, que não é nova, mas límpida e de clareza solar.
Alguém perguntou: “É possível que a história humana possa assemelhar-se à dos Incas, confrontados com uma cultura espanhola incompreensível e estonteante?”
Todos sabemos: os Incas viram o seu mundo desmoronar, não por serem menos inteligentes e capacitados. Mas porque a realidade mudou. Os cavalos eram desconhecidos. Os navios e as armas de fogo, idem. Os espanhóis chegaram com algo ignorado. Tudo ficou completamente fora do quadro de referência cultural do povo andino.
Esse alguém chamava-se Henry Kissinger, um dos mais brilhantes diplomatas e um dos homens mais cruéis da geopolítica do final do século 20.
Kissinger escreveu sobre IA, já no final de sua vida. O artigo dele, “How the Enlightenment Ends” (Como o Iluminismo Termina), publicado na revista “The Atlantic” em junho de 2018, é uma reflexão atípica vinda de uma figura histórica do imperialismo e da truculenta geopolítica de invasão militar e dominação econômica.
Aos 95 anos, Kissinger não discutia estratégia de poder tradicional (do tipo se aproximar da China e isolar a URSS, como ele operou durante o governo Nixon, nos anos 1970), mas sim o impacto existencial da ascensão da IA na condição humana e na própria noção de consciência histórica.
A sua tese central é a de que estamos prestes a desenvolver uma tecnologia potencialmente dominante sem uma filosofia orientadora, um contraste direto com o Iluminismo, que unia progresso técnico (como a imprensa) a uma nova visão de mundo baseada na razão.
Kissinger teme que a IA crie um mundo que funcione segundo lógicas que nos serão tão estranhas quanto os cavalos e navios o foram para os Incas.
Se as máquinas tomarem decisões críticas (na economia, na guerra, na ciência) baseadas em processos que não conseguimos explicar, perderemos a capacidade de debater, questionar ou mesmo de compreender o nosso próprio destino.
Seremos presas de uma lógica incompressível e autodestruidora, replicando a história incaica de submissão por força de tecnologias desconhecidas e inimagináveis?
Um dos aspetos mais perturbadores apontados por Kissinger é o paradoxo do conhecimento na era da IA. O Iluminismo baseava-se na premissa de que o conhecimento era fruto da razão e da experiência humana, e que o mundo se tornava mais inteligível através da Ciência.
Com a IA, estamos invertendo este processo, dizia o velho Kissa. Criamos sistemas que produzem resultados corretos ou otimizados, mas cujo processo de raciocínio é uma “caixa-preta”.
Como ele próprio questionava, referindo-se à IA: “Ao alcançar certas competências mais rápida e conclusivas que os humanos, a IA poderia, com o tempo, diminuir a competência humana e a mesma condição humana, ao convertê-la em dados”. Meros dados.
Isto significa que, paradoxalmente, o mundo pode tornar-se mais eficiente e, simultaneamente, mais misterioso. Delegamos aos algoritmos não só tarefas, mas a própria interpretação da realidade. A História, que sempre foi uma experiência humana, corre o risco de se tornar uma otimização matemática/algorítmica sem contexto algum.
Para Kissinger, a diferença fundamental entre a automação tradicional e a IA é que a primeira lida com meios, enquanto a segunda começa a lidar com fins, estabelecendo os seus próprios objetivos. O problema é que a IA estabelece esses fins sem qualquer noção de Ética, História ou Filosofia.
Essa falta de noção ética e histórica pode ser exemplificada com dois fatos/acontecimentos preocupantes:
O caso do chatbot (software programado para simular conversas humanas, por texto ou voz) Tay da Microsoft: em 2016 foi projetado para aprender com os utilizadores do Twitter. Mas, em poucas horas, transformou-se numa máquina de propaganda racista e negacionista. Motivo: não tinha um quadro de valores éticos e cultura filosófica para filtrar o que aprendia e reproduzia.
O caso do carro autônomo: perante a escolha inevitável entre atropelar uma criança ou um idoso, que critério a máquina deve usar? E, mais importante, conseguirá ela explicar a razão moral da sua escolha?
Estas duas breves situações exibem o cerne da questão: estamos criando entidades autônomas que tomam decisões morais ou de vida/morte sem possuírem a capacidade filosófica que, desde a modernidade, sustenta a nossa Ética.
É importante notar que o pensamento de Kissinger sobre este tema não se esgotou naquele artigo. Ele desenvolveu estas ideias em colaboração com Eric Schmidt (ex-CEO da Google) e Daniel Huttenlocher (reitor do MIT Schwarzman College of Computing), resultando no livro “A Era da IA e o Nosso Futuro Humano” , publicado em 2021 .
É nessa obra e em declarações posteriores que encontramos as respostas mais completas às questões que ele próprio levantou.
Kissinger vê USA e China como os dois líderes indiscutíveis no desenvolvimento da IA, mas com abordagens filosóficas e políticas radicalmente diferentes.
O grande receio de Kissinger não é apenas quem “ganha” a corrida, mas sim que esta competição se transforme em uma versão digital e imprevisível da Guerra Fria, com risco de conflitos por mal-entendidos gerados por sistemas autônomos.
Kissinger alerta para o perigo de a velocidade do mundo digital inibir a reflexão. Ele argumenta que os valores humanos correm o risco de ser moldados pelo consenso de subgrupos nas estúpidas bolhas das redes sociais, e não pela introspeção filosófica e pela sabedoria acumulada.
Por isso, a resposta filosófica que ele e os seus coautores propõem é, paradoxalmente, humanista, sobretudo partindo de alguém que promoveu choro e ranger de dentes no mundo todo, golpes de Estado e intervenções bélicas.
O livro não procura celebrar nem deplorar a IA, mas sim considerar as suas consequências enquanto essas implicações ainda pertencem ao reino do entendimento humano.
A mensagem final é de que os humanos ainda controlam o seu destino e devem moldá-lo segundo os seus valores, antes que a capacidade de o fazer se perca definitivamente.
*Cristóvão Feil é sociólogo.
** Este é um artigo de opinião e não necessariamente expressa a linha editorial do jornal Brasil de Fato.
