Yuval Noah Harari, professor de história e filósofo, em recente entrevista a um canal de TV, comparou o ChatGPT, tal como é hoje, a uma “ameba” em relação ao que as IA’s poderão se tornar em bem pouco tempo, quando a humanidade terá uma geração delas suficientemente inteligentes e autônomas para possibilidades inimagináveis que seriam impossíveis a nós, humanos.
O problema, segundo ele, é que não terão sentimentos para conter suas ações em termos morais, e o risco maior surgiria de governos e empresas que entregarão suas principais decisões a essas ferramentas, algo que pode estar acontecendo agora mesmo. Há algumas décadas o grande perigo à humanidade partia das armas nucleares, mas Hariri lembra que estas estavam sob nosso comando, e as IA’s, ao contrário, “tomam decisões sozinhas”, inclusive para produzir novas ideias.
Não houve como não associar os impactantes alerta do escritor às ações do novo governo Trump antes mesmo de sua posse, quando trouxe para mais perto das decisões de estado alguns dos mais poderosos bilionários do Vale do Silício e das “big tech’s”, que não apenas indicaram nomes para o governo, como até ocuparam cargos importantes nele – como Elon Musk –, deixando claro o alinhamento entre os interesses do governo e desses super empresários da tecnologia.
Inclusive já se investe pesadamente no desenvolvimento de uma inteligência artificial geral (AGI), que já conta com pelo menos 72 projetos espalhados por 37 países. Nos EUA a principal preocupação é que a China o consiga primeiro, e tudo indica que assistiremos a um novo tipo de corrida armamentista – como nos tempos da Guerra Fria – mas desta vez não envolvendo armas nucleares, mas uma disputa pelo controle global através da Inteligência Artificial.
O que se questiona é se as IA’s realmente criam ou apenas reorganizam elementos já existentes, como ocorre numa pesquisa em que todos os elementos são conhecidos, mas apenas rearranjados para tomar um formato novo a partir dessa combinação. Laboratórios, por exemplo, poderiam produzir remédios inexistentes com elementos indicados por essa super IA que, combinados de uma forma inédita, poderia produzir terapias para doenças hoje incuráveis, como o câncer. Esse potencial na área médica se faz bastante promissora, mas não se pode subestimar o uso desse processo de combinação para atingir infinitos objetivos. E como nos protegeríamos então do mal uso que se fizesse dele?
Não seremos ingênuos a ponto de acreditar que os políticos e empresários envolvidos no Projeto Stargate, focado na AGI, estejam pensando só em medicina. O ex-CEO do Google Eric Schimidt, por exemplo, está atualmente envolvido com o poder público na produção de drones para o governo dos EUA, intermediando políticos em Washington com empresários do Vale do Silício. E ele mesmo afirma que os governos e seus processos de gestão não estão prontos para ter uma IA no centro de seu processo decisório. Vale lembrar que, quando as redes sociais apareceram, ninguém imaginava que se tornariam uma ameaça às democracias do planeta, mas foi justamente o que aconteceu.
Álvaro Borba, um influencer conhecido, trouxe à discussão um quadro bem intrigante ao dizer que o mundo mostrado em “O exterminador do futuro” é altamente improvável, colocando-nos mais perto da distopia de Franz Kafka em seu livro “O Processo”, em que o protagonista responde a um processo criminal sem sequer saber do que é acusado, e nem, porque está sendo punido. E pergunta se esse seria o nosso futuro, caso a gestão dos governos fosse entregue às IA’s, já que elas tomariam decisões baseadas em cálculos tão complexos e sofisticados que nenhum ser humano conseguiria compreender, até para contestar.
Essa análise transforma o novo “Departamento de Eficiência Governamental” – que agora abriga Musk no governo Trump – em uma experiência preocupante, para dizer o mínimo, se pensarmos numa inteligência artificial aplicada a políticas públicas. Cientistas políticos já começam a revelar preocupação com a ideia de o governo Trump em breve poder contratar e demitir pessoas com base em algorítmos. E que não duvidem que ele o faça, pois já mostrou a que veio no limiar do novo mandato.
O risco maior não se limita ao governo Trump, mas a uma tendência para que todas as nossas instituições, num prazo relativamente curto, se vejam conduzidas por inteligência artificial. “O que pode acontecer então é a formação de bilhões de agentes alienígenas não orgânicos tomando decisões por nós, e sobre o mundo na totalidade”, nas palavras de Noah Harari. E é certo que não se limitarão a novos medicamentos, mas também a novas armas, mecanismos de controle financeiro e até a novas teorias científicas. Estamos diante de algo nunca visto antes na história humana.
Esse seria, pelas palavras de Hariri, um modo ‘alienígena’ de fazer as coisas, diferente de tudo o que os seres orgânicos já fizeram. Podemos pensar nisso como “uma invasão não orgânica do planeta Terra.” E ele termina dizendo que se trata de algo que precisa ser bem pensado, porque o que está sendo inventado agora jamais poderá ser “desinventado”. Os analistas são unânimes em dizer que ninguém sabe onde esse caminho vai dar, mas de uma coisa ninguém tem dúvida: ele não terá volta!
A previsão de Yuval Noah Harari sobre o ChatGPT não fica muito distante da visão do GPT atual como uma “ameba”, perto do que está chegando por aí, pois estamos vivendo um momento inicial, mas crítico, da evolução tecnológica. A ideia de IAs autônomas capazes de colonizar planetas ou realizar feitos extraordinários mostra o potencial disruptivo da tecnologia.
O ponto mais alarmante, porém, é a ausência de limitações morais nessas IAs, o que nos coloca diante de questões éticas um tanto temerárias. Como assegurar que as decisões dessas máquinas estejam alinhadas com os valores humanos defendidos pelas nações?
A entrega de decisões críticas a IAs, como dito pelo escritor, é um cenário que realmente preocupa. Quando uma tecnologia capaz de processar dados em uma escala inimaginável assume o comando, há um risco de desumanização dos processos de tomada de decisão. As IAs têm potencial para serem ainda mais perigosas que as armas nucleares que norteavam o poder bélico até o momento porque, diferentemente das bombas, elas não apenas destroem — elas aprendem, evoluem e criam.
Um governo que utiliza IA para contratar, demitir ou implementar políticas públicas corre o risco de desconsiderar fatores humanos que algoritmos, por mais avançados que se mostrem, não conseguem capturar. Isso poderia avançar para um momento onde decisões sejam tomadas de maneira rígida e inquestionável, como em “O Processo” de Kafka.
E eu estava justamente no ponto do texto em que chamava atenção para um novo tipo de corrida armamentista, desta feita baseada na IA, quando uma notícia inusitada o interrompeu pelo meio: o lançamento pela China do “DeepSeek”, que derrubou a Nasdaq, a bolsa americana de tecnologia nos Estados Unidos. Eu falava justamente de que estamos no limiar desse novo momento de competição pelo domínio global no campo da tecnologia, e de um instante para outro isso deixou de ser mera especulação para invadir nossa realidade de forma inesperada e contundente.
A história já nos mostrou situações em que o desenvolvimento é impulsionado pela lógica do “primeiro a chegar”, na tentativa de ser o primeiro a controlar, trazendo a reboque os riscos do uso irresponsável e destrutivo. Pois de novo somos colocados frente a frente com essa guerra fria a que me referi, com potencial robusto para, inclusive, mudar de fria para quente, dependendo de como os governantes irão reagir a ela.
A mesma capacidade de criar soluções pode igualmente ser usada para fabricar armas ou outros dispositivos que nos ameacem, e isso nos coloca diante desta questão: como garantir que os avanços sejam direcionados para o bem-estar coletivo, em lugar de sucumbir a objetivos de poder e dominação, como o que experimentamos neste exato momento?
O conceito de Harari sobre “agentes alienígenas não orgânicos” não se trata de força de expressão: reflete um medo real de que a IA desenvolva formas de pensar e agir que não consigamos compreender e muito menos exercer controle sobre, relegando à humanidade o papel de mero coadjuvante no comando do planeta. Até há poucos momentos, isso pareceria peça de ficção antes da China interromper meu texto para dizer que tudo estava mais perto do que se pensava.
A especulação sobre um futuro incerto e obscurantista virou uma realidade assustadora, mudando também a gradação do risco, que pula da mera perda do controle funcional para a perda de nossa própria autonomia enquanto espécie.
Neste momento exato de nossa história acabamos de cruzar aquela linha divisória a que me referi acima. Significa dizer que o ponto de irreversibilidade foi deixado para trás, dando início à escalada sem volta, restando-nos apenas olhar para a frente e pensar sobre como iremos lidar isso.
Da mesma forma que eu, todo o resto da humanidade conectada com seu entorno estará tomado pela mesma apreensão que me dominou agora. E não é sobre teorias conspiratórias, mas sobre a maturidade dos que estão no poder para regulamentar o que está chegando, de forma global e incisiva, para garantir que os avanços tecnológicos não sejam explorados com objetivos egoístas ou destrutivos. Olhando para trás parece utópica e até ingênua tal expectativa, mas é o que nos resta.
A sociedade não precisa apenas pensar em discuti-las, mas tomar uma decisão enquanto os acordos ainda são possíveis. Não se trata de desacelerar o progresso, mas de garantir que ele ocorra de forma responsável, já que entramos todos juntos no mesmo barco, e são as decisões tomadas hoje que irão moldar o futuro da humanidade e do planeta, para melhor ou para pior.
Sem colocar ênfase em nenhum sensacionalismo, a jornada que o planeta inicia neste 27 de janeiro nos coloca diante de uma data a comemorar, daqui a alguns anos, ou do princípio de um fim previsível, dependendo de como lidaremos com essa quebra repentina de paradigmas a partir de hoje.
Se escolhida a melhor face desse desafio, não fica tão difícil assim visualizar alguns passos para amenizar os estragos, como:
1 – Criar normas que impeçam o uso malicioso ou irresponsável das IAs, colocando o foco no bem-estar nas pessoas;
2 – Usar as IA’s como ferramenta para reduzir desigualdades, dar acesso universal ao conhecimento e criar oportunidades;
3 – Direcionar os recursos da IA para a solução dos grandes temas globais, incluindo as mudanças climáticas e a pobreza extrema.
Temos à frente um cenário apontando para uma era de progresso que jamais experimentamos, ou o começo do fim que irá se desenhar no horizonte nos próximos anos, e nos sentirmos arrastados para ele a cada dia que nasce é aterrorizante. A AGI, tão buscada pelos países que se enfrentam nessa nova corrida, tem poucas chances de não aumentar a concentração de poder na mão de poucos, marginalizando a maioria da população mundial.
A corrida desenfreada pela superioridade tecnológica, se não acordarmos a tempo, pode transformar a IA numa ferramenta de dominação que ainda não vimos, ampliando os conflitos já enfrentados até aqui.
A gestão operacional transferida para sistemas autônomos em governos e corporações poderá resultar em uma ruptura total da humanidade com os processos que lhe dão sustentação. Teremos uma rede de IA’s operando um sistema que não conseguimos compreender, colocando inclusive a cultura e a moralidade como temas irrelevantes.
O maior obstáculo é que a saída de emergência passa, necessariamente, pelos labirintos cerebrais dos nossos líderes globais, deixando o cenário ainda mais refratário a mudanças, graças à ascensão alarmante de uma corrente extremista se estendendo a muito mais países do que já vimos ao longo de nossa trajetória humana.
Resta saber se o lado certo da história conseguirá usar sua própria criação para neutralizar o uso nocivo que o outro lado possa fazer dela. O combate político se fará no campo da tecnologia, isso é inquestionável, dificultando qualquer prognóstico que queiramos fazer sobre um possível resultado.
Você também pode gostar
Será preciso ultrapassar uma barreira de disputas políticas e ideológicas que ultrapassou todos os limites conhecidos, e se expandiu para um terreno onde as ferramentas criadas pelo homem podem determinar se teremos um futuro ou não, tudo dependerá de que o lado certo ao qual nos referimos consiga agir com rapidez suficiente para evitar que o extremismo prevaleça, e utilize a tecnologia disponível para consolidar seus anseios libertários.
O desafio é gigantesco, pois, enquanto um lado busca saídas por meio de uma regulamentação ética, o outro avança sem freios na tentativa de desestruturar a que já existe, inclusive utilizando a falta de escrúpulos como vantagem estratégica.
A verdade é que estamos na fronteira entre esses dois momentos, e a decisão tem que ser tomada AGORA, porque cada dia passado poderá nos levar àquele ponto de irreversibilidade a que nos referíamos. Daí torcer para que o bom senso e a visão de estadista por parte de nossos gestores prevaleça. Resta-nos escolher entre ficar na plateia ou subir ao palco.
