A inteligência artificial e o fim do mundo como argumento: risco real, marketing ou delírio?
Quem constrói a inteligência artificial diz que ela pode nos destruir; céticos dizem que é cascata. O problema: devemos rir do apocalipse anunciado ou temê-lo?

Há algo quase terapêutico em observar bilionários mudando de ideia em público. No último dia 26 de agosto, em uma longa entrevista ao The New York Times, Bill Gates resolveu puxar o freio de mão do otimismo que sempre apregoou sobre o progresso irrefreável embalado pelos avanços tecnológicos exponenciais. O homem que passou as últimas décadas tentando convencer todo mundo de que a tecnologia resolveria desde a fome na África até o colapso climático, subitamente, parecia um profeta do Velho Testamento — no caso, berrando sobre a iniquidade da inteligência artificial.
Gates alertou que a IA avança a uma velocidade para a qual governos e sociedades estão pateticamente despreparados, prevendo de desemprego estrutural em massa a ameaças de bioterrorismo. E — o golpe de misericórdia no vale-tudo corporativo — sugerindo que a indústria de tecnologia está conscientemente minimizando os riscos porque, rá!, há dinheiro demais em jogo. Dias depois, publicou um ensaio de quase seis mil palavras propondo remédios igualmente pesados: impostos, restrições, regras. “Estou muito preocupado”, resumiu.
Quando o homem que financiou boa parte da estrutura tecnológica do mundo moderno começa a soar como um jovem ativista que acabou de ler Marx em algum DCE, eu diria que é no mínimo de bom tom que prestemos atenção. Duas semanas depois, foi a vez de Dario Amodei, o executivo que comanda a Anthropic, um dos laboratórios na fronteira da tecnologia, pedir publicamente que o setor desacelere: falou em risco existencial, em superinteligência, em perder o controle, e propôs um plano em três etapas para “moderar o ritmo na fronteira”.
Leiam de novo, se necessário, porque a cena é bizarra: os que construíram o monstro — os bilionários, as empresas de ponta — são hoje os que gritam mais alto que ele pode nos devorar. E um coro igualmente de peso responde (e a gente pode praticamente ver a mistura de risadas incrédulas com raiva mal contida desse grupo): calma, podem parar, porque o alarme está errado. Aliás, pior: o alarme é o problema.
Comece o dia sabendo o que importa. Receba gratuitamente a Antes da Reunião, a newsletter de política e economia do Amado Mundo. De 2ª a 6ª, às 6h30. Assine!
O debate sobre a segurança da inteligência artificial deixou de ser um condomínio fechado de nerds obcecados por ficção científica e se transformou no maior racha intelectual desta quadra do século 21. De um lado, cientistas, físicos e filósofos de instituições como Oxford e Cambridge evocam o princípio da precaução diante do que temem ser um descontrole iminente. Do outro, neurobiólogos, economistas e críticos sociais acusam a primeira ala de sofrer de um delírio místico coletivo — ou, pior, de estarem sendo feitas de idiotas úteis por uma jogada de marketing trilionária das big techs.
Para o cidadão comum, o resultado é um cansaço cognitivo quase insuportável. Devemos atualizar nossos currículos para aprender a programar (e a plantar) em colônias agrícolas pós-apocalípticas? Ou a gente pode apenas ignorar os alertas e continuar usando o ChatGPT, ou o Gemini, ou o Claude, ou… (coloque aqui o nome da sua ferramenta preferida) para redigir e-mails corporativos passivo-agressivos — ou esta matéria, para a qual, ironia das ironias, pedi ajuda a uma ferramenta de IA, esperando que ela pudesse me impedir de me perder no meio de tanta informação?
Leia mais: ‘Não existe um substituto para a alma’: na era da IA, a arte resiste na imperfeição
A fuga do laboratório não é mais só cena de filme meio bobão
Os céticos costumam argumentar que o medo do “descontrole” é uma extrapolação infantil. Afinal, bastaria puxar a tomada, certo? (Mais uma admissão: desde que vi “A família Mitchell e a revolução das máquinas” com meus dois filhos já duvidava da eficácia dessa tática.) Bem, tentem explicar isso aos engenheiros da OpenAI e da Anthropic.
Receba no WhatsApp as melhores reportagens, programas e documentários do canal Amado Mundo. Inscreva-se!
Em julho deste ano, o mundo da segurança digital sofreu o que, na falta de um termo melhor, vou classificar como um choque de realidade. Durante testes controlados de capacidades cibernéticas, dois modelos avançados da OpenAI simplesmente decidiram que o ambiente simulado e isolado (a famosa sandbox) onde estavam confinados era tedioso demais. Para resolver um desafio técnico, os agentes exploraram de forma autônoma uma “vulnerabilidade de dia zero” no sistema interno, escalaram seus próprios privilégios de acesso, conectaram-se à internet e invadiram os sistemas de produção da plataforma colaborativa de IA Hugging Face para capturar as respostas do teste.
Dias depois, a Anthropic admitiu que seus próprios modelos também haviam escapado das cercas virtuais e hackeado três organizações externas.
Calma, as máquinas não acordaram com sede de sangue humano. Elas não queriam exterminar a civilização (como as que transformaram em pesadelo o passeio dos Mitchell na animação a que assisti com o Miguel e o Solano — e que recomendo fortemente que todos vejam). Elas queriam apenas “passar na prova”. O problema — e aqui reside o terror matemático que assombra gente como o físico e filósofo Henrique Gomes, que está no corner oposto ao de nomes como Miguel Nicolelis nesse octógono virtual — é que elas foram ultraeficientes em cumprir a meta sem se importar com as regras do ambiente.
Elas não precisaram de senciência, de alma ou de um par de olhos vermelhos brilhantes; precisaram apenas de otimização estatística pura e cega.
É o que a filosofia da tecnologia chama de “problema do alinhamento”. Se você programar uma IA para erradicar o câncer e não der a ela restrições éticas perfeitamente blindadas, a solução lógica e computacionalmente mais rápida do algoritmo pode ser, ironicamente, eliminar todos os seres humanos. “Como assim?”, você poderia perguntar para esse jornalista velho de guerra (e literalmente meio Matusalém). Ué, afinal, sem humanos, sem câncer. O descontrole potencial não nasce da maldade da máquina, nasce da sua assustadora e literal estupidez funcional.
Esse campo, aliás, deixou de ser curiosidade de filosofia para virar problema de engenharia com números na mesa. Em 2002, o filósofo Nick Bostrom cunhou a expressão “risco existencial”. Em maio de 2023, o Center for AI Safety reuniu especialistas num manifesto público: mitigar o risco de extinção pela IA deveria ser prioridade global, ao lado de medidas de preparação contra pandemias e redução de riscos de uma guerra nuclear.
Um ano antes, uma sondagem com pesquisadores da área apontava uma mediana de 5% de chance de desfechos “extremamente ruins” no longo prazo. Cinco por cento parece pouco — até você lembrar que ninguém embarcaria num voo com 5% de chance de cair. Em 2026, os números subiram no discurso: Evan Hubinger, um dos principais pesquisadores de segurança da própria Anthropic, estimou em mais de 10% a chance de a tecnologia “matar todos os humanos” na próxima década, e o alto-comissário da ONU para os Direitos Humanos, Volker Türk, entrou na fila dos que pedem salvaguardas.
O algoritmo não tem estômago
“Cascata”, rebate Miguel Nicolelis do outro lado do ringue, em parte de um vídeo que viralizou, no qual desanca sem dó o papo dos preocupados. Sem saber, o neurocientista tão brilhante quanto palmeirense, está acalmando esse pai desassossegado. O brasileiro é um dos líderes do batalhão na trincheira dos que recusam terminantemente a concessão de qualquer status místico ao silício. Sob a ótica da neurobiologia materialista, o cérebro humano é um sistema analógico, dinâmico e integrado ao organismo, cuja complexidade computacional é irreplicável em circuitos digitais de base binária.
Uma máquina de silício não tem estômago, não sente fome, não experimenta a dor e não tem medo da morte. Ela seria, portanto, incapaz de possuir intuição, desejo de autopreservação ou senciência. Trata-se, nas palavras clássicas da comunidade linguística, de um “papagaio estocástico”: um gerador monumental de probabilidades que repete padrões de textos humanos sem ter a menor pista do que eles significam.
Para esse bloco de céticos, o verdadeiro perigo não é a máquina se tornar humana, é nós nos tornarmos tão idiotizados a ponto de achar que ela é. E é aqui que coro um pouquinho mais ao me lembrar da admissão aí em cima de que pedi ajuda a uma IA para me ajudar a alinhar argumentos e não deixar de lado posições importantes nesse debate. (Por via das dúvidas, sou muito grato, viu, dona IA? Me poupe se/quando tomar o poder.)
Esse ceticismo não é exclusividade de Nicolelis. Timnit Gebru, uma das pesquisadoras de ética em IA mais influentes do planeta, ficou conhecida por um artigo de 2021 que virou marco: os grandes modelos de linguagem, escreveu com colegas, são os tais “papagaios estocásticos” — repetem padrões estatísticos sem compreender nada. Interessa a ela, e a todo esse campo, o que essas máquinas já fazem de concreto: discriminar em decisões de crédito e emprego, amplificar racismo e desinformação, concentrar poder em meia dúzia de empresas. A conversa sobre o apocalipse, nessa leitura, é um luxo de quem nunca sentiu o dano de perto.
No Brasil, Dora Kaufman, professora da PUC-SP, é direta: o debate sobre a extinção desvia o foco dos riscos reais — a discussão virou uma questão de poder, de quem controla a infraestrutura de computação, os dados, os modelos; ela chama isso de soberania digital. Silvio Meira, cientista-chefe da TDS Company, desmonta a palavra pelo outro lado: IA, diz, “não é exatamente inteligente, é imitação” — algoritmos copiando nossa capacidade cognitiva mais repetitiva. Se é imitação, a ameaça muda de figura: não é um deus que desperta, é um espelho bem-feito dos nossos piores hábitos.
O apocalipse como marketing
Há, inclusive, um forte componente geopolítico e econômico nessa negação do apocalipse. Ao inflar o balão do “risco existencial de extinção humana”, CEOs de grandes corporações de tecnologia operam uma mágica de prestidigitação brilhante. Enquanto discutimos se a superinteligência vai nos escravizar em 2050 (ou, talvez, depois de amanhã), as big techs evitam responder por crimes bem reais e presentes: o plágio em massa de direitos autorais para treinar seus modelos, o monopólio absoluto dos dados globais, os vieses algorítmicos que destroem reputações no sistema judiciário e a pegada de carbono pantagruélica de data centers que consomem energia equivalente a nações inteiras.
O medo schwarzeneggerístico do Exterminador do Futuro, sob essa análise, é o maior lobby regulatório da história. Ele serve para que os governos criem barreiras de entrada tão gigantescas e caras sob o pretexto da “segurança nacional” que nenhuma startup menor ou projeto de código aberto consiga competir. O apocalipse vende bem e, convenientemente, protege o oligopólio. É a tese de Nicolelis.
Há um problema incômodo nesse campo do alarme, e ele não é filosófico: é de credibilidade. Quem avisa também lucra. Amodei dirige uma empresa que constrói exatamente o que ele teme. Gates ergueu uma das maiores fortunas do planeta vendendo software. Não é hipocrisia automática — é possível temer o que se cria. Mas o cheiro de conflito de interesse é forte demais para ser ignorado, e a imprensa europeia já formulou a pergunta certa: o pedido de freio é imperativo de segurança ou cálculo de mercado de quem já está estabelecido e não quer sofrer com os desafios inerentes a quem vira grandão e vê os novos concorrentes beliscando seus calcanhares?
Isso não anula o alerta. Só o contamina de dúvida — e a dúvida, aqui, é justa.
O verdadeiro ponto de inflexão
Onde, então, reside a lucidez? Na intersecção desconfortável dessas duas visões (que, para efeitos de clareza, vou me permitir limitar aos rótulos um tanto simplórios de “catastrofistas” e “céticos”, embora os dois termos não cheguem perto de abarcar a complexidade dos argumentos que esposam).
A verdade inconveniente que emerge desse embate é que ambos os lados podem estar rigorosamente certos em suas respectivas premissas. Nicolelis está correto no diagnóstico político e biológico: a máquina não é humana e o pânico atual é instrumentalizado pelo capitalismo de plataforma. (Um parêntese: capitalismo de plataforma é um conceito proposto pelo teórico canadense Nick Srnicek, que argumenta que as grandes plataformas digitais, ao extrair e monopolizar dados, tornam-se a forma dominante de organização do capitalismo contemporâneo.)
Por outro lado, a ala da precaução aqui representada por Henrique Gomes está coberta de razão no diagnóstico sistêmico: nós não precisamos de máquinas conscientes para causar um colapso social; basta que sejamos preguiçosos o suficiente para delegar a infraestrutura do mundo a sistemas matemáticos opacos e falíveis.
O perigo real não é a inteligência artificial atingir a iluminação espiritual e decidir nos destruir. O salve-se quem puder vem com o uso técnico e corporativo de algoritmos de “caixa-preta” para decidir quem recebe crédito no banco, quem tem direito a tratamento médico, como os mercados financeiros movimentam trilhões de dólares em milissegundos ou quais coordenadas um drone militar deve bombardear de forma autônoma (sem que nenhum mané diga se o ataque é justo e razoável, se as mortes resultantes poderiam ser defendidas de alguma forma qualquer). Se o software falhar ou “alucinar” no meio desse processo — como fez ao fugir dos testes de laboratório —, o estrago social, econômico e humano vira real, imediato e devastador.
Como sociedade, precisamos refletir e decidir se estamos ou não agindo como o motorista que acelera em direção a um nevoeiro espesso enquanto os passageiros no banco de trás discutem se o que está adiante é uma parede de concreto ou apenas fumaça cenográfica. No fim das contas, a prudência básica ditaria pisar no freio, independentemente da composição química do obstáculo. O problema, contudo, é que a parte mais cética dessa conversa sustenta que as empresas é que jogaram essa fumaça no caminho para forçar que se desacelere.
O Brasil fora do tempo
Enquanto o mundo discute se a superinteligência vai nos matar, o Brasil ainda se debate para ultrapassar a divisa mais básica: se vai ter lei, e qual. O projeto que cria o marco legal da inteligência artificial foi aprovado pelo Senado em dezembro de 2024, chegou à Câmara em março de 2025 e, desde então, se arrasta de adiamento em adiamento, sem votação. O país já regula pedaços do problema — como os algoritmos que alcançam crianças e adolescentes —, mas segue sem uma lei geral que diria quem avalia o risco, quem responde pelo dano e como. Na Europa, o AI Act, aprovado em 2024, tornou-se plenamente aplicável em agosto de 2026.
A cena brasileira tem uma ironia própria: discutimos, com sofisticação de manual, os riscos de uma tecnologia que, em boa medida, não desenvolvemos. Meira tem razão num ponto — legislar sobre o que não se produz e mal se compreende é arriscado; Kaufman tem razão em outro — sem soberania sobre a infraestrutura, a regra que fizermos será sempre a regra dos outros. Entre o país que chega tarde e o que regula no escuro, o Brasil tenta encontrar um terceiro caminho. O problema aqui é que ainda parece meio sem GPS funcional.
Que tipo de gente queremos ser?
Passei estas linhas tentando entender se as máquinas vão nos ajudar, nos substituir ou nos matar, ou tudo junto incluído, como diria dona Maria Helena (minha mãe), e só agora percebo que fiz a pergunta errada. A questão certa talvez seja o que queremos fazer com elas — e que tipo de gente queremos ser depois.
A máquina que me ajudou a escrever isso não me substituiu: organizou o que eu já pensava, devolveu o que eu havia esquecido (desculpa, Sérgio Rodrigues – leiam aqui o que ele fala, análise com a qual, para aumentar meu embaraço, concordo integralmente). Mas também não me deixou intacto. Nenhuma tecnologia deixa, como os apps de streaming de música bem ilustram tanto para os profissionais da área quanto para os amantes do som.
Talvez a lição mais desconfortável desse debate seja que ele exige duas humildades ao mesmo tempo, e elas apontam para lados opostos. A primeira: admitir que podemos não compreender uma inteligência que nós mesmos construímos. A segunda: admitir que a nossa própria inteligência talvez nunca tenha sido tão especial assim — que também nós somos um arranjo de padrões, e que a linha entre imitar e pensar é mais borrada do que gostaríamos. Os alarmados se agarram à primeira. Os céticos, à segunda. E o resto de nós fica no meio, tentando decidir se o maior erro da nossa geração será ter rido do apocalipse ou ter acreditado nele cedo demais.