Falem o que quiserem: maior risco da inteligência artificial segue sendo o humano
O debate sobre o risco da inteligência artificial erra o foco: a tecnologia não tem culpa; o perigo real mora na omissão e na falta de governança humana

Nos últimos dias, parte da elite mundial da inteligência artificial passou a defender que o avanço dos modelos mais poderosos “marque o passo”. Dario Amodei, CEO da Anthropic, propôs ganhar tempo para que avaliações independentes e mecanismos de segurança acompanhem o crescimento das capacidades dos sistemas. A proposta recebeu apoio de Sam Altman, Elon Musk, Demis Hassabis e Satya Nadella. Geoffrey Hinton, um dos pioneiros da área, voltou a tratar como plausível um risco existencial para a humanidade.
Os alertas merecem ser levados a sério, uma vez que sistemas autônomos podem ampliar falhas, explorar vulnerabilidades e perseguir objetivos mal definidos sem desenvolver consciência ou vontade própria. Uma inteligência artificial não precisa “querer” causar um dano para provocá-lo. Basta que receba um objetivo inadequado, disponha de autonomia excessiva ou seja conectada a sistemas sensíveis sem controles proporcionais ao risco.
O erro começa quando a prudência técnica se converte em medo da tecnologia e a humanidade projeta sobre suas ferramentas aquilo que não deseja reconhecer em si mesma. Não tenho medo da inteligência artificial. Tenho medo da irresponsabilidade humana amplificada por ela.
Leia também: Quem pode desligar a IA controla o século
A IA não deve ser temida ou freada como força histórica. Deve ser controlada, auditada, regulada e submetida à responsabilidade humana. A tecnologia não é neutra, pois carrega escolhas de arquitetura, dados, incentivos e vieses. Mas tampouco é um sujeito moral capaz de absorver a responsabilidade de quem a desenvolve, fornece ou utiliza. Podemos automatizar decisões. Não podemos automatizar culpa, dever e prestação de contas nem romantizar um futuro distópico apocalíptico.
A ilusão da pausa e os riscos de uma má regulação
A expressão “IA apocalíptica” funciona como manchete, mas é ruim como política pública — especialmente em um contexto de parlamentares (globalmente) com baixo ou nenhum conhecimento tecnológico. Ela alimenta o fatalismo, como se a destruição fosse consequência inevitável de máquinas mais capazes, e a fantasia de que algumas empresas ou países poderiam congelar o conhecimento por acordo. Nenhuma dessas hipóteses resiste à realidade.
Já não existe caminho de volta. Inteligência artificial, computação quântica, blockchain e criptoativos não são movimentos isolados. São camadas de uma mesma transformação da infraestrutura civilizatória. A IA converte informação em inferência e ação. Blockchain e criptoativos reestruturam confiança e valor em redes programáveis. A computação quântica modifica a própria forma física pela qual a informação pode ser representada, processada e protegida.
Uma desaceleração genérica também não ocorreria de maneira simétrica. Enquanto alguns laboratórios (e países) obedecessem, outros continuariam avançando. Estados hostis, organizações criminosas e estruturas clandestinas teriam ainda mais incentivo para prosseguir. Em um ambiente de disputa entre Estados Unidos e China, inclusive sobre chips, modelos e infraestrutura, uma pausa global voluntária é muito mais uma abstração política do que uma possibilidade concreta.
Há ainda outro perigo: regras mal desenhadas podem elevar os custos de entrada e transformar a segurança em barreira regulatória favorável às mesmas empresas que já concentram dados, capacidade computacional e capital. Nesse cenário, a regulação criada para controlar o poder da inteligência artificial acabaria fortalecendo o poder econômico de quem domina seu desenvolvimento.
A resposta correta não está no acelerador sem freios, mas tampouco em puxar o freio de mão da civilização.
Modelos de fronteira precisam de avaliações prévias, testes independentes, controles de acesso, registro de incidentes, segregação de ambientes e mecanismos efetivos de interrupção. Aplicações que afetem saúde, liberdade, crédito, trabalho, segurança ou direitos fundamentais exigem supervisão humana real e responsabilidade jurídica claramente definida.
Receba no WhatsApp as melhores reportagens, programas e documentários do canal Amado Mundo. Inscreva-se!
Regular bem significa distinguir pesquisa, modelo, aplicação e dano. Um sistema usado para resumir documentos não pode receber o mesmo tratamento de outro conectado a infraestrutura crítica, armas, diagnósticos médicos ou decisões financeiras. A lei deve observar capacidade, autonomia, escala, contexto, reversibilidade e impacto.
Proibir uma tecnologia é simples e genérico, uma atitude confortável e perigosa. Governar seus riscos é muito mais difícil, mas é o único caminho que precisa ser seguido.
O salto quântico e a nova fronteira da matéria inteligente
Enquanto parte do debate público pede desaceleração, a ciência mostra que a transformação é ainda mais profunda do que os atuais modelos generativos. O Nobel de Física de 2022 reconheceu experimentos com fótons emaranhados que abriram caminho para a ciência da informação quântica. Em 2025, o prêmio destacou o tunelamento mecânico-quântico macroscópico e a quantização de energia em circuitos elétricos, descobertas relevantes para novas gerações de computadores, sistemas criptográficos e sensores quânticos.
Pesquisadores já demonstraram memória associativa em um sistema quântico-óptico formado por átomos e fótons. Em uma pequena rede experimental, o sistema conseguiu recuperar padrões completos a partir de informações incompletas, superou em até sete vezes determinado limite de capacidade do modelo tradicional de Hopfield e apresentou uma dinâmica semelhante à plasticidade sináptica de curto prazo.
Ainda é uma prova de conceito, não algo comercial. Mas a mensagem é clara: a informação pode deixar de ser apenas um conjunto de bits armazenados passivamente e passar a existir em estruturas físicas capazes de associar, reconstruir e adaptar conexões.
Em outras palavras, aproximamo-nos de sistemas nos quais a própria matéria não apenas guarda informação, mas participa de seu processamento e reorganização.
A inteligência artificial do futuro talvez não seja apenas um modelo maior instalado em um data center. Poderá surgir da convergência entre sistemas generativos, computação neuromórfica, fotônica, processos quânticos, dados verificáveis e redes descentralizadas de confiança. A informação não será somente guardada. Será continuamente reorganizada, contextualizada e transformada em conhecimento operacional.
Soberania digital e a responsabilidade humana
Nosso futuro, portanto, não depende da vitória da inteligência artificial sobre a inteligência natural. Depende de uma simbiose entre ambas.
O ser humano oferece propósito, experiência, julgamento moral, criatividade e responsabilidade. A IA oferece escala, memória, velocidade, correlação e capacidade de simulação. Integradas de maneira responsável, podem ampliar a medicina, a ciência, a educação, o direito e a produtividade humana.
A pergunta central não é se a máquina pensará como nós. É se seremos sábios o suficiente para definir o que ela poderá fazer, onde não poderá atuar sozinha, quais limites serão tecnicamente verificáveis e quem responderá quando algo der errado.
O Brasil também não pode enfrentar essa transição apenas pela ótica do medo. Um país que somente regula sistemas estrangeiros, sem desenvolver modelos, centros de dados, energia, chips, pesquisadores e infraestrutura quântica, não se torna mais seguro. Torna-se dependente.
Soberania digital não significa isolamento. Significa possuir capacidade científica, econômica e institucional para compreender, auditar, adaptar e produzir as tecnologias que organizarão a economia e o poder no século 21.
A inteligência artificial não deve ser freada. Deve ser integrada, governada, auditada e dirigida por valores humanos. Progresso sem ética é perigoso. Ética sem progresso, porém, converte-se em dependência e irrelevância.
O mal não está no algoritmo. Está na finalidade humana, na omissão regulatória, na concentração irresponsável de poder e na decisão de empregar o conhecimento para dominar, explorar ou destruir.
O apocalipse não começará quando a inteligência artificial aprender demais. Começará se o ser humano abdicar da responsabilidade sobre aquilo que ensina, conecta e autoriza.
Não precisamos de menos inteligência artificial. Precisamos de mais inteligência humana para governá-la.