“Hack Apocalypse Now”: The dark side of AI is already here”
Paul Krugman – Blog do autor no Substack – 28 de outubro. 2026
Como todos que têm prestado atenção, tenho preocupações com os possíveis efeitos negativos da IA. E vem a ser uma longa lista de preocupações. [N.T.: o título origianl “hack apocalypse now” é de difícil tradução; talvez, possa ser traduzido por “a quebra apocalíptica dos códigos fonte do programas que movem a internet”]
Primeiro, há o viés anti-trabalhista da tecnologia, que pode acelerar nossa espiral descendente rumo à oligarquia. Segundo, há o fato de que o boom dos data centers está afastando os investimentos em quase todo o resto da economia, mas os data centers empregam quase nenhum trabalhador. Terceiro, estou preocupado com a alta probabilidade de a IA se tornar uma bolha, especialmente quando se considera o tamanho do boom do investimento em IA. Se for realmente uma bolha, inevitavelmente estourará e provavelmente mergulhará a economia dos EUA de volta em uma armadilha de liquidez devido ao seu tamanho.
Ah, ademais, a Anthropic está dizendo que a IA pode muito bem acabar com a raça humana e que, justamento por isso, é preciso investir no IPO da empresa!!!!!!!!
Mas acho que não tenho falado o suficiente com os tecnólogos, porque só na semana passada eu vim a saber da forte possibilidade de que a IA torne a internet como conhecemos inutilizável — não em algum momento distante, mas em questão de meses.
E a coisa já começou. A Reuters relata:
Sites governamentais na Europa e em outros lugares ficaram fora de uso (offline) na quarta-feira após a divulgação de vulnerabilidades críticas em uma linguagem de programação amplamente utilizada que fez com que operadores de sites ao redor do mundo correrem para proteger seus sistemas.
Desenvolvedores da linguagem de programação PHP lançaram na quarta-feira novas correções urgentes para vulnerabilidades que estavam escondidas em seus softwares há anos até serem descobertas usando IA. Disseram em sequência que todos os usuários deveriam ser “incentivados a atualizar imediatamente.”
Com empresas de tecnologia alertando que alguns hackers já exploravam as falhas, agências governamentais em toda a Europa estiveram entre as que retiraram sites do ar como precaução.
Como as correções agora são públicas, as ferramentas de inteligência artificial conseguem reverter o bug com pouco esforço. Por isso, os especialistas disseram que estavam se preparando para uma onda de invasões, já que hackers avançavam para antecipar as atualizações.
A IA estava impulsionando uma “corrida para explorar”, disse Costin Raiu, cofundador da empresa de pesquisa e resposta a incidentes em cibersegurança TLP: Black. Ele disse que o próximo passo era o “comprometimento em massa de todos os servidores web vulneráveis da internet.
E isso é apenas o começo do que Zvi Mowshowitz chama de “hackening” (ação de quebrar códigos). Dois dias depois, a Reuters noticiou que:
Avanços em inteligência artificial revelaram uma série de novas vulnerabilidades de software que quase certamente desencadearão mais interrupções, semelhantes às quedas que se espalharam por sites governamentais globais esta semana, segundo sete profissionais de cibersegurança que falaram à Reuters.
Citou um especialista dizendo: “Acho que vamos ter alguns anos em que toda semana vai parecer que o céu está caindo.”
Azeem Ashar, cujo Substack Exponential View tem sido um dos meus principais guias sobre o que está acontecendo com a IA, chama o que aconteceu na semana passada de “momento wuhan da internet” — pois ele se assemelha ao surgimento do coronavírus que causou a pandemia de Covid, que matou milhões e também mergulhou temporariamente toda a economia mundial em uma profunda recessão.
Não sou tecnólogo, mas aqui está como entendo o problema: sites rodam em softwares complexos e multicamadas que, por sua enorme complexidade, inevitavelmente contêm falhas de segurança que atores mal-intencionados poderiam potencialmente explorar. Pior ainda, grande parte do software é antiga — o PHP data do início dos anos 1990 — e, por isso, foi projetada numa era em que as técnicas modernas de quebra de código (hacking) não existiam.
E modelos de IA, ao que parece, são ferramentas de hacking incrivelmente poderosas. Puros malfeitores humanos podem não ter tempo, paciência e atenção aos detalhes para revisar códigos antigos linha por linha, encontrando falhas de segurança que podem ter passado despercebidas por décadas. Modelos de IA não sofrem dessas limitações. Instituições que aprendem sobre ameaças de segurança podem conseguir instalar complementos (patches) que os bloqueiam — mas o simples ato de disseminar um complemento (patch) dá aos hackers as informações necessárias para atacar instituições que não aplicaram esses patches imediatamente.
E Azhar nos diz que regular a IA exige “treinamento de segurança” — instruções para os modelos que dissuadem ações destrutivas — será muito menos eficaz do que se poderia esperar. Por quê? Porque esse treinamento é relativamente fácil de “obliterar”, o que significa reverter algumas chamadas (prompt) chaves de uma forma que desfaz a maior parte do treinamento de segurança.
Então, o que vamos fazer? Não acho que voltaremos ao papel carbono e aos arquivos. Na maior parte, provavelmente nem precisaremos depender de redes locais isoladas e totalmente isoladas da internet. Azhar acha que vamos migrar para um sistema de domínios parcialmente fechados, como o AOL em seus primeiros anos ou o sistema SABRE usado por agentes de viagem, que são difíceis, mas não impossíveis, para pessoas e instituições fora desses domínios acessarem.
Esses domínios fechados são frequentemente chamados de “jardins murados”, mas eu sugeriria que uma analogia melhor seria “condomínios fechados”, como aquela em que meus falecidos pais viveram no fim da vida. Pessoas que não moravam em sua comunidade podiam visitá-los, mas só se meus pais tivessem fornecido seus nomes para a equipe que cuidava do portão. Funcionava — eles podiam convidar amigos de fora — mas era irritante e demorado comparado à vida fora dos portões, onde todos podiam entrar e sair livremente.
Da mesma forma, uma sociedade digital que impõe restrições e verificações de segurança irritantes, mas é muito menos vulnerável a ataques alimentados por IA, deveria ser viável. Mas a segurança terá um custo. Quanto custo?
Alguns cálculos rápidos, que não compartilharei aqui, sugerem que o advento da internet aberta aumentou o PIB em cerca de 10%. Um sistema mais seguro de comunidades digitais fechadas significará abrir mão apenas de parte desse ganho — a longo prazo.
Mas estou muito mais preocupado com o curto prazo, porque toda a nossa economia atualmente é projetada para funcionar com uma teia aberta. Suponha, por exemplo, que sejamos forçados a voltar ao sistema antigo, em que era preciso visitar fisicamente um agente de viagens com um link SABRE seguro para comprar passagens aéreas. Eu me lembro desse mundo, e não era horrível. Mas a maioria dos agentes e escritórios de viagens que costumavam desempenhar essa função desapareceu e não pode ser instantaneamente reativada. E você tem que imaginar esse problema ocorrendo em toda a economia.
Novamente, isso não é um risco hipotético para o futuro. Está acontecendo enquanto você lê isso.
Outro dia mesmo, entusiastas da IA falavam sobre como sua tecnologia milagrosa logo geraria um crescimento econômico de 10 ou 15% ao ano. Isso sempre foi tolice. Mas agora há uma perspectiva muito real de que, nos próximos anos, a IA, ao empoderar os vilões e nos forçar a nos adaptar de repente a novas ameaças, nos tornará mais pobres.

Você precisa fazer login para comentar.