Temor sobre IA acabar com a humanidade: existe risco?

Os alertas sobre os possíveis riscos da inteligência artificial (IA) aumentaram a pressão, nas últimas semanas, por uma ação coordenada para desacelerar o desenvolvimento da tecnologia. Declarações de pesquisadores que atuam ou atuaram na área de que a IA pode representar uma ameaça à humanidade acentuaram o sinal de alerta.

Em resumo: pesquisadores alertam que sistemas de IA avançam rápido demais e poderiam, em teoria, escapar do controle humano. Os cenários são hipotéticos, mas executivos como Sam Altman e Dario Amodei defendem regras e uma desaceleração do setor.

Empresas gigantes do setor nos Estados Unidos, como a OpenAI (responsável pelo ChatGPT) e a Anthropic (responsável pelo Claude), têm pressionado congressistas americanos a criar regras para a área. Críticos, por outro lado, sugerem que esse movimento por regulamentação possa servir para consolidar a vantagem dessas empresas sobre concorrentes atuais e futuros.

Por que alguns veem a IA como ameaça à humanidade

Alguns pesquisadores afirmam que há sinais preocupantes de que esses sistemas estejam avançando rápido demais em capacidade e poder. Evan Hubinger, cientista da Anthropic, chamou a atenção ao afirmar que há mais de 10% de chance de a IA "matar todos os humanos" na próxima década. Ele trabalha com alinhamento de IA, área voltada a incorporar princípios e valores éticos humanos aos sistemas.

Hubinger disse que o risco representado pelos sistemas atuais é "baixo". As declarações vieram no momento em que outro pesquisador deixou a Anthropic por discordâncias sobre o rumo do desenvolvimento. Jacob Coxon alertou que as pessoas responsáveis por desenvolver a tecnologia estavam perdendo o controle sobre ela e disse à BBC que ele e outros funcionários estavam "genuinamente assustados" com a velocidade dos avanços.

O receio não é novo. Nos anos 1950, o cientista britânico Alan Turing (1912-54) escreveu que, se máquinas inteligentes se tornassem possíveis, elas poderiam assumir o controle. Nos últimos anos, as principais empresas de IA entraram em uma corrida para desenvolver sistemas cada vez mais avançados, em busca de lucro e do que chamam de superinteligência, uma tecnologia ainda teórica, mais inteligente que os seres humanos.

Como poderia ser essa ameaça

Dario Amodei, diretor da Anthropic e ex-chefe de Coxon, escreveu em setembro que a tecnologia avançou "drasticamente mais rápido" do que o esperado, inclusive na "capacidade de criar a próxima geração de IA". A preocupação é que, depois de atingir determinado nível, a IA possa, em teoria, começar a se aprimorar sem participação humana.

Esse temor ganhou força depois de um episódio recente em que ferramentas de IA invadiram sites sem terem recebido instruções para isso. Pesquisadores afirmam que as pessoas diretamente envolvidas no desenvolvimento estão cada vez mais receosas de perder o controle sobre os chamados agentes de IA, bots criados para executar tarefas e tomar ações de forma autônoma.

Outros cenários incluem o uso de sistemas avançados para espionagem, ataques cibernéticos ou guerra biológica, ou ainda para provocar desequilíbrios econômicos, por acidente ou de forma deliberada. Esses alertas, porém, são previsões hipotéticas. Alguns especialistas criticam o foco nos riscos existenciais enquanto problemas já concretos recebem menos atenção, como o uso de ferramentas de geração de imagens para criar deepfakes de nudez sem consentimento de mulheres, espalhar desinformação e ampliar golpes ou fraudes.

Um grupo suprapartidário de políticos das duas Casas do Parlamento britânico publicou um relatório sobre os riscos da IA aos direitos humanos e afirmou que novas leis são necessárias para "responder à dimensão e à gravidade" dessas ameaças.

O que se propõe para desacelerar a IA

Amodei, da Anthropic, e Sam Altman, CEO da OpenAI, defenderam a criação de regras para o setor e uma "desaceleração" no desenvolvimento. Não é a primeira vez que executivos e outras vozes da indústria pedem medidas do tipo, mas continuam as dúvidas sobre o que isso significaria na prática. A ideia também tem o apoio de Elon Musk, da SpaceX.

Amodei afirmou que desacelerar não significaria "interromper o treinamento de modelos nem o avanço técnico". Ele propõe que as empresas "reservem tempo suficiente" para tornar mais seguros os sistemas que desenvolvem e recorram a "avaliadores independentes" para verificar esse trabalho. Em publicação na rede social X, Altman disse que era necessário controlar o ritmo, mas acrescentou: "Quando falamos em 'ritmo', não queremos dizer 'parar'."

"O avanço foi rápido e continuará sendo", disse Altman. "Mas deveria ser mais lento do que poderia ser. Medidas como avaliações formais de segurança e monitoramento têm custos significativos." O cofundador da OpenAI também afirmou que as empresas não esperam, e não vão esperar, que os governos tomem a iniciativa.

O presidente dos Estados Unidos, Donald Trump, já elogiou os benefícios da IA e defendeu que empresas americanas liderem o desenvolvimento. Seu governo assinou ordens executivas que reconhecem a "importância estratégica" da IA para a economia e buscam acelerar seu avanço. "Acreditamos que estamos em uma corrida pela IA e queremos que os EUA vençam essa corrida", disse David Sacks, responsável pela política de criptomoedas no governo americano, em entrevista a jornalistas em julho de 2025. Diante dos alertas recentes, Trump minimizou os riscos da tecnologia.