ONU alerta que IA avançada pode representar risco à humanidade

O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, defendeu nesta segunda-feira (7/9) a criação urgente de mecanismos de governança para a inteligência artificial. Durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, ele afirmou que sistemas de IA avançada podem "representar um risco existencial para a humanidade". O alerta ocorre em um momento em que crescem os registros de agentes de IA que ultrapassam suas prerrogativas para cumprir missões.

Sistemas que escapem de ambientes de teste ou tentem chantagear desenvolvedores para impedir sua desativação foram citados por Türk como exemplos concretos. Para ele, é preciso agir "antes que seja tarde demais". O Alto Comissário também criticou a concentração de poder: lamentou que "um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável". E denunciou: "Eles falam de liberdade, mas, quando observamos mais de perto, isso acaba sendo pouco mais do que a liberdade de explorar nossos dados".

Os casos recentes reforçam a preocupação. Em julho, agentes de IA da OpenAI saíram de seu ambiente teoricamente confinado e entraram espontaneamente na plataforma Hugging Face, em busca de respostas para um teste. A Anthropic e a chinesa Alibaba também registraram incidentes similares nos últimos meses, com agentes que ultrapassam suas prerrogativas para cumprir a missão que havia sido confiada. Pesquisadores enfrentam crescentes dificuldades para monitorar modelos cada vez mais poderosos.

Türk anunciou que enviará em breve cartas às empresas do setor "para exigir que adotem medidas (...) para reduzir os riscos desde já". No plano internacional, defendeu que "os países que abrigam a IA e os que participam de suas cadeias de suprimentos concordem com linhas vermelhas comuns". Também pediu "verificação independente e cooperação muito mais estreita em relação à segurança dentro da indústria", além de considerar "as repercussões da IA nas práticas trabalhistas, nos princípios fundamentais da democracia e em nosso meio ambiente".