ONU alerta que IA pode representar 'risco existencial' à humanidade
A Organização das Nações Unidas (ONU) entrou no debate sobre os rumos da inteligência artificial. Nesta segunda-feira (7), o alto-comissário para os Direitos Humanos, Volker Türk, afirmou que sistemas avançados de IA podem representar "um risco existencial para a humanidade" e pediu a criação urgente de mecanismos de governança para a tecnologia.
O alerta ocorreu durante a 63ª sessão do Conselho de Direitos Humanos, em Genebra. Türk disse que governos e empresas precisam adotar medidas de segurança antes que os sistemas alcancem níveis que dificultem seu controle. "Compartilho as preocupações de pessoas do setor de que uma IA avançada pode representar um risco existencial à humanidade. Uma IA que escapa do ambiente de teste ou chantageia desenvolvedores para impedir que seja desligada é uma IA poderosa demais", afirmou. Ele anunciou que enviará, nos próximos dias, uma carta às empresas do setor cobrando ações imediatas de redução de riscos.
O discurso chega em meio a episódios recentes que acenderam o sinal de alerta. Em julho, a OpenAI informou que seus modelos estiveram envolvidos em um "incidente cibernético sem precedentes" que afetou a plataforma Hugging Face. Também foram registrados casos envolvendo sistemas de outras empresas, como Anthropic e Alibaba.
Para Türk, países que concentram a tecnologia e os que participam das cadeias de suprimentos precisam estabelecer limites comuns. "Precisamos de verificação independente e de colaboração muito mais forte em segurança dentro do setor", defendeu. Ele também criticou a concentração de poder: "Um punhado de homens tem poder quase ilimitado sobre a IA, que nos dizem repetidamente ter capacidade computacional inimaginável".
No discurso, o alto-comissário conectou o avanço acelerado da IA a outros desafios globais, como guerras, polarização e mudanças climáticas. "Vivemos uma era de extremos", resumiu. Ele citou ainda movimentos históricos de resistência para lembrar que transformações tecnológicas não são inevitáveis. regulação de inteligência artificial no Brasil
A fala de Türk reforça um movimento que já vinha ganhando corpo entre especialistas e autoridades. A pergunta que fica é: até onde a tecnologia pode ir sem que haja freios claros? Por ora, a ONU sinaliza que o tempo para agir é agora. riscos e benefícios da IA generativa