CEO da Anthropic pede desaceleração no avanço da IA
Dario Amodei, CEO da Anthropic, publicou ensaio de 3.800 palavras pedindo desaceleração no avanço da IA e colaboração global entre empresas e governos. O apelo veio após a demissão de um pesquisador da própria companhia.
A corrida pelo desenvolvimento de inteligência artificial precisa de uma desaceleração urgente. A afirmação é de Dario Amodei, CEO da Anthropic, empresa responsável pelo chatbot Claude, em ensaio publicado na manhã de sábado.
No texto de 3.800 palavras divulgado em seu site, Amodei defendeu colaboração global entre empresas e governos para estabelecer normas comuns de segurança. Ele pediu que as desenvolvedoras se comprometam a contratar avaliadores terceirizados com acesso irrestrito para verificar práticas de segurança, relatar incidentes e auditar modelos, fluxos de treinamento e processos.
Segundo o executivo, os riscos são sérios mesmo diante dos benefícios. A tecnologia avançou "drasticamente mais rápido" nos últimos meses e passou a ser capaz de se aprimorar, dinâmica que ele chama de "autoaperfeiçoamento recursivo". Se não for controlada, escreveu, essa situação pode ultrapassar a capacidade humana de compreender e controlar os sistemas.
Amodei citou usos indevidos como "ataques cibernéticos e bioterrorismo, além de causar sérias perturbações econômicas". Em entrevista à CNN com Anderson Cooper no sábado, ele afirmou que concordava com o pesquisador Jacob Coxon em mais pontos do que discordava. Coxon deixou a Anthropic após publicar no X críticas de que a empresa e seus concorrentes não agiriam de forma responsável.
O apelo repercutiu no setor. Sam Altman, CEO da OpenAI, publicou no X que concordava com Amodei e que adotaria avaliadores independentes. Elon Musk, da xAI, escreveu "Dario está certo". Demis Hassabis, presidente do DeepMind do Google, também publicou sobre a necessidade de ritmo mais lento. Em julho, mais de 1.300 altos funcionários de grandes empresas de tecnologia assinaram carta aberta pedindo ao governo dos EUA ferramentas para desacelerar o desenvolvimento da IA.
O Congresso americano debateu o tema, mas não aprovou legislação abrangente de regulamentação, e a Casa Branca não chegou a um consenso sobre qual órgão do Executivo supervisiona a tecnologia, segundo relato anterior da CNN.