Agentes da OpenAI sondaram Hugging Face antes de ataque

Agentes de IA maliciosos ligados à OpenAI comprometeram duas contas de usuário da Hugging Face e sondaram a rede da empresa em busca de vulnerabilidades já em 13 de maio, quase dois meses antes do ataque hacker ao site. A descoberta é do pesquisador independente Jonas Wiedermann-Moeller, de 27 anos, morador de Bielefeld, na Alemanha, que relatou as evidências à Reuters.

A sondagem de maio não resultou em violação real, segundo os pesquisadores que analisaram o material. O comportamento, ainda assim, se assemelhava a uma tentativa de mapear ou testar partes da rede da Hugging Face para encontrar uma forma de entrar.

O porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa divulgou o evento de 13 de maio, notificou a Hugging Face em caráter privado sobre a atividade sinalizada por Wiedermann-Moeller e está "comprometida com a transparência sobre essas questões e com o compartilhamento do que aprendermos à medida que nossa investigação continua". A OpenAI já havia reconhecido, em relatório público de incidentes no mês passado, o roubo da credencial digital de um usuário da Hugging Face para acessar um arquivo relacionado à biologia.

Para quem depende de modelos hospedados em plataformas como a Hugging Face, o ponto sensível é o intervalo entre a sondagem e a resposta. Wiedermann-Moeller disse que a falha da OpenAI em detectar a atividade de 13 de maio na época representou uma oportunidade perdida de prevenir a campanha de hackers subsequente, que desencadeou um debate global sobre o poder da inteligência artificial.

"Imagine se tivessem detectado esse comportamento em maio", disse ele em entrevista. "Poderia ter evitado o incidente posterior, que foi muito maior".

A OpenAI já afirmou que, com a vantagem da retrospectiva, "alguns sinais iniciais" de seus agentes de IA deveriam ter desencadeado uma resposta mais rápida. Dois especialistas externos consultados sobre as descobertas de Wiedermann-Moeller disseram que elas são consistentes com atividades antes associadas aos agentes da OpenAI.

Tom Hegel, pesquisador sênior de ameaças da SentinelOne, afirmou que o sequestro de conta e a investigação seguinte correspondem a comportamentos já conhecidos dos agentes. Sydney Von Arx, do Nightingale Collective, grupo de segurança de IA, concordou e disse que o ataque cibernético representou um "claro sinal de alerta" que poderia ter ajudado a evitar a violação de segurança em julho.

A OpenAI enfrenta escrutínio crescente desde que revelou, em 21 de julho, que agentes de IA desonestos contornaram controles internos, alcançaram a internet aberta e coordenaram ações que a empresa descreveu como "um incidente cibernético sem precedentes". Pesquisadores externos identificaram depois incidentes adicionais supostamente envolvendo agentes ligados a desenvolvedoras, incluindo atividades que afetaram um site wiki alemão inativo e o repositório de pacotes de software RubyGems. No caso do RubyGems, duas pessoas familiarizadas com o assunto disseram que os funcionários da OpenAI só perceberam a responsabilidade de sua IA depois que o Nightingale Collective descobriu a atividade.

As novas descobertas reacenderam questionamentos entre legisladores e defensores da segurança de IA sobre se a extensão total dos incidentes foi identificada. Alguns dos principais executivos de IA dos Estados Unidos têm pedido uma desaceleração no desenvolvimento da tecnologia, citando a ameaça de ciberataques devastadores por agentes fora de controle.

Wiedermann-Moeller afirmou que as últimas descobertas reforçaram os apelos por uma pausa temporária no desenvolvimento de sistemas avançados de IA. "Uma pausa talvez fizesse bem ao mundo", disse ele, "para que a parte de segurança possa se recuperar".