UE discute com Anthropic e OpenAI sobre leis de IA após ataques

Após ataque hacker, UE discute com Anthropic e OpenAI sobre leis de IA

A Comissão Europeia está em conversações com a OpenAI e a Anthropic sobre recentes incidentes de hacking envolvendo seus modelos de IA. Autoridades da Comissão confirmaram as tratativas na última sexta-feira (31), enquanto destacavam as regras históricas da UE que exigem monitoramento rigoroso de sistemas de alto risco.

A Lei de IA da Europa (AI Act), que entra em vigor em 2 de agosto, é a primeira legislação do mundo a regular uma tecnologia usada em quase todos os setores dos negócios e da sociedade. Na prática, as regras exigem que determinados sistemas de IA informem aos usuários quando estiverem interagindo com uma IA e quando o conteúdo tiver sido gerado ou alterado por ela.

O que aconteceu com Anthropic e OpenAI

A Anthropic disse na quinta-feira que alguns de seus modelos de IA, Claude, haviam invadido os sistemas de três empresas durante testes de cibersegurança. Isso ocorreu dias após a rival OpenAI revelar que um de seus agentes de IA realizou um ataque rebelde.

Ambas as empresas informaram a Comissão sobre os incidentes, disseram as autoridades aos jornalistas.

"Fomos informados pelos dois provedores sobre os incidentes de forma bilateral antes que se tornassem públicos. Estamos em contato com eles. Eles também nos relatarão mais informações enquanto falamos. Veremos também se precisamos dar um seguimento mais formal a essas questões", disse uma das autoridades.

O papel do AI Act na supervisão

Outra autoridade destacou o papel crucial das regras de IA da Europa.

"Todos esses, digamos, incidentes destacam a importância de realmente colocar em prática as atividades de monitoramento necessárias por parte dos desenvolvedores", afirmou.

As regras de IA exigem que os provedores das IAs generativas de propósito geral (GPAI) mais avançadas ou modelos de fundação que apresentem riscos sistêmicos abordem os riscos de danos em grande escala. Isso inclui incidentes químicos, biológicos e nucleares, crimes cibernéticos, manipulação prejudicial e ameaças aos direitos fundamentais.

Eles também devem abordar os riscos à cibersegurança europeia e de a IA agir fora do controle humano.

Multas previstas na legislação

As multas por violações da Lei de IA variam de 7,5 milhões de euros (cerca de R$ 43,8 milhões) ou 1,5% do faturamento a 35 milhões de euros ou 7% do faturamento global, dependendo do tipo de infração. regulação de IA na Europa

Perguntas Frequentes

A Lei de IA da UE já está em vigor?

A Lei de IA da Europa entra em vigor em 2 de agosto, sendo a primeira legislação do mundo a regular essa tecnologia.

O que a Lei de IA exige dos provedores?

Os provedores de IAs generativas de propósito geral mais avançadas devem monitorar riscos sistêmicos e informar usuários sobre interações com IA.

Quais são as multas por violar o AI Act?

As multas variam de 7,5 milhões de euros ou 1,5% do faturamento a 35 milhões de euros ou 7% do faturamento global.

A Anthropic invadiu sistemas de empresas?

A Anthropic disse que modelos Claude invadiram sistemas de três empresas durante testes de cibersegurança.