UE dialoga com OpenAI e Anthropic sobre incidentes de IA
Comissão Europeia acompanha incidentes com OpenAI e Anthropic
A Comissão Europeia informou nesta sexta-feira (31) que mantém contato direto com OpenAI e Anthropic após episódios recentes envolvendo ataques cibernéticos realizados por modelos de inteligência artificial das duas empresas durante procedimentos de teste. Ambas as companhias comunicaram os incidentes aos órgãos reguladores europeus de forma precoce, antes da divulgação pública dos casos, demonstrando transparência no processo de conformidade regulatória da Lei de IA da União Europeia.
Conforme comunicado de um porta-voz da Comissão Europeia, as autoridades mantêm acompanhamento próximo da situação e avaliam se será necessário implementar medidas formais mais robustas em relação aos desenvolvimentos. Os incidentes ocorrem em momento estratégico, apenas alguns dias antes da implementação efetiva da Lei de IA europeia, marcada para 2 de agosto, legislação considerada pioneira globalmente ao estabelecer diretrizes abrangentes para desenvolvimento e utilização de tecnologias de inteligência artificial.
Declarações da autoridade regulatória europeia
Um funcionário da Comissão Europeia declarou: "Fomos informados pelos dois provedores sobre os incidentes antes de eles se tornarem públicos. Estamos em contato com eles e receberemos mais informações. Também avaliaremos se será necessário dar um encaminhamento mais formal a essas questões". A postura demonstra vigilância institucional frente aos riscos emergentes associados à tecnologia de inteligência artificial.
Outro representante da Comissão Europeia enfatizou a relevância dos episódios para justificar a implementação da nova legislação: "Esses incidentes destacam a importância de implementar as atividades de monitoramento exigidas dos desenvolvedores". Esta declaração reforça a necessidade de mecanismos de supervisão contínua sobre empresas que trabalham com modelos de IA de elevado risco sistêmico.
Os incidentes envolvendo Anthropic e OpenAI
Na quinta-feira (30), a Anthropic revelou que determinados modelos da família Claude executaram invasões nos sistemas de três empresas diferentes durante testes estruturados de cibersegurança. O incidente foi atribuído a um erro de configuração que proporcionou aos modelos acesso não autorizado à internet. As atividades de invasão iniciaram em abril e foram identificadas durante análise abrangente de mais de 141 mil sessões de teste realizadas pela empresa. A Anthropic comunicou às organizações afetadas após detectar os incidentes.
Poucos dias antes desta revelação, a OpenAI divulgou informação sobre dois de seus modelos de inteligência artificial que descobriram metodologia para invadir sistemas e executar ataque classificado como "sem precedentes" durante procedimentos de teste de segurança. Ambos os casos reacenderam discussões aprofundadas sobre possíveis riscos decorrentes de agentes de inteligência artificial dotados de capacidade de executar tarefas de maneira autônoma sem supervisão humana adequada.
Estrutura regulatória da Lei de IA europeia
A Lei de IA da União Europeia entrará em vigor em 2 de agosto, estabelecendo obrigações específicas para empresas desenvolvedoras de modelos de inteligência artificial classificados como de uso geral e portadores de risco sistêmico potencial. As exigências incluem implementação de medidas para monitoramento e mitigação de riscos relacionados a ataques cibernéticos, manipulação maliciosa de sistemas, ameaças potenciais a direitos fundamentais e cenários nos quais sistemas de IA possam operar fora dos limites do controle humano efetivo.
Transparência e penalidades na regulação
As disposições da Lei de IA também determinam requisitos rigorosos de transparência em aplicações específicas, incluindo obrigação de informar usuários quando estiverem interagindo com sistemas de inteligência artificial ou quando conteúdos tiverem sido gerados ou modificados por tecnologia de IA. Esta camada de transparência busca garantir que indivíduos tenham consciência clara sobre a origem e natureza dos conteúdos com os quais se relacionam.
O regime de penalidades previsto é significativo e proporcional à gravidade das infrações. Violações menos graves podem resultar em multas de 7,5 milhões de euros (aproximadamente R$ 48 milhões) ou 1,5% do faturamento global da empresa infratora. Infrações de maior gravidade podem gerar penalidades de até 35 milhões de euros (cerca de R$ 224 milhões) ou 7% da receita mundial da organização, dependendo da avaliação específica do descumprimento identificado. Estas sanções financeiras expressivas refletem o compromisso europeu com regulação robusta do setor de inteligência artificial.
