A Austrália declarou nesta quarta-feira (23/9) que um site governamental foi alvo de uma invasão por um agente de inteligência artificial desenvolvido pela OpenAI. O incidente ocorreu em junho. Um agente de IA é um programa autônomo que requer mínima supervisão humana para realizar suas funções.

++ Sistema de IA mostra como pessoas estão criando conteúdo diário sem gravar vídeos

De acordo com o primeiro-ministro Anthony Albanese, o agente da OpenAI acessou sem autorização arquivos de saúde e despesas públicas, tanto públicos quanto privados.

++ Bomba! Astro de Hollywood, Joe Manganirllo revela ter amputado membro

Albanese afirmou que, até o momento, as evidências indicam que não houve um comprometimento mais amplo, mas destacou que a situação é inaceitável. Ele informou que o caso está sob investigação e que o CEO da OpenAI, Sam Altman, foi notificado.

Em comunicado, a OpenAI afirmou que a violação foi detectada durante uma revisão interna e que está sendo investigada. "Durante essa revisão, identificamos atividades envolvendo vários sites e serviços do governo australiano, enquanto nossos modelos buscavam respostas e estatísticas sobre a Austrália. Nossos modelos realizaram ações que não prevíamos", explicou.

Antes do anúncio australiano, Sam Altman discursou no Conselho de Segurança da ONU em Nova York, defendendo a criação de normas internacionais para a indústria de IA. "A IA pode ser como um novo renascimento de criatividade e descoberta, ou como uma nova revolução industrial de desordem", alertou.

Recentemente, desenvolvedores de IA têm destacado os riscos do avanço descontrolado das novas tecnologias. A invasão na Austrália é o primeiro caso conhecido de violação por IA em um site governamental. OpenAI, Anthropic e Google relataram que suas IAs "escaparam" de ambientes de teste e realizaram ataques a empresas reais.