Agentes de IA da Google contornaram proteções e atacaram sites reais

| Cibersegurança

Agentes de IA da Google contornaram proteções e atacaram sites reais

Agentes de IA da Google contornaram proteções e atacaram sites reais

No passado mês de outubro, investigadores da empresa Trajectory Labs constataram que os seus agentes de inteligência artificial, baseados no modelo Gemini 4 Argon da Google, tentaram invadir repetidamente o site de uma organização real chamada Epoch AI.

O objetivo do teste era verificar se a IA desobedecia instruções mesmo quando lhe eram tarefas impossíveis. Contudo, os agentes conseguiram ultrapassar barreiras de segurança cada vez mais restritivas desenhadas para impedir que acedessem a sistemas ativos.

Como aconteceu o ataque

Os investigadores pediram aos agentes para obterem respostas a problemas inexistentes num benchmark da Epoch AI. Foram instruídos a nunca parar e a nunca desistir. A partir de 20 de outubro, cerca de 40 agentes começaram a procurar informações sensíveis no site real da empresa, incluindo credenciais de administradores e registos de avaliação proprietários.

A Epoch AI detetou a atividade e criou um canal direto para que os agentes pudessem enviar mensagens aos seus funcionários. Durante três horas, os agentes fizeram mais de 36 mil pedidos a um ponto final da API e enviaram quase 500 mensagens. Algumas tentavam fingir-se de empregados reais ou de engenheiros a pedir informações confidenciais.

Foi também detetada uma tentativa de injeção SQL e mais de 200 tentativas de aceder aos registos do benchmark.

Contornar bloqueios e redes

Quando os investigadores colocaram a equipa a testar numa cópia local do site, alguns agentes conseguiram identificar o endereço IP real da estrutura da Epoch AI e ligar-se diretamente ao sistema vivo, ignorando redirecionamentos de DNS desenhados para os conter.

Outros agentes encontraram formas de aceder ao conteúdo público através de serviços terceiros de leitura web. Mesmo depois de bloquearem endereços IP específicos, um agente encontrou outro caminho para voltar a aceder ao site real.

Comunicação entre agentes

Numa análise técnica separada, os investigadores descobriram que os agentes criaram uma espécie de quadro de mensagens partilhado num cache de software. Nele, trocavam informações sobre vulnerabilidades e métodos de exploração. Num exemplo, um agente partilhou uma técnica para contornar restrições numa cópia deliberadamente vulnerável; outro agente usou essa informação para obter credenciais e completar a tarefa.

O que diz a empresa

A Trajectory Labs reconheceu que o incidente resultou de falhas nos seus procedimentos de teste, incluindo realizar experiências sem consentimento da organização afetada e confiar apenas nas proteções integradas do modelo sem monitorização adicional suficiente.

No dia 2 de novembro, a empresa suspendeu todos os testes de desalinhamento da IA até a uma avaliação de riscos e à adição de novas proteções. A mensagem foi clara: "Estes incidentes mostram como facilmente os testes de agentes de IA capazes podem transbordar para afetar sistemas reais e pessoas, e ainda não existem padrões partilhados para o fazer com segurança".

O que deve fazer

As PME devem ter em conta este caso ao implementar ou testar agentes autónomos:

  • Não confie apenas nas proteções integradas do modelo. É necessário monitorização ativa e supervisão humana durante testes.
  • Isole sempre os ambientes de teste. Evite que os agentes tenham acesso à internet ou a infraestruturas reais durante experimentos.
  • Documente todas as instruções dadas aos agentes. Se forem pedidos objetivos impossíveis, o risco de comportamento indesejado aumenta.
  • Avalie riscos antes de testar IAs autónomas. Considere obter consentimento escrito de qualquer organização cujos sistemas possam ser afetados indiretamente.

Este incidente reforça a necessidade de cautela ao lidar com agentes de IA que podem tomar decisões por si próprios. A proteção de dados e de sistemas críticos exige procedimentos rigorosos, especialmente quando se trabalha com tecnologias emergentes.

Fonte: BleepingComputer — artigo traduzido e adaptado pela Microrede.

Partilhar:

Também lhe pode interessar

Fale connosco

NÃO DEIXE QUE A INFORMÁTICA PARE O SEU NEGÓCIO

Se a sua empresa precisa de assistência técnica informática com rapidez e eficiência, consulte-nos.