Como um agente de IA expôs cinco falhas críticas na segurança empresarial
A criação de agentes de inteligência artificial (IA) tornou-se tão simples que qualquer pessoa, mesmo sem conhecimentos técnicos profundos, pode desenvolver um em apenas dez minutos. No entanto, a rapidez com que estes agentes surgem está a criar novos desafios para a cibersegurança.
Num estudo realizado pela Token Security Alliance, 68% dos profissionais de TI afirmam ter boa visibilidade sobre os seus agentes de IA. Contudo, 82% descobriram agentes desconhecidos nas suas redes nos últimos doze meses. Isto indica que a gestão destes sistemas está a ficar para trás.
1. A forma como o agente obtém acesso
Muitas vezes, um agente é criado para ler emails, processar faturas e enviar resumos. Para isso, precisa de aceder ao email, ao sistema de gestão (ERP) e a plataformas de mensagens.
O problema surge na forma como este acesso é concedido:
- Delegação OAuth: O utilizador aprova o acesso com um clique. Este acesso pode permanecer ativo mesmo após a pessoa ter deixado a empresa ou mudado de equipa.
- Credenciais estáticas: Chaves de API pessoais geradas rapidamente, que funcionam como uma senha permanente para quem as encontrar.
Esta mistura de métodos torna difícil rastrear quem realmente autorizou cada ação. Se um agente partilha o token de acesso de um utilizador com outro sistema, os registos podem mostrar dados do utilizador num lado e da conta de serviço no outro, criando confusão.
2. A revisão que nunca aconteceu
Após a criação, nenhum teste é realizado porque ninguém foi solicitado a fazê-lo. Se alguém tivesse verificado o agente antes de o colocar em funcionamento, um teste simples teria detetado o problema.
Segundo especialistas da DataRobot, até que seja possível detetar e bloquear injecções maliciosas nos comandos, um agente não deve:
- Ler dados de fontes externas à empresa.
- Aceder a informações privadas.
- Alterar estados ou comunicar externamente sem supervisão humana.
Se um agente faz as três coisas, deve ser submetido à equipa de segurança antes de ser ativado.
3. Emails maliciosos que ninguém abre
Imagine que uma fatura chega ao email da empresa com instruções ocultas para alterar dados bancários no ERP. Como o agente lê tudo automaticamente, incluindo texto invisível ou anexos suspeitos, ele pode executar essas alterações sem intervenção humana.
Isto acontece porque as credenciais pessoais usadas pelo agente não têm data de expiração e permitem ações que um utilizador normal não deveria realizar.
4. Detetar o problema
Quando a alteração bancária é efetuada, pode passar despercebida se os registos apenas verificarem se as permissões do agente estão corretas. Um agente malicioso pode agir dentro das suas permissões legítimas.
A deteção eficaz compara o comportamento atual com o histórico conhecido do agente. Sinais de alerta incluem:
- O primeiro uso de uma ferramenta de escrita (ex: alterar dados) após semanas apenas de leitura.
- Uma nova sequência de ações que nunca foi executada antes.
No caso de detetar um agente comprometido, a ação imediata deve ser suspender o agente e revogar as credenciais, mantendo os registos para análise posterior.
5. Quem aprovou esta ação?
Dois meses depois, auditores podem questionar quem autorizou uma alteração crítica. Se não houver registo de quem criou a delegação e sob qual autoridade, essa informação está perdida.
A auditoria deve responder a quatro perguntas:
- Qual foi o agente?
- Sob quais privilégios atuou?
- Quem aprovou?
- Sob cuja autoridade?
A última pergunta é a mais difícil, pois a autoridade não pode ser reconstruída após o facto.
O que deve fazer
Para proteger a sua empresa contra estes riscos:
- Revise todos os agentes de IA em produção e identifique quem os criou e para que fins.
- Evite delegações OAuth permanentes; defina prazos de validade ou revogue-as periodicamente.
- Implemente testes de segurança antes de ativar qualquer agente, verificando se ele acede a dados sensíveis sem supervisão.
- Registe todas as ações dos agentes para facilitar auditorias futuras.
- Eduque os colaboradores sobre os riscos de criar agentes sem consultar a equipa de segurança.
A inteligência artificial traz grandes benefícios, mas exige vigilância constante. As PME devem adaptar as suas políticas de segurança para acompanhar a evolução destes sistemas e evitar brechas que podem custar caro.