|

IA AGÊNTICA: DO CASO DA AEPD A UMA CONVERSA SOBRE SEGURANÇA

Uma nova conversa para os nossos parceiros e para os seus clientes

A AEPD (Agência Espanhola de Proteção de Dados) recebeu a primeira notificação em Espanha de uma violação de dados pessoais em que um agente de IA terá executado, de forma autónoma, distintas fases de um ataque: procura de vulnerabilidades, acesso ao sistema, alteração de dados pessoais e acesso a faturas.

A própria Agência refere que o caso obriga a rever os cenários de gestão de risco, em particular a gestão de identidades e credenciais, a limitação de privilégios e a capacidade de deteção e resposta. A investigação continua em curso e trata-se, por agora, de um único caso conhecido: convém evitar falar já de uma tendência estatística, mas não de um sinal de alerta para os nossos clientes.

Não é apenas:

“A sua empresa está a utilizar agentes de IA?”

“A sua empresa está a utilizar agentes de IA?”

É:

“Se um agente tem acesso legítimo, o que pode realmente fazer depois de lá dentro?”

É aqui que começa a conversa sobre identidade e acesso — e é aqui que entramos nós.

Perguntas para abrir a conversa, por setor

Utilizem estas perguntas com clientes que já estejam a testar agentes de IA em tarefas com acesso a sistemas ou dados sensíveis:


Financial Services

  • Que agentes têm hoje acesso a sistemas financeiros ou a dados de clientes?
  • Usam identidade própria ou herdam a de um utilizador ou conta de serviço?
  • Conseguem demonstrar o que cada agente fez e com que identidade?


Healthcare

  • Que agentes podem aceder a dados de pacientes ou informação sensível?
  • Cada agente tem apenas o acesso de que precisa para a sua tarefa?
  • Conseguiriam revogar esse acesso de forma imediata?

Setor Público

  • Têm identificados os agentes que atuam de forma autónoma nos vossos sistemas?
  • Quem é responsável por cada identidade não humana?
  • Existe rastreabilidade completa de agente → identidade → privilégio → ação?


Manufacturing

  • Que agentes têm acesso a ERP, produção, engenharia, cloud ou OT?
  • Existem contas de serviço partilhadas entre automação e agentes?
  • Conseguem distinguir a atividade humana da atividade de um agente?


Retail

  • Que agentes podem alterar pedidos, preços, devoluções ou dados de clientes?
  • Usam credenciais partilhadas?
  • Conseguem identificar que agente executou uma transação concreta?


Technology / SaaS

  • Que agentes têm acesso a repositórios, secrets, cloud ou produção?
  • Podem criar, recuperar ou reutilizar credenciais?
  • Pode um agente implementar código ou tocar em produção sem autorização adicional?

Um caminho simples para o demonstrar

Não é preciso um projeto de transformação de IA para começar. Numa única sessão, o cliente pode ver a diferença entre “o agente tem acesso” e “o agente está autorizado a executar esta ação”.

1 — Descobrir

Escolham um agente real e mapeiem, numa única sessão: agente → identidade → credencial → sistemas → privilégios → ações. O objetivo não é inventariar toda a IA da empresa, mas encontrar um agente que já esteja a fazer algo importante.

2 — Controlar

Reduzam o que esse agente pode fazer. Com a Delinea, mostrem ao cliente como manter as credenciais fora do agente, conceder acesso just-in-time e aplicar políticas de autorização em tempo de execução. A Delinea avalia e autoriza cada tool call, query ou comando antes de ser executado.

3 — Demonstrar

Façam com que o cliente veja com os próprios olhos: executem uma tarefa legítima e deixem-na passar; tentem uma ação fora da política e bloqueiem-na. Depois, revejam juntos que agente, que identidade, que ação, que sistema e o que aconteceu.

A mensagem que levamos para a conversa

Os agentes não precisam de menos acesso por serem agentes. Precisam de um acesso diferente: limitado à tarefa, controlado no momento da ação e rastreável.

Este é um bom momento para levar esta conversa aos clientes que já estão a experimentar agentes de IA — sobretudo onde esses agentes comecem a tocar em dados sensíveis, infraestrutura ou sistemas críticos. Transformemos juntos esta notícia numa reunião de discovery real, e não num alarme passageiro.

Próximos eventos

¿Necesitas más información?


    Em cumprimento do artigo 13.º do Regulamento (UE) 2016/679 Geral sobre a Proteção dos Dados, informamos que a IGNITON irá tratar os seus dados pessoais para gerir a sua consulta. Pode exercer os seus direitos em matéria de proteção de dados através de pedido enviado para o nosso DPO em gdpr@ingecom.net. Pode obter informações adicionais sobre o tratamento de dados na nossa Política de Privacidade publicada em www.ignition-technology.pt/.