A segurança em agentes de inteligência artificial define se a tua organização pode ou não escalar estas ferramentas sem comprometer dados sensíveis. Aqui vais entender como funciona a arquitetura zero trust aplicada a agentes, quais são os riscos reais de fuga de informação e que controlos existem dentro do Microsoft 365 para proteger fontes de conhecimento, ficheiros e sistemas externos.

A ideia central é simples: a IA só acede ao que tu já tens permissão para aceder. Se a porta está fechada para ti, também está fechada para o agente.

O que é a arquitetura zero trust e como se aplica à IA?

O modelo zero trust assume que nenhuma identidade, dispositivo ou rede é confiável por defeito. É o pilar sobre o qual a Microsoft constrói praticamente todas as suas ferramentas de segurança hoje.

Apoia-se em três princípios que tens de aplicar sempre que desenhas um agente:

• Verificação explícita: confirma identidade, dispositivo e acesso à aplicação antes de permitir qualquer interação.
• Acesso com o mínimo de privilégios: segmenta funções em vez de atribuir permissões de administrador a qualquer utilizador.
• Assumir que existe sempre uma falha: monitoriza, audita e prepara reação para o momento em que alguém entrar até à cozinha.

¿Como é que a IA acede aos meus dados? A inteligência artificial usa o teu crachá da empresa. Só consegue ler ficheiros, bases de dados ou sistemas aos quais tu já tens acesso. Se não abres a porta, ela não entra. [05:12]

Quais são os princípios de IA responsável da Microsoft?

A Microsoft construiu estas capacidades sobre seis princípios de inteligência artificial responsável: equidade, fiabilidade e segurança, privacidade, inclusão, transparência e responsabilização contratual.

Destes princípios derivam três compromissos concretos que mudam a forma como pensas a proteção dos teus dados:

• Os dados dos clientes continuam a ser dos clientes, sem apropriação por parte da Microsoft.
• Os dados nunca são utilizados para treinar modelos de IA, seja no Graph ou no Azure.
• Os controlos de segurança e compliance que já tens implementados são respeitados, não ignorados.

Isto significa que a tua estratégia de proteção atual continua a valer quando ligas um agente.

Quais são os principais desafios de segurança em agentes?

Quando começas a integrar fontes de conhecimento, três problemas aparecem com frequência. Vale a pena identificá-los antes de construir qualquer agente.

Como evito a partilha excessiva de informação?

O oversharing acontece quando colocas um PDF num SharePoint partilhado com toda a gente, mesmo quando o documento devia ter controlos mais restritos. As causas comuns são previsíveis:

• Privacidade do site do SharePoint mal configurada.
• Permissões predefinidas demasiado abertas ao nível da administração.
• Uso de grupos de domínio do tipo todos exceto utilizadores externos.
• Sites e ficheiros sem etiquetas de confidencialidade.

A etiquetagem é a peça que define que políticas se aplicam a cada conteúdo. Sem ela, ficas dependente de configurações manuais que tendem a falhar. [13:45]

Como controlo a fuga de dados e o shadow IT?

A fuga pode ser intencional ou acidental, como quando guardas dados numa pen USB para trabalhar em casa. O shadow IT aparece quando alguém instala uma aplicação não autorizada ou usa um Excel paralelo aos sistemas oficiais.

O que é shadow IT? É o uso de aplicações ou repositórios fora dos canais oficiais da organização. Representa risco de segurança porque escapa às políticas de proteção definidas pela empresa. [12:30]

Que ferramentas usar para proteger dados e agentes?

A proteção prática combina várias camadas. Não basta uma só ferramenta; precisas de uma estratégia de prevenção de perda de dados, conhecida pela sigla DLP, articulada com etiquetagem automática, acesso condicional e auditoria.

Dentro do Microsoft 365 tens estes elementos a trabalhar em conjunto:

• Etiquetagem automatizada para não comprometer a produtividade.
• Auditoria que regista cada ação realizada na plataforma, desde abrir um ficheiro a enviar um email.
• Acesso condicional que avalia risco em função da localização, do dispositivo e do utilizador.
• Controlos de acesso com autenticação de dois fatores quando o risco aumenta.

Um exemplo concreto: se inicias sessão no México e cinco minutos depois apareces na Malásia, o acesso condicional deteta o padrão suspeito e bloqueia ou exige verificação adicional. [09:20]

Por que preciso de governança sobre os agentes?

Quando uma organização começa a criar agentes, alguns ficam abandonados e outros podem ter usos inadequados. A governança serve para monitorizar quais estão ativos, quem os usa e, em caso de incidente, reconstruir o que aconteceu.

Isto é particularmente importante quando um agente pode ter implicações legais ou aceder a dados sensíveis sem supervisão.

Quais são as novas superfícies de ataque na IA generativa?

Os vetores tradicionais (identidade, dispositivos, rede, dados, aplicações cloud) continuam relevantes, mas a IA generativa abriu novas frentes que tens de considerar. [18:50]

• Os prompts ou indicações enviadas ao modelo.
• As respostas devolvidas pelo agente.
• A orquestração da IA, onde alguém pode injetar instruções maliciosas.
• O treino do modelo e os dados usados, que podem introduzir viés.
• Os dados RAG que complementam a resposta.
• Os plugins e habilidades que dependem de serviços externos.

As consequências mais comuns são fuga de dados, injeção rápida indireta (quando uma pergunta provoca o acesso a dados que o agente não devia revelar), vulnerabilidades no modelo e alucinações. O fine tuning, o RAG e prompts bem desenhados ajudam a reduzir cada um destes riscos.

A proteção em ambientes externos exige ainda compromissos contratuais com os serviços de terceiros, como o ServiceNow, que mantêm a sua própria estrutura de segurança quando o teu agente lá entra.

Que camada de proteção é a mais difícil de implementar na tua organização? Conta nos comentários como estás a abordar este desafio.