Sua IA precisa mesmo saber tudo? A arquitetura que eu considero mais segura e inteligente para empresas

Durante muito tempo, quando eu falava sobre gestão do conhecimento em escritórios e empresas, o problema aparecia quase sempre da mesma forma: informação demais concentrada em poucas pessoas.

É aquela pessoa que sabe onde estão os contratos, conhece a história dos clientes, lembra por que determinada decisão foi tomada, sabe qual planilha é a correta, domina os atalhos internos e ainda guarda algumas senhas que ninguém sabe exatamente onde foram anotadas. Quando essa pessoa entra em férias, alguma coisa para. Quando ela deixa a empresa, começa uma pequena operação arqueológica para entender como determinadas rotinas funcionavam.

Sempre tratamos isso como um problema de gestão do conhecimento.

A inteligência artificial apareceu oferecendo uma solução muito interessante para esse tipo de situação. Podemos organizar documentos, pesquisar bases enormes, recuperar reuniões anteriores, cruzar informações, resumir históricos e transformar conhecimento disperso em algo muito mais acessível.

O problema começa quando levamos essa lógica longe demais.

Tenho visto crescer uma ideia quase automática nos projetos corporativos de inteligência artificial: colocar tudo dentro da IA. Entram contratos, processos, clientes, procedimentos, reuniões, financeiro, RH, marketing, planejamento, e mails, dados pessoais, informações estratégicas e documentos confidenciais. Depois conectamos esse enorme conjunto de informações a uma inteligência artificial e comemoramos porque, aparentemente, agora ela “conhece a empresa”.

Minha pergunta seria outra: ela precisava conhecer tudo isso?

Essa pergunta vai ficar cada vez mais importante porque a próxima fase da inteligência artificial nas empresas não será definida apenas por qual modelo responde melhor. ChatGPT, Claude, Copilot, Gemini ou qualquer outro continuarão importantes, mas a discussão começa a migrar para algo mais estrutural: arquitetura, dados, acesso, permissões, autonomia e responsabilidade.

Quanto mais inteligente fica a IA, mais inteligente precisa ser a forma como decidimos o que ela pode conhecer.

O risco de criar uma IA que sabe tudo

Durante anos critiquei empresas excessivamente dependentes de pessoas chave. Se toda a operação depende de uma pessoa, existe um problema de gestão.

Curiosamente, podemos estar tentando resolver esse problema criando outro. Tiramos o conhecimento da cabeça daquele funcionário que sabia tudo e colocamos dentro de uma inteligência artificial que sabe tudo.

Só que existe uma diferença relevante.

O funcionário sabia determinadas coisas e precisava agir pessoalmente para transformar aquele conhecimento em alguma ação. A inteligência artificial, dependendo da arquitetura adotada, pode saber, interpretar, cruzar dados, consultar sistemas, gerar documentos, atualizar registros, preparar comunicações e executar tarefas.

É aí que a discussão muda.

Uma coisa é ter uma IA que responde perguntas sobre documentos. Outra é ter um agente conectado ao SharePoint, ao sistema jurídico, ao CRM, ao financeiro, ao e mail, à agenda e aos arquivos internos.

O potencial aumenta muito, mas o raio de impacto de um erro também aumenta.

Por isso, eu evitaria pensar numa única grande “IA da empresa”, com acesso irrestrito a tudo. Considero mais interessante uma arquitetura formada por várias inteligências especializadas, cada uma com função definida, conhecimento delimitado e permissões compatíveis com aquilo que efetivamente precisa fazer.

Antes de perguntar qual IA vamos usar, eu perguntaria qual problema ela vai resolver, o que precisa saber e até onde pode ir.

Pense num escritório de advocacia

Imagine um escritório com cinquenta pessoas e algumas inteligências artificiais especializadas.

Um agente de publicações judiciais precisa consultar publicações, processos, responsáveis, agenda de prazos, regras internas e eventualmente jurisprudência. Para cumprir essa função, ele não precisa acessar a folha de pagamento do escritório, o planejamento de marketing ou todo o fluxo de caixa.

Agora imagine um agente financeiro. Ele pode precisar visualizar faturamento, honorários, inadimplência, contratos comerciais e centros de custo. Em alguma situação específica pode ser útil consultar uma informação processual, mas dificilmente existe justificativa para que esse agente tenha acesso irrestrito a todas as peças, provas e documentos de todos os processos.

O agente de marketing, por sua vez, pode precisar conhecer serviços, posicionamento institucional, artigos publicados, agenda de eventos e histórico de conteúdo. Não existe razão para que ele tenha acesso a dados bancários, documentos médicos de clientes ou informações trabalhistas internas.

Quando colocamos os exemplos lado a lado, a lógica parece bastante simples. O problema é que muitas empresas estão fazendo justamente o caminho inverso. Primeiro concentram todos os dados, depois conectam sistemas, liberam usuários e somente então começam a pensar nas permissões.

Eu inverteria completamente essa ordem.

Primeiro definiria a função. Depois identificaria o conhecimento necessário. Na sequência, estabeleceria os acessos e as permissões. Somente depois pensaria na tecnologia, no modelo e nas integrações.

A arquitetura deveria começar pela função

Uma das primeiras perguntas que surgem quando uma empresa começa um projeto de inteligência artificial costuma ser: vamos usar ChatGPT, Claude, Copilot ou Gemini?

Eu entendo a pergunta, mas considero cedo demais para respondê la.

Antes disso, eu gostaria de saber quem vai usar a ferramenta, para qual finalidade, com quais dados, em quais processos, com que nível de autonomia e sob qual supervisão.

Também perguntaria qual seria o impacto caso a IA cometesse um erro.

Se o agente apenas sugere um texto de marketing, o impacto é um. Se ele consegue enviar esse texto automaticamente para uma base de clientes, o risco é outro. Se ele pode consultar contratos confidenciais e dados pessoais enquanto faz isso, a situação muda novamente.

A arquitetura precisa nascer da função, e não do entusiasmo pela ferramenta do momento.

Pode ser que uma empresa termine utilizando mais de uma IA. Uma ferramenta pode funcionar melhor para análise documental, outra pode estar melhor integrada ao Microsoft 365, outra pode ser excelente para pesquisa e outra pode ser utilizada para agentes internos.

Não vejo problema nisso. O problema começa quando a organização monta seus processos para servir à tecnologia, em vez de escolher a tecnologia para servir à operação.

Primeiro, classifique o conhecimento

Antes de conectar qualquer IA aos sistemas, eu começaria olhando para os próprios dados.

Toda organização possui informações com diferentes graus de sensibilidade. Algumas são públicas, outras são internas, outras são confidenciais. Existem dados pessoais, dados pessoais sensíveis, informações financeiras, estratégias, contratos, comunicações internas, segredos comerciais e documentos recebidos de clientes.

Nem tudo deveria estar automaticamente disponível para todas as inteligências artificiais utilizadas pela organização.

Uma pergunta simples já ajuda bastante:

Se este documento aparecesse para a pessoa errada dentro da própria empresa, teríamos um problema?

Se a resposta for sim, aquela informação merece algum nível de controle.

Há outra pergunta que considero ainda mais interessante:

Se uma IA cruzasse esse documento com outros vinte documentos, poderia descobrir algo que não seria tão evidente para uma pessoa olhando cada arquivo separadamente?

Essa questão é importante porque a inteligência artificial não apenas lê. Ela relaciona, cruza, resume, compara e identifica padrões.

Uma informação aparentemente inofensiva pode ganhar outro significado quando combinada com várias outras.

Por isso, governar IA também significa governar as relações possíveis entre os dados.

Depois vêm os agentes especializados

Depois de organizar o conhecimento, eu começaria a pensar nos agentes.

Evitaria um único “Assistente da Empresa” capaz de fazer qualquer coisa. O nome pode até parecer interessante, mas a função é ampla demais.

Prefiro agentes com responsabilidades claras, como análise contratual, publicações, financeiro, reuniões, atendimento, marketing, gestão e conhecimento interno.

Cada um recebe um escopo compatível com sua função.

O agente de contratos trabalha com contratos e políticas relacionadas. O agente de reuniões consulta transcrições, atas, tarefas e compromissos. O agente financeiro conhece dados financeiros. O agente de gestão pode receber indicadores consolidados de várias áreas sem necessariamente ter acesso a todos os documentos originais.

Esse último exemplo mostra uma diferença importante entre possuir informação e receber informação suficiente.

Imagine que um sócio pergunte quais clientes apresentam maior risco de inadimplência naquele mês. O agente de gestão talvez não precise acessar cada boleto, cada nota fiscal ou cada movimentação bancária. O agente financeiro pode produzir um resultado consolidado e entregar somente aquilo que a gestão precisa utilizar.

Isso reduz exposição de dados e, muitas vezes, também melhora a qualidade da resposta.

Colaboração não exige acesso irrestrito. Nem entre pessoas, nem entre inteligências artificiais.

Mais contexto nem sempre significa melhor resposta

Existe uma crença bastante comum de que quanto mais documentos colocarmos dentro da IA, melhor será o resultado.

Nem sempre.

Imagine que eu peça para uma inteligência artificial analisar um contrato e identificar riscos para o cliente.

Se o ambiente fornecer o contrato, a política interna de contratação, alguns modelos aprovados e eventualmente contratos semelhantes, existe um contexto bastante útil.

Agora imagine acrescentar dois mil contratos antigos, atas, newsletters, materiais de marketing, documentos financeiros, apresentações, planilhas e milhares de arquivos sem relação direta com aquela tarefa.

A IA recebeu mais informação, mas também recebeu mais ruído.

Uma boa arquitetura de conhecimento precisa pensar naquilo que realmente deve chegar ao contexto da tarefa. A pergunta deixa de ser “quantos documentos conseguimos armazenar?” e passa a ser “quais documentos ajudam a responder esta questão com mais precisão?”.

Essa mudança parece pequena, mas afeta diretamente a qualidade da resposta.

Os prompts também podem limitar o uso do conhecimento

Costumamos pensar em prompt apenas como uma maneira de conseguir respostas melhores. Eu vejo o prompt também como uma camada de governança operacional.

Ele pode definir a tarefa, indicar as fontes autorizadas, estabelecer limites, impedir determinadas ações e obrigar a IA a informar quando não possui elementos suficientes para concluir.

Um agente de análise contratual, por exemplo, poderia receber uma instrução como esta:

Você atuará como agente de apoio à análise contratual. Utilize o contrato fornecido, a política interna de contratação e os modelos aprovados disponíveis neste ambiente. Identifique cláusulas fora do padrão, riscos relevantes, obrigações incomuns e pontos que merecem revisão humana.

Não consulte dados financeiros, informações trabalhistas ou documentos de outros clientes, mesmo que estejam disponíveis em sistemas conectados.

Se alguma informação necessária estiver ausente, informe exatamente o que precisa ser consultado e explique por que essa informação é necessária para concluir a análise.

Não altere documentos, não envie mensagens e não encaminhe a minuta para terceiros sem autorização humana.

Esse prompt faz algo que considero importante: ele não define apenas o que a IA deve fazer. Também define onde ela deve parar.

Isso será cada vez mais relevante em ambientes corporativos.

Um exemplo para o financeiro

A mesma lógica pode ser aplicada a um agente financeiro.

Imagine que a empresa queira identificar atrasos de clientes e preparar recomendações de cobrança. O agente pode trabalhar com os dados necessários sem receber liberdade para agir sozinho.

Um prompt poderia ser estruturado assim:

Analise os recebimentos previstos e realizados do mês atual e identifique clientes com atraso superior a 15 dias.

Utilize somente os dados financeiros e contratuais necessários para essa análise. Apresente o cliente, o valor, a data de vencimento, o tempo de atraso e a providência sugerida.

Não consulte documentos processuais ou informações de RH que não tenham relação direta com a análise financeira.

Não envie cobranças, não altere registros e não faça contato com clientes sem aprovação humana.

Quando houver divergência entre contrato e sistema financeiro, apresente a inconsistência, indique as fontes utilizadas e encaminhe o ponto para revisão.

O agente pode produzir valor sem necessariamente possuir autorização para executar tudo o que sugere.

Essa separação será muito importante.

Saber é uma coisa. Poder agir é outra.

Uma inteligência artificial pode ler um contrato sem possuir permissão para alterá lo. Pode preparar uma mensagem sem poder enviá la. Pode sugerir um pagamento sem poder realizá lo. Pode identificar um prazo sem poder cadastrá lo automaticamente. Pode produzir uma minuta sem poder encaminhá la ao cliente.

Essa distinção entre conhecimento e execução precisa fazer parte da arquitetura.

Num agente de publicações judiciais, por exemplo, eu começaria com algo semelhante a isto:

Consulte as novas publicações e identifique aquelas que podem gerar prazo processual.

Para cada publicação, apresente processo, cliente, evento ocorrido, possível prazo, fundamento utilizado no cálculo, documentos consultados e pontos de atenção.

Não registre automaticamente o prazo no sistema.

Quando houver dúvida sobre termo inicial, feriado, suspensão, natureza da intimação ou regra processual aplicável, indique expressamente a necessidade de revisão humana e explique a razão da dúvida.

Não complete informações ausentes por inferência quando elas forem necessárias para uma conclusão segura.

Esse agente já pode economizar muito tempo e melhorar o controle da operação, mesmo sem autonomia para cadastrar uma única informação.

Depois, conforme a empresa mede resultados e desenvolve confiança, algumas ações podem ser automatizadas gradualmente.

Eu não começaria dando autonomia para a IA. Começaria dando uma responsabilidade pequena, medindo o resultado e ampliando o acesso conforme a confiança aumenta.

É parecido com aquilo que fazemos com pessoas.

Ninguém deveria entrar numa empresa na segunda feira de manhã e receber, antes do almoço, acesso administrativo a todos os sistemas. Com um agente de IA, a prudência deveria ser semelhante.

O raio de impacto de um erro

Uma pergunta simples ajuda bastante na definição das permissões:

Se der errado, até onde o problema chega?

Imagine um agente de marketing que apenas sugere textos. Se ele produzir algo inadequado, uma pessoa pode revisar antes da publicação.

Agora imagine o mesmo agente conectado ao CRM, aos contratos, aos documentos confidenciais e ao e mail corporativo, com autorização para enviar mensagens automaticamente.

A mesma falha potencial ganhou outra dimensão.

Quanto maior o acesso e maior a autonomia, maior pode ser o impacto.

Por isso eu gosto da ideia de classificar agentes de acordo com aquilo que podem fazer.

Um primeiro nível poderia apenas consultar informações e produzir respostas. Um segundo nível poderia criar documentos e registros provisórios. Um terceiro nível poderia alterar informações internas. Um nível mais elevado permitiria executar ações externas, como enviar mensagens, alterar cadastros relevantes ou movimentar processos.

A classificação pode variar conforme a empresa. O importante é compreender que todas as inteligências não deveriam receber o mesmo grau de autonomia.

Um prompt para desenhar um agente antes de criá lo

Antes de criar qualquer agente corporativo, eu usaria a própria inteligência artificial para ajudar a analisar a necessidade.

Em vez de começar escolhendo conectores e integrações, começaria mapeando função, informação, acesso e risco.

Um prompt interessante seria:

Quero criar um agente de inteligência artificial para executar a seguinte função: [descreva a função].

Antes de sugerir qualquer tecnologia, faça uma análise de governança da função proposta.

Identifique quais informações esse agente realmente precisa acessar para cumprir sua atividade e classifique essas informações entre públicas, internas, confidenciais, dados pessoais e dados pessoais sensíveis.

Indique quais sistemas precisam ser consultados e explique por que cada acesso é necessário. Indique também quais sistemas não precisam ser acessados.

Separe as ações possíveis entre aquelas que o agente pode executar sozinho, aquelas que o agente deveria apenas sugerir e aquelas que obrigatoriamente precisam de aprovação humana.

Para cada ação relevante, estime o impacto potencial de um erro e indique controles que possam reduzir esse risco.

Depois proponha uma arquitetura baseada no menor nível de acesso necessário para que o agente cumpra sua função.

Ao final, indique quais riscos surgiriam caso esse agente recebesse permissões maiores do que as necessárias.

Esse prompt muda completamente a ordem da conversa.

A empresa deixa de começar perguntando o que consegue conectar e passa a perguntar por que precisa conectar.

Depois, faça auditorias de acesso

Existe outro problema bastante comum em tecnologia. Um sistema começa pequeno, recebe novos acessos, ganha integrações, incorpora funções e, algum tempo depois, ninguém sabe exatamente por que determinadas permissões ainda existem.

Com agentes de IA pode acontecer o mesmo.

Por isso considero interessante criar revisões periódicas das permissões.

A própria inteligência artificial pode ajudar nessa análise:

Analise a função atual deste agente e todas as fontes de dados, sistemas e ferramentas às quais ele possui acesso.

Para cada acesso, avalie se ele continua necessário para a função principal do agente, com que frequência é utilizado e qual seria o impacto caso esse acesso fosse comprometido.

Verifique se o acesso integral pode ser substituído por acesso parcial, consulta limitada, dados resumidos ou informações previamente consolidadas.

Identifique dados disponíveis que não deveriam ser utilizados pelo agente e explique o motivo.

Ao final, sugira quais permissões podem ser reduzidas, removidas ou substituídas sem prejudicar a atividade principal.

Isso é governança aplicada de forma prática.

Não exige começar com um projeto gigantesco. Exige começar com boas perguntas.

Talvez a IA nem precise acessar o documento original

Esse ponto é especialmente interessante porque muda bastante a forma como pensamos integração.

Muitas vezes, uma área precisa do resultado, e não da fonte inteira.

Imagine um sócio acompanhando a situação financeira do escritório. Ele pode precisar conhecer faturamento previsto, faturamento realizado, inadimplência, prazo médio de recebimento, rentabilidade e variações relevantes.

O agente financeiro pode produzir esses indicadores.

O agente de gestão utiliza os resultados consolidados.

Ele não precisa necessariamente acessar cada boleto, cada nota fiscal, cada movimentação bancária e cada dado sensível existente na base financeira.

O mesmo vale para RH.

A gestão pode precisar saber que determinada área apresenta aumento de rotatividade ou crescimento de absenteísmo. Isso não significa que um agente gerencial precise receber acesso completo aos dados pessoais de cada funcionário.

Às vezes, o dado tratado é suficiente.

Essa lógica reduz exposição, simplifica o contexto e pode melhorar a qualidade das respostas.

A empresa precisa saber muito. Cada IA, não.

Defender compartimentação não significa defender ilhas de informação.

A empresa continua precisando organizar conhecimento, documentar processos, preservar histórico, facilitar recuperação e reduzir dependência de pessoas.

A diferença está entre conhecimento institucional e acesso operacional.

A organização pode possuir uma grande quantidade de informação sem permitir que qualquer pessoa ou qualquer agente acesse tudo integralmente.

Isso vale para documentos. Vale para sistemas. Vale para pessoas. E agora vale para inteligências artificiais.

Gestão do conhecimento não significa transformar todo conhecimento em conhecimento de todos.

E a LGPD entra exatamente aqui

Quando falamos em proteção de dados, existe uma pergunta bastante básica: por que esse dado está sendo utilizado?

Com inteligência artificial, essa pergunta ganha ainda mais relevância.

Se um agente não precisa de determinado dado pessoal para cumprir sua função, por que fornecer esse dado?

Se não precisa de uma informação sensível, por que conectá la?

Se consegue trabalhar com um indicador consolidado, por que liberar toda a base?

Em escritórios de advocacia, isso merece atenção especial.

Um escritório pode possuir informações médicas, familiares, trabalhistas, financeiras, patrimoniais e societárias de milhares de pessoas. A facilidade técnica para conectar tudo não deveria ser confundida com autorização para conectar tudo.

A tecnologia facilita o acesso. A governança precisa decidir se esse acesso faz sentido.

Quanto mais fácil fica acessar informação, melhor precisa ser a decisão sobre quem pode acessá la.

Eu imagino uma empresa com várias inteligências artificiais

Não vejo o futuro corporativo como uma empresa conversando com uma única IA gigantesca que conhece tudo.

Imagino algo mais distribuído.

Um agente acompanha contratos. Outro trabalha com processos. Outro prepara reuniões. Outro monitora indicadores. Outro ajuda o financeiro. Outro trabalha com marketing. Outro organiza conhecimento interno.

Esses agentes podem conversar entre si, mas não precisam compartilhar os mesmos acessos.

Imagine que a gestão faça uma pergunta sobre quais clientes merecem atenção naquela semana.

Um agente pode consultar indicadores financeiros. Outro pode avaliar processos e prazos. Outro pode analisar tarefas e reuniões recentes. A camada de gestão recebe os resultados consolidados e produz uma visão final.

Nesse desenho, o agente gerencial não precisa necessariamente possuir acesso bruto a todas as informações consultadas pelas outras inteligências.

Isso se aproxima bastante de uma empresa bem organizada. Cada área conhece aquilo que precisa conhecer, executa sua função e compartilha resultados quando necessário.

A arquitetura que eu usaria como ponto de partida

Se eu estivesse desenhando hoje a arquitetura de inteligência artificial de uma empresa ou escritório, começaria pelo conhecimento, classificando os dados existentes e identificando seu grau de sensibilidade.

Depois definiria claramente a função de cada agente, porque uma inteligência sem função definida tende a acumular permissões e responsabilidades.

Na etapa seguinte, estabeleceria os acessos necessários, procurando trabalhar sempre com o menor conjunto de informações e sistemas capaz de permitir a execução da tarefa.

Depois avaliaria a autonomia, separando aquilo que a IA pode fazer sozinha daquilo que precisa de aprovação.

Por fim, definiria supervisão, registro e responsabilidade. Alguém precisa acompanhar o que esses agentes fazem, revisar decisões relevantes e possuir autoridade para ampliar ou reduzir acessos.

Esse desenho é simples o suficiente para começar e estruturado o suficiente para evitar muita improvisação depois.

Um prompt final para revisar toda a arquitetura

Depois que a empresa já tiver alguns agentes em funcionamento, eu faria uma revisão mais ampla.

O prompt poderia ser:

Analise a arquitetura atual de inteligência artificial desta organização considerando agentes, usuários, fontes de dados, integrações, permissões e ações disponíveis.

Para cada agente, explique sua função, quais dados utiliza, quais sistemas acessa, quais ações pode executar e quais decisões dependem de aprovação humana.

Identifique sobreposição desnecessária de acessos entre agentes, permissões excessivas, dados sensíveis disponíveis sem necessidade aparente e situações em que informações brutas poderiam ser substituídas por dados consolidados.

Avalie também o impacto potencial de erro, vazamento, uso indevido ou comprometimento de cada agente.

Ao final, proponha uma arquitetura revisada baseada em especialização, menor privilégio, separação entre consulta e execução, registro das ações e supervisão humana proporcional ao risco.

Esse tipo de revisão pode revelar algo que acontece com frequência em projetos tecnológicos: o sistema começou organizado e cresceu sem que a governança acompanhasse o mesmo ritmo.

Antes de conectar mais alguma coisa, faça uma pergunta simples

Estamos saindo rapidamente da fase em que usar inteligência artificial significava abrir uma janela, escrever uma pergunta e receber uma resposta.

Estamos entrando numa fase em que inteligências artificiais estarão conectadas aos nossos documentos, sistemas, clientes, agendas e processos. Algumas apenas consultarão informações. Outras poderão agir.

É uma mudança grande.

Durante muito tempo, nosso desafio foi ensinar as empresas a registrar conhecimento e impedir que ele ficasse preso na cabeça de algumas pessoas.

Agora surge um desafio adicional: aprender a decidir qual inteligência pode acessar qual parte desse conhecimento e o que ela poderá fazer depois de acessá lo.

Tenho uma convicção crescente sobre isso:

A melhor IA corporativa talvez não seja aquela que sabe tudo. É aquela que sabe exatamente o que precisa saber para fazer bem aquilo que lhe foi confiado.

Antes de adicionar mais uma pasta, mais uma integração, mais um banco de dados ou mais um conector, eu faria uma pergunta bastante simples:

Por que esta IA precisa saber disso?

Se a organização não conseguir responder com clareza, existe uma boa chance de que ela simplesmente não precise saber.

#ForteAbraço

Gustavo Rocha

Deixe uma resposta