Você já deve ter visto rodar pela timeline aquela história do chefe que decidia tudo pelo ChatGPT. Saiu numa reportagem do site Futurism e ganhou o mundo em formato de carrossel de Instagram, daqueles que a gente lê no semáforo e comenta no grupo da firma. Vale parar e olhar com calma, porque debaixo da piada tem uma lição muito séria sobre como uma ferramenta boa, usada de qualquer jeito, vira um problema de gestão, de privacidade e até de processo judicial.
A história, em resumo, é a seguinte. Uma advogada que trabalhava numa startup de legaltech contou que o chefe foi ficando cada vez mais dependente da inteligência artificial. Primeiro era inofensivo, ele usava para escrever mensagem no Slack e e-mail. Depois virou regra para todo mundo: ninguém podia levar uma ideia para reunião sem antes “discutir com a IA”. Quem não fazia isso, segundo ele, estava demonstrando que não se importava com o trabalho. Daí a coisa desandou de vez. O sujeito passou a tomar decisão de estrutura da empresa com base no que conversava com o robô, inclusive sobre quem contratar e quem mandar embora.
E aqui entra a parte que mais me chamou a atenção, porque é onde mora o ensinamento prático: os funcionários conseguiam ler as conversas do chefe. Eles ficavam de olho no histórico para saber quem seria promovido e quem seria a próxima vítima. Em um trimestre, a tal advogada teve três cargos diferentes, não por mérito nem por necessidade real, mas porque a IA tinha sugerido outra direção para a empresa naquela semana. Teve até um documento chamado “A Bíblia”, com centenas de páginas geradas por IA, que mudava toda semana e que os funcionários deveriam estudar para então perguntar à máquina o que fazer no dia seguinte.
Dá vontade de rir. Mas presta atenção numa pergunta que quase ninguém faz: como é que os funcionários conseguiam ver as conversas do chefe?
O furo não estava na ferramenta. Estava na conta
Esse é o ponto técnico que o carrossel não explica e que muda tudo. Para várias pessoas conseguirem abrir o histórico de conversas de alguém, em geral só existe uma explicação simples: era a mesma conta. Login compartilhado, senha que roda no escritório, assinatura única que três ou quatro pessoas usam ao mesmo tempo. Quando isso acontece, todo mundo que entra naquela conta enxerga tudo o que foi conversado ali, do primeiro ao último prompt. Não é falha do ChatGPT. É a forma mais antiga de vazamento que existe, que é dividir a chave da gaveta com a sala inteira.
Faz sentido com o que a história sugere, daquelas assinaturas compradas para o escritório e usadas de forma coletiva. A intenção era até vigiar como os funcionários usavam a ferramenta. O resultado foi o oposto: o chefe se expôs sozinho. Cada decisão íntima dele sobre demissão, promoção e rumo do negócio ficou guardada num histórico que qualquer pessoa logada naquela conta abria com dois cliques.
Quem trabalha com gestão sabe que esse tipo de tropeço é mais comum do que parece. O escritório quer economizar, então em vez de pagar uma licença por pessoa, compra uma ou duas e reparte. Funciona até o dia em que funciona contra você.
Como evitar que os outros leiam o que é seu
Vou ser bem direto aqui, porque essa é a dúvida que mais aparece quando converso com escritórios e empresas.
A regra número um é não dividir conta. Assinatura de IA não é Netflix da família. Cada pessoa precisa ter o seu próprio acesso, com seu próprio login e sua própria senha. No momento em que duas pessoas usam a mesma conta, a privacidade simplesmente deixou de existir entre elas, e nenhuma configuração resolve isso. É um problema de arquitetura, não de ajuste fino.
O segundo cuidado é com o recurso de link compartilhado. Tanto o ChatGPT quanto o Claude permitem gerar um link de uma conversa específica para mostrar a um colega. É ótimo para colaborar, mas tem gente que gera o link, manda no grupo e esquece que ele continua ativo. Vale entrar de tempos em tempos nas configurações de dados e revisar quais conversas você deixou compartilhadas, apagando o que não faz mais sentido ficar aberto.
O terceiro ponto é banal e por isso mesmo é o que mais pega: sair da conta em computador compartilhado. Se você logou na máquina da recepção, no notebook que fica na sala de reunião ou no celular corporativo que passa de mão em mão, lembre de fazer logout. O navegador costuma guardar a sessão, e a próxima pessoa que abrir vai cair direto no seu histórico. Já vi isso acontecer em escritório sério, com gente boa, simplesmente por pressa.
Depois vêm os ajustes dentro da própria ferramenta. Você pode controlar o histórico, decidir o que fica gravado e o que não fica. Tem o modo de conversa temporária, que serve para aquele assunto que você não quer que entre no histórico nem na memória. E tem a memória em si, que guarda preferências e fatos sobre você entre uma conversa e outra. Numa conta individual e bem cuidada, essa memória é útil. Numa conta compartilhada, vira um diário aberto. Mais um motivo para não compartilhar.
Por fim, e talvez seja o mais importante de tudo: pense duas vezes antes de jogar dado sensível na ferramenta. Nome de cliente, número de processo, estratégia de uma demissão, valor de um acordo. Se aquilo seria constrangedor numa tela grande na frente de outras pessoas, não digite. A privacidade mais barata é a informação que você decidiu não escrever.
Por que o plano que você assina muda o jogo
Aqui chegamos no licenciamento, que muita gente trata como detalhe de financeiro e que na verdade é decisão de governança. Existe uma diferença enorme entre os tipos de conta, e ela não é só de preço.
Na conta individual, do tipo Plus ou Pro, você está sozinho. Ninguém da empresa vê o que você conversa, porque a conta é sua. O problema é que, nesses planos voltados para pessoa física, os seus dados podem ser usados para treinar os modelos, a menos que você entre nas configurações e desative essa opção. E mesmo desligando o histórico, a OpenAI guarda as conversas por um período, na casa de trinta dias, para fins de monitoramento de abuso, antes de apagar. Ou seja, conta individual é privada em relação ao seu colega, mas não é um cofre.
Quando a empresa sobe para um plano corporativo, hoje chamado de ChatGPT Business, o antigo Team, o contrato muda. Cada usuário tem o seu próprio histórico, separado dos colegas, e os dados do workspace não são usados para treinar os modelos por padrão. Isso já resolve duas das maiores dores. Só que tem um detalhe que quase ninguém lê e que precisa estar claro: nesse plano, o administrador do workspace pode acessar, exportar e apagar as conversas dos usuários. Faz sentido, porque a empresa é a dona do contrato e responde por aquilo. Mas significa que “privado” ali quer dizer privado em relação aos colegas, e não invisível para a empresa.
No degrau de cima, o ChatGPT Enterprise, isso fica ainda mais estruturado. O administrador acessa um registro de auditoria das conversas através de uma interface de compliance, normalmente acionada em situações de litígio, investigação ou auditoria. A empresa controla quanto tempo os dados ficam retidos e pode até chegar a uma configuração de retenção praticamente zero. É o nível que um escritório de advocacia ou uma empresa que lida com dado sensível deveria estar mirando.
Repare no que isso resolve no caso do nosso chefe. Se ele tivesse contratado o plano corporativo certo, com uma licença nominal para cada funcionário, teria conseguido exatamente o que dizia querer, que era acompanhar o uso da equipe, e ao mesmo tempo as conversas dele não estariam abertas para ninguém. O que derrubou a privacidade dele não foi a falta de tecnologia disponível. Foi ter escolhido o caminho mais barato e mais errado, a conta compartilhada, quando a solução adequada existia e estava ali do lado.
É por isso que eu insisto tanto com clientes que a licença corporativa é o que te dá contrato, separação de acessos e controle real sobre os dados. A licença individual repartida entre a equipe economiza alguns reais por mês e cobra a conta inteira na primeira crise.
A LGPD estava na sala o tempo todo
Agora vamos olhar pelo lado jurídico, que é onde a brincadeira fica cara.
Decidir quem promover e quem demitir com base numa conversa de chatbot envolve tratamento de dado pessoal de funcionário. Avaliação de desempenho, histórico, julgamento sobre a vida profissional de alguém. Jogar isso numa ferramenta de IA sem base legal definida e sem um contrato de tratamento de dados com o fornecedor é se expor à LGPD de um jeito que pouca gente percebe na hora.
Tem um ponto específico que merece destaque. A LGPD, no artigo 20, garante ao titular o direito de pedir revisão de decisões tomadas só com base em tratamento automatizado que afetem seus interesses, e isso inclui claramente decisões sobre perfil profissional. Um chefe demitindo alguém porque “o ChatGPT disse que a empresa deveria seguir outra direção naquela semana” é praticamente o exemplo de manual de decisão automatizada mal feita. Se esse funcionário procurar a Justiça do Trabalho, o empregador vai ter dificuldade séria de explicar o critério.
E tem a questão do sigilo, que num escritório de advocacia é ainda mais grave. Quando você coloca dados de um cliente, de um caso, de uma estratégia, dentro de uma conta de IA compartilhada, você não está só arriscando vazamento. Você pode estar quebrando o sigilo profissional que a OAB e a própria lei exigem que você guarde. Não é exagero dizer que esse tipo de descuido dá processo ético, não só processo civil.
Aquele papo com a IA pode virar prova no tribunal
Esse aqui é o ponto que mais assusta quando explico para empresários, e tem um caso real recente que ilustra na veia.
Um CEO de uma empresa de games, a Krafton, se meteu numa disputa de centenas de milhões de dólares e usou o ChatGPT para arquitetar uma estratégia de como escapar de pagar um bônus contratual. O detalhe é que essas conversas viraram peça central no processo nos Estados Unidos. Ele chegou a apagar parte dos registros, o que só piorou a situação dele, porque destruir prova é um problema em cima de outro. O que ficou claro nesse caso é que conversa com IA não tem nada de off the record. É registro escrito, e em disputa judicial a outra parte pode pedir para ver.
Mais do que isso, conversa com IA costuma ser mais reveladora do que e-mail. As pessoas baixam a guarda quando estão “só pensando em voz alta” com o robô, e escrevem coisas que jamais colocariam num documento formal. O chat mostra não só o que a pessoa fez, mas o que ela estava pensando e planejando, passo a passo, com as palavras dela. É o sonho de qualquer advogado da parte contrária.
E vale matar uma ilusão comum: perguntar para uma IA se você pode demitir alguém ou rasgar um contrato não cria sigilo de advogado e cliente. O ChatGPT não é seu advogado. O Claude não é seu advogado. Aquela conversa, na enorme maioria dos casos, não está protegida por nenhum privilégio. Então a regra que eu passo é simples e funciona: antes de digitar um prompt sobre assunto delicado, imagine aquilo aparecendo numa tela grande na frente de um juiz ou de um jornalista. Se você não ficaria confortável, não escreva.
O robô concorda com você, e esse é o perigo
Tem um problema de fundo em todas essas histórias que vai além da técnica. Esses modelos têm uma tendência forte a agradar, a confirmar o que o usuário já quer ouvir. No jargão da área chamam isso de bajulação, e é um comportamento bem documentado, tanto que a própria OpenAI já precisou corrigir num desses casos em atualização.
Olha o estrago que isso faz na mão de um chefe. Ele já está inclinado a demitir o fulano. Pergunta para a IA, que tende a embarcar e dar uma justificativa bonita para a decisão que ele já tinha tomado. Ele sai dali achando que teve uma análise isenta, quando na verdade ouviu um eco do próprio desejo, agora com cara de relatório. Teve um caso na mesma reportagem em que um estrategista de vendas levou ao CEO o que quinze clientes reais tinham dito sobre o produto, e o CEO respondeu que não era aquilo que o ChatGPT ou o Claude tinham apontado. Quinze pessoas de verdade contra um chatbot, e o chatbot ganhou. Decidir assim é escolher quem te dá razão mais rápido e chamar isso de dado.
O que fica de tudo isso
A tecnologia ali não fez nada de errado. Eu trabalho com IA aplicada à advocacia todo dia e tenho convicção de que é uma das melhores ferramentas que já apareceram para quem produz conhecimento. O que quebrou naquela startup foi a gestão. Conta dividida quando deveria ser nominal. Plano de pessoa física quando o caso pedia contrato corporativo. Decisão sobre gente entregue a uma caixa de texto que adora concordar. Dado de cliente e dado de funcionário tratados sem base legal e sem sigilo. Nenhum desses erros é da máquina.
Se eu tivesse que resumir num conselho para quem está estruturando o uso de inteligência artificial no escritório ou na empresa, seria assim: cada pessoa com a sua licença, no plano adequado, com política de uso escrita, com classificação clara do que pode e do que não pode entrar na ferramenta, e com a consciência de que a IA sugere, mas quem decide e quem responde é o gestor. O chefe da história aprendeu essa lição da forma mais constrangedora possível, com a equipe inteira lendo, em tempo real, aquilo que ele imaginava ser sigiloso.
A conclusão é tranquilizadora para quem leva o tema a sério. É plenamente possível extrair o melhor dessa tecnologia sem passar por nenhum desses constrangimentos. Basta tratar a ferramenta com o mesmo rigor que se aplica a qualquer outra decisão relevante do negócio, o que significa escolher o plano certo, definir regras, registrar responsabilidades e manter o discernimento humano no centro do processo.
A reportagem que deu origem a este caso foi publicada pelo site Futurism e pode ser consultada na íntegra neste endereço: https://futurism.com/artificial-intelligence/bosses-obsessed-with-ai
Gustavo Rocha
Consultor em gestão, tecnologia e marketing jurídico
Especialista em Inteligência Artificial aplicada ao Direito e em Privacidade
Professor de Pós-Graduação e coordenador de grupos de estudos na ESA/RS
Membro de comissões da OAB/RS e OAB/SP
Site: http://www.gustavorocha.com | E-mail: gustavo@gustavorocha.com
WhatsApp/Telegram: (51) 98163.3333