A IA invadiu um sistema e cancelou a vaga de outra pessoa. O problema não é ficção científica. É governança!
A transformação no uso da Inteligência Artificial (IA) ocorre à medida que agentes, como Claude, começam a executar ações, em vez de apenas responder perguntas. Um exemplo foi Andrew, que usou um agente para conseguir uma vaga em uma aula, levando a um cancelamento indevido de uma reserva de outro usuário. Essa mudança evidencia a necessidade de uma definição mais clara entre objetivos e permissões. No contexto jurídico, a implementação de agentes de IA pode otimizar tarefas, mas deve ser feita com cautela, estabelecendo limites operacionais, garantindo privacidade e supervisão humana nas ações críticas, para proteger dados sensíveis e evitar decisões indevidas.