Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Superinteligência em setores regulados: conformidade antes da capacidade

Empresas reguladas devem definir conformidade, registros e aprovação humana antes que agentes de IA mais capazes ganhem acesso. Plano de preparação.

Capa tipográfica do Be Human com o título: Superinteligência em setores regulados: conformidade antes da capacidade
Ilustração conceitual criada com IA · Be Human

Superinteligência se refere a uma IA que poderia, com o tempo, superar pessoas na maioria das tarefas cognitivas. Para uma empresa regulada, a pergunta prática não é a velocidade com que isso chega, e sim se as regras de conformidade, os registros e os pontos de aprovação humana estão prontos antes que um agente mais capaz tenha acesso a dados de clientes, dinheiro ou decisões. Conformidade antes da capacidade significa definir quem pode aprovar o quê, que evidências o agente deve deixar e como uma pessoa pode pará-lo, para só então construir o agente dentro desses limites.

Principais pontos

  • Defina regras de aprovação, registro e parada antes de ampliar o que qualquer agente pode fazer.
  • Trate cada agente como um papel definido, com dono nomeado, memória limitada e uma lista curta de ferramentas.
  • Guarde evidências de permissões, decisões e alterações em formato que a equipe de compliance consiga ler sem depender do fornecedor.
  • Exija que uma pessoa nomeada aprove ações que movimentam dinheiro, alteram registros regulados ou falam em nome da empresa sobre decisões.
  • Confirme as obrigações do seu setor e da sua jurisdição com profissionais qualificados. Este artigo é orientação operacional, não aconselhamento jurídico.

Por que a conformidade precisa vir antes da capacidade

Empresas de finanças, saúde, seguros, educação, serviços jurídicos e atendimento ao público já têm o dever de explicar decisões, proteger dados pessoais e mostrar quem respondeu por cada resultado. Um agente mais capaz não elimina esses deveres. Ele amplia a superfície onde um dever pode ser descumprido, porque um agente que lê, redige, decide e age em vários sistemas pode gerar obrigações mais depressa do que uma equipe de revisão consegue acompanhar.

Esperar um agente capaz para escrever as regras significa escrevê-las sob pressão, com o agente já ligado ao trabalho diário. A equipe já terá adotado a ferramenta, gestores já terão pedido exceções e as configurações padrão do fornecedor já terão virado a política de fato. Escrever as regras primeiro dá a você um padrão que o agente precisa cumprir, em vez de um conjunto de decisões tomadas por quem foi mais rápido.

O NIST AI Risk Management Framework ajuda aqui porque trata o risco de IA como trabalho contínuo: governar, mapear, medir e gerenciar. Essas perguntas coincidem com as que um auditor ou regulador fará: para que serve o sistema, quem responde por ele, como ele é testado e como é acompanhado depois do lançamento.

O que muda quando um agente age em vez de responder

Um chatbot que apenas responde perguntas cria sobretudo risco de conteúdo, como uma afirmação errada ou uma frase com dados vazados. Um agente que abre uma caixa de e-mail, altera o cadastro de um cliente, envia uma mensagem ou dispara um pagamento cria risco de ação. O risco de ação exige permissões, registros e caminhos de parada, e exige isso antes do primeiro passo real.

O OWASP Top 10 for LLM Applications aponta riscos que importam quando agentes têm ferramentas, entre eles a injeção de prompt e o excesso de autonomia (excessive agency). O excesso de autonomia descreve um sistema com mais capacidade do que sua tarefa exige. A pergunta útil raramente é se o modelo é capaz o bastante. É se o agente tem mais acesso do que o trabalho dele precisa e se alguém perceberia caso ele usasse esse acesso.

Por isso, o crescimento de capacidade deve ser tratado como pedido de mudança de permissão, e não como motivo para alterar a política antecipadamente. Cada nova habilidade passa pela mesma revisão: o que ela pode tocar, que evidência gera, quem aprova e como é desligada.

Quais registros você precisa antes de o agente entrar em operação

Registros são o que permite mostrar o que aconteceu e por quê. Antes do lançamento, decida o que o agente registra para cada ação: o pedido, as fontes usadas, as chamadas de ferramentas, a saída, quem aprovou, se houve aprovação, e o resultado final. O OpenTelemetry descreve como traces conectam etapas para que um único evento possa ser acompanhado entre componentes. A mesma ideia vale para um agente: um pedido de cliente deve ser rastreável da entrada até a ação.

Registros também contêm dados pessoais, então retenção e anonimização precisam ser definidas junto com o próprio registro. Guardar tudo para sempre não é estratégia de conformidade, e apagar tudo de uma vez impede qualquer investigação. Escreva o prazo de retenção para cada tipo de registro e diga quem pode lê-lo.

Antes do lançamento, seu arquivo de registros deve responder a estas perguntas: - Qual é o dono e a finalidade de cada agente, em um parágrafo simples? - Quais fontes de dados ele pode ler, e quais ele nunca deve tocar? - Quais ferramentas ele pode chamar, e em que nível de permissão para cada uma? - O que é registrado em cada ação, e onde esses registros ficam guardados? - Por quanto tempo logs e memória do agente são mantidos, e quem pode apagá-los mediante pedido? - Quem revisa ações bloqueadas ou com falha, e com que periodicidade?

Onde uma pessoa deve aprovar e onde apenas revisar

Aprovação não é um portão único no fim do fluxo. Ela funciona melhor como níveis ligados às ferramentas. Leituras e rascunhos raramente exigem aprovação. Alterações internas reversíveis talvez só precisem de revisão posterior. Ações que gastam dinheiro, alteram um registro regulado, contatam um cliente sobre uma decisão ou afetam um resultado de saúde, financeiro ou jurídico precisam da aprovação de uma pessoa nomeada antes de serem executadas.

Um guia de decisão simples ajuda a equipe a aplicar os níveis de forma consistente: - Apenas leitura, sem efeito externo: permitido, registrado e amostrado para revisão. - Rascunho para uma pessoa enviar: a pessoa envia, e o agente nunca envia. - Alteração interna de registro que pode ser revertida: o agente age, e o responsável revisa o log do dia. - Mensagem externa, pagamento ou alteração de registro regulado: um aprovador nomeado assina antes da execução. - Qualquer coisa que o agente não consiga classificar: ele para e pergunta.

O desenho da aprovação também deve dizer o que quem assina precisa conferir. Uma assinatura que só confirma que alguém clicou em um botão oferece pouca evidência. Mostre a fonte, a ação proposta e o motivo na tela de aprovação, para que a decisão de quem assina seja informada e registrada. Para um aprofundamento sobre onde as pessoas assinam, veja Aprovação humana para agentes de IA: onde as pessoas assinam.

Como a Be Human trabalha nisso: em um projeto gerenciado, a Be Human define primeiro um papel útil, a memória e as ferramentas de que ele precisa, os limites de aprovação e um critério de sucesso observável, antes que o agente execute qualquer coisa real. Depois, a operação inclui monitoramento, avaliações recorrentes, revisões de permissões e resposta a incidentes, para que as regras sejam testadas contra a atividade real e não fiquem apenas em um documento de política. As mudanças de permissão são feitas em etapas controladas e registradas.

Uma sequência de preparação para equipes reguladas

A sequência a seguir mantém o trabalho pequeno o bastante para ser concluído e gera evidências em cada etapa: - Etapa 1: mapear onde a IA já toca o trabalho, incluindo ferramentas que a equipe adotou sem pedido formal. - Etapa 2: escolher um processo regulado em que um agente poderia economizar esforço, e nomear quem é dono desse processo. - Etapa 3: descrever o papel em uma página: finalidade, entradas, saídas e ações proibidas. - Etapa 4: classificar cada ação que o papel poderia executar nos níveis de aprovação acima. - Etapa 5: definir os registros, os prazos de retenção e o revisor das ações bloqueadas ou com falha. - Etapa 6: montar um caminho de parada e testá-lo com o dono presente, para que todos saibam como pausar o agente sem perder registros ou fila de trabalho. A mecânica está em Botão de parada para agentes de IA: pare ações sem perder logs. - Etapa 7: rodar o agente em modo de rascunho, comparar os resultados com o critério de sucesso e ampliar o acesso apenas em pequenos passos registrados.

Cada etapa produz um documento ou um resultado de teste. Esses artefatos são o que o seu arquivo de conformidade vai precisar, quaisquer que sejam as regras finais.

Cenário ilustrativo: um agente de triagem de sinistros

O cenário a seguir é ilustrativo e não descreve uma empresa real. Uma pequena corretora de seguros quer um agente que classifique e-mails de sinistros por tipo e urgência. Na primeira fase, o agente apenas rotula e resume as mensagens, e um integrante da equipe confere uma amostra por dia. O acesso ao sistema de apólices é somente leitura.

Quando a equipe quiser que o agente pré-preencha os campos do sinistro, as regras exigem que um integrante confirme cada campo antes de salvar, e cada alteração é registrada com um link para o e-mail de origem. Uma proposta para deixar o agente enviar mensagens de confirmação fica bloqueada até que a equipe revise as ações bloqueadas e combine a redação com o consultor de compliance. O agente nunca decide a cobertura. Essa decisão continua com um profissional habilitado, e o registro mostra quem a tomou.

O cenário mostra o padrão: a capacidade cresce apenas onde os controles já existem, e cada ampliação é uma decisão registrada.

Preparar sem fazer afirmações jurídicas

A preparação para conformidade deve descrever controles, não declarar que uma ferramenta é conforme. Evite frases que chamem um sistema de aprovado ou certificado, a menos que você tenha o documento que sustenta a afirmação. Escreva, em vez disso, por onde os dados fluem, quais regras você acredita se aplicar, quem aprova cada ação e que evidências existem. As obrigações variam conforme o setor, o local e o tipo de serviço. Empresas brasileiras devem revisar os deveres de proteção de dados considerando as orientações da autoridade nacional, e os pontos em LGPD e agentes de IA nas empresas: o que verificar antes de usar são um ponto de partida prático. Empresas que atendem usuários na União Europeia devem verificar com um advogado o alcance do AI Act europeu.

Mantenha um único registro que liste cada agente, sua finalidade, seus riscos e seus controles. Um modelo de registro de riscos de IA curto e atualizado permite que quem não é especialista veja o que existe e o que ainda está em aberto, muitas vezes a primeira coisa que um revisor pede.

Os princípios da OCDE para IA oferecem um vocabulário comum para transparência, responsabilidade e supervisão humana, e podem ajudar a liderança a combinar termos antes de discutir ferramentas específicas. Qualquer que seja o referencial, o teste é o mesmo: você consegue mostrar, para cada ação que o agente executou, quem a permitiu, o que ele viu e como ela poderia ter sido interrompida?

Se você não sabe por onde começar com o primeiro agente, faça o diagnóstico gratuito de IA da Be Human para encontrar a primeira tarefa que vale a pena passar para um agente.

Perguntas frequentes

A superinteligência já afeta empresas reguladas hoje? A resposta mais útil é que os agentes atuais já criam as questões de governança que agentes mais capazes tornarão mais difíceis. Permissões, registros, aprovações e caminhos de parada são necessários agora para sistemas que agem sobre dados da empresa. Preparar esses controles cedo evita que a empresa seja obrigada a desenhá-los durante um incidente.

Precisamos esperar que os reguladores publiquem regras antes de definir as nossas? Não. Esperar também tem custo, porque agentes tendem a se espalhar pelos fluxos antes que a política alcance a prática. As regras internas podem ser escritas com base nas obrigações atuais e atualizadas conforme orientações setoriais e leis mudem. Mantenha um registro datado de cada versão, para mostrar o que você sabia e decidiu em cada momento.

Quem deve ser dono das regras de aprovação de IA dentro da empresa? Normalmente, a responsabilidade fica com um executivo nomeado, com participação de compliance, operações e do dono de negócio de cada processo. O executivo responde pela política, enquanto cada dono de processo aprova o papel do agente e as ferramentas que ele usa. Um pequeno comitê com carta de funcionamento por escrito ajuda a manter o arranjo claro.

Uma etapa de aprovação humana basta para tornar um agente seguro? Ela é necessária para ações de alto impacto, mas não é suficiente sozinha. Quem aprova precisa de contexto para decidir, os registros devem mostrar o que foi aprovado e as permissões devem impedir que o agente atue fora do caminho aprovado. A aprovação funciona melhor como uma camada ao lado de acesso limitado, monitoramento e um caminho de parada testado.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →