Perguntas sobre superinteligência para conselho: o que exigir por escrito

As perguntas mais úteis que um conselho pode fazer sobre superinteligência são práticas. Um conselho que quer que a empresa se sustente à medida que os sistemas de IA ficam mais capazes deve pedir à gestão respostas escritas sobre quem é dono dos dados e do conhecimento da empresa, quais ações um sistema de IA pode executar sozinho, como a empresa pode deixar um fornecedor e como vai enxergar o que esses sistemas realmente fazem. Respostas escritas podem ser conferidas depois, em contratos, registros de permissões e logs, e é isso que as torna valiosas.

Principais pontos

• Peça que cada resposta seja escrita e vincule cada uma a uma cláusula de contrato, a um registro de permissão ou a um log.
• Defina a propriedade dos dados e do conhecimento antes de qualquer agente receber acesso aos sistemas da empresa.
• Declare os limites de aprovação como ações específicas com aprovadores nomeados, e não como intenções gerais.
• Faça com que o direito de saída cubra memória, instruções, permissões e evidências, e não apenas o modelo ou o código.
• Dê ao monitoramento um responsável nomeado, limites combinados e um ritmo fixo de revisão.

Por que as respostas precisam ser escritas

Conselhos costumam receber garantias em uma reunião e descobrem, no trimestre seguinte, que elas perderam força. Uma resposta escrita faz três coisas que uma resposta verbal não faz. Obriga a gestão a nomear um responsável. Cria um documento que pode ser comparado com o que de fato acontece meses depois. E expõe lacunas, porque uma pergunta que não consegue ser respondida por escrito geralmente significa que ninguém tomou a decisão ainda.

O NIST AI Risk Management Framework organiza o trabalho de risco de IA em torno de governança, mapeamento, medição e gestão. As perguntas abaixo seguem a mesma lógica, mas em linguagem de conselho. Não são uma auditoria técnica. Perguntam se a empresa já tomou as decisões que as equipes técnicas terão de implementar depois. As oito perguntas são:

• Quem é dono dos dados, da memória, dos prompts e dos fluxos de trabalho que o agente cria, e a empresa consegue exportar todos eles?
• Quais sistemas o agente pode ler, em quais pode escrever e o que ele nunca toca?
• Quais ações exigem aprovação humana nomeada antes de acontecer, e quem detém essa aprovação?
• Quem pode interromper ou reverter o agente sem pedir ao fornecedor, e com que rapidez consegue fazer isso?
• Se o fornecedor falhar, mudar os termos ou for substituído, o que a empresa consegue levar consigo, e em quanto tempo?
• Como as permissões do agente mudam quando um modelo é atualizado ou uma nova ferramenta é conectada, e quem aprova essa mudança?
• Como as ações do agente são registradas, e quem revisa esses registros com que periodicidade?
• Que evidências mostrariam ao conselho que o agente continua fazendo o trabalho para o qual foi aprovado?

Um conselho que ainda não consegue julgar as respostas técnicas pode, mesmo assim, julgar se cada resposta tem um responsável, um documento e uma data. Empresas que ainda estão estruturando o básico de governança podem achar útil a estrutura leve descrita em Superinteligência empresarial e governança de agentes de IA como ponto de partida.

Perguntas um e dois: dados e conhecimento

A propriedade vem primeiro porque é a pergunta mais respondida por padrão. Os termos padrão de fornecedores podem conceder direitos amplos sobre dados de uso, e o material mais valioso pode estar em lugares que ninguém planejou manter. A forma como a equipe trata exceções, a redação que fecha renovações e as regras de decisão por trás de reembolsos costumam viver em históricos de conversa e arquivos de configuração. O conselho deve pedir à gestão que liste cada categoria de material que o agente cria ou mantém, indique a pessoa responsável por ela e demonstre que a empresa consegue exportá-la em formato utilizável.

A segunda pergunta trata dos limites. Um agente que consegue ler toda a pasta compartilhada da empresa carrega um risco diferente daquele que lê apenas uma pasta de procedimentos aprovados. O OWASP Top 10 for LLM Applications lista a autonomia excessiva e a divulgação indevida de informações sensíveis entre os principais riscos por esse motivo. Peça uma lista curta dos sistemas que o agente lê, uma lista ainda menor dos sistemas em que ele escreve e uma declaração explícita do que ele nunca acessa, como arquivos de pessoal ou resultados financeiros não divulgados.

Perguntas três e quatro: limites de aprovação

Um limite de aprovação só é útil quando nomeia uma ação, um valor de corte e uma pessoa. A frase "o agente deve perguntar antes de fazer algo importante" é uma intenção, não um controle. Um limite utilizável é mais concreto: rascunhos de reembolso acima de um valor combinado são preparados pelo agente e liberados pelo responsável financeiro, mensagens para novos contatos externos só saem depois que o dono da conta as revisa, e alterações em cadastros de clientes são registradas e reversíveis por um prazo declarado.

A quarta pergunta trata de parar o agente. Pergunte quem consegue pausá-lo numa sexta-feira à noite, se essa pessoa precisa da ajuda do fornecedor para fazer isso e como o trabalho em andamento seria tratado. A resposta deve indicar um papel nomeado, um único passo e um procedimento testado pelo menos uma vez. Pausar sem perder o trabalho já concluído é uma disciplina própria, e como interromper um piloto de IA sem desperdiçar o trabalho já feito detalha esse processo.

Perguntas cinco e seis: direito de saída e controle de mudanças

O direito de saída é o tema que conselhos mais costumam pular, porque parece planejamento para o fracasso. Na prática, o custo de deixar um fornecedor é decidido no início. Pergunte se a empresa pode receber suas memórias, arquivos de instruções, definições de ferramentas, matriz de permissões, conjuntos de avaliação e logs em formato legível, e quanto tempo levaria uma transferência. Uma empresa que tem apenas uma exportação específica do fornecedor, com o histórico de conversas, tem menos controle do que imagina. A análise mais detalhada desse risco está em como migrar agentes de IA para outro fornecedor, passo a passo.

A sexta pergunta trata de mudanças. A capacidade tende a se ampliar com atualizações de modelo, novas ferramentas e novos canais, e cada uma dessas coisas pode aumentar o que o agente consegue fazer sem que alguém tenha decidido que ele deveria. Pergunte qual é a regra que envia cada mudança desse tipo para revisão antes de chegar à produção e quem aprova. Se a resposta for que o fornecedor atualiza tudo automaticamente, o conselho encontrou uma lacuna que precisa de um responsável.

Perguntas sete e oito: monitoramento

Registros só são úteis se alguém os lê. Pergunte quem revisa os logs do agente, com que frequência e o que procura: ações que falharam, escalonamentos, volume fora do normal, pedidos fora do escopo aprovado e correções feitas pela equipe. Materiais de observabilidade, como a introdução ao OpenTelemetry, descrevem traços, métricas e logs como sinais básicos de um sistema em operação. Para um agente de negócio, o equivalente prático é um registro do que ele foi solicitado a fazer, do que leu, do que executou e de qual pessoa aprovou cada etapa sensível.

A oitava pergunta pede evidências em vez de confiança. Combine duas ou três medidas compatíveis com o trabalho, como quantas vezes uma pessoa precisou corrigir a saída, quantas vezes o agente deixou de escalar um caso que deveria ter escalado e se alguma ação saiu da lista aprovada. Depois, defina uma revisão recorrente de permissões, para que o acesso seja checado contra o papel atual, e não contra o papel do primeiro mês. Os passos dessa revisão estão em reestruturação da empresa e agentes de IA: donos, permissões e rotas.

Transformando as perguntas em um plano para o primeiro trimestre

Respostas que não podem ser encontradas em um contrato, em um registro de permissão ou em um log ainda não são respostas.

Cenário ilustrativo: um distribuidor de porte médio dá ao seu líder de operações um primeiro agente que redige respostas a dúvidas de fornecedores. O conselho faz as oito perguntas. A gestão descobre que a correspondência com fornecedores fica em um espaço do fornecedor de software sem caminho de exportação testado, que o agente consegue enviar mensagens sem que ninguém as revise e que ninguém lê seus logs. A solução não é uma nova estratégia. É um conjunto curto de mudanças por escrito:

• Escreva as oito respostas em uma única página, com um responsável nomeado para cada uma.
• Anexe a cláusula contratual, o registro de permissão ou o log que sustenta cada resposta.
• Teste uma exportação completa de memória, instruções e logs antes de o agente lidar com correspondência real.
• Ajuste o agente para que ele redija as respostas e um comprador as envie, e registre essa regra na matriz de permissões.
• Coloque na agenda uma revisão mensal de logs e uma revisão trimestral de permissões, com um revisor nomeado para cada uma.
• Peça à gestão que liste qualquer pergunta sem resposta, com prazo, e que a reporte na próxima reunião.

A Be Human projeta e opera infraestrutura de IA personalizada para empresas, então essas perguntas são respondidas durante o desenho, e não descobertas depois do lançamento. Um primeiro projeto define um papel útil, a memória e as ferramentas de que ele precisa, seus limites de aprovação e um critério de sucesso observável. A operação gerenciada cobre, então, monitoramento, avaliações recorrentes, revisão de permissões e mudanças controladas, com os registros guardados em um formato que a empresa consegue apresentar ao seu conselho.

Se sua empresa ainda não tem certeza de qual seria a primeira tarefa certa para entregar a um agente, o diagnóstico gratuito de IA da Be Human pode ajudar a identificá-la.

Perguntas frequentes

O conselho precisa de conhecimento técnico para fazer essas perguntas? Não. Cada pergunta pergunta quem é dono de uma decisão, onde um registro fica ou que evidência existe, e são questões de governança que um conselho consegue avaliar. As equipes técnicas respondem aos detalhes de implementação, mas o conselho pode e deve exigir que cada resposta traga um nome, um documento e uma data de revisão.

Essas perguntas só valem para empresas que constroem seus próprios modelos de IA? Não. A maioria das empresas que usam IA dependerá do modelo de um fornecedor, e os riscos de propriedade dos dados, limites de aprovação, direito de saída e monitoramento se aplicam a elas tanto quanto a quem constrói modelos. Para uma empresa que não desenvolve modelos, a dependência de um fornecedor costuma ser a exposição maior.

O conselho deve esperar a IA avançada ficar mais próxima antes de agir? Não. Os controles que importam para um futuro de superinteligência são os mesmos que importam para sistemas capazes hoje, como responsabilidade clara, acesso limitado, saídas testadas e logs revisados. Construí-los agora significa que a empresa não precisará redesenhar seus arranjos quando os sistemas se tornarem mais capazes.

Quem na gestão deve responder às perguntas por escrito? As respostas devem vir do patrocinador executivo do trabalho com IA, com cada seção preenchida pela pessoa que opera aquela área, como finanças para aprovações ou operações para logs. O conselho deve esperar um único documento, aprovado pelo patrocinador, que liste o responsável e a evidência de cada resposta.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.