Como preparar a empresa para IA superinteligente: o que fazer já

Para preparar a empresa para uma IA muito mais capaz, invista nos ativos que continuam valiosos com qualquer modelo: dados com dono, memória durável, permissões estreitas e auditáveis, e um jeito de testar qualquer agente com o seu próprio trabalho. Esses ativos fazem um modelo mais forte render mais e um modelo mais fraco ficar mais seguro. Nenhum deles exige prever quando, ou se, sistemas superinteligentes vão chegar.

Principais pontos

• Gaste no que é seu e pode ser levado de um modelo para outro: qualidade dos dados, memória, permissões e conjuntos de avaliação. Gaste pouco no que depende das manias de um único modelo.
• Mais capacidade eleva o risco do acesso. Permissões estreitas, registradas e revogáveis importam mais conforme os agentes melhoram, não menos.
• Um conjunto salvo de tarefas reais, com resultados bons já conhecidos, é a forma mais barata de julgar qualquer modelo novo com justiça.
• A memória deve ser um registro de negócio governado, que uma pessoa consiga ler, corrigir e mover, e não um recurso escondido de um fornecedor.
• Comece com uma função útil e um critério de sucesso observável. A amplitude vem depois, quando as bases se sustentarem.

Por que investir em ativos em vez de prever a capacidade?

As previsões sobre a capacidade dos modelos são incertas, e líderes que planejam em torno de uma única previsão costumam errar em uma de duas direções. Alguns esperam um sistema futuro e não fazem nada. Outros compram uma plataforma pesada para uma capacidade que não chega no prazo. Um investimento sem arrependimento evita os dois erros porque compensa em qualquer cenário.

Teste qualquer gasto proposto com três perguntas. Se os modelos melhorarem devagar, isso ainda ajuda no próximo trimestre? Se melhorarem rápido, isso torna a nova capacidade mais segura e mais fácil de usar? Se você trocar de fornecedor, o investimento vai junto? Higiene de dados, desenho de memória, disciplina de permissões e conjuntos de avaliação passam nas três. Um prompt personalizado, ajustado aos hábitos de um modelo, geralmente falha na terceira.

É também por isso que conversa vaga sobre prontidão rende menos do que uma lista curta de ativos concretos. A ideia de camada de superinteligência da empresa defende o mesmo ponto: a parte durável de uma estrutura de IA é a camada em volta do modelo, não o modelo em si.

Quais investimentos em dados mantêm o valor?

Modelos mais capazes não consertam informação desorganizada. Eles a leem mais rápido e agem sobre ela com mais confiança, o que pode tornar um material de origem ruim mais caro, não mais barato. O trabalho com dados que compensa é pouco glamouroso.

• Defina um dono para cada fonte central: preços, políticas, especificações de produto, histórico de clientes, procedimentos. O dono decide o que está atualizado.
• Marque o que é a fonte oficial. Quando dois documentos divergem, o agente e a pessoa precisam saber qual prevalece.
• Aposente o material desatualizado. Uma política antiga que continua em uma pasta compartilhada é uma resposta errada em potencial.
• Classifique por sensibilidade. Saiba quais registros têm dados pessoais, financeiros ou contratuais antes que qualquer agente possa chegar a eles.
• Mantenha as fontes em formatos que você controla, com caminhos de exportação, para que uma troca de ferramenta não deixe nada preso.

O desenho da recuperação de informação também conta. A maioria dos agentes de negócio funciona melhor quando consulta as informações atuais da empresa no momento da tarefa, em vez de ter esse conhecimento embutido no modelo. A comparação da AWS entre recuperação de informação (RAG) e ajuste fino (fine-tuning) explica o equilíbrio entre as duas abordagens, e a conclusão prática para a maioria das empresas é manter o conhecimento em fontes que você possa editar, não em um modelo que você não consegue inspecionar.

O que um agente deve lembrar e onde a memória deve ficar?

A memória é o que transforma um modelo capaz em um colega que conhece o seu negócio. É também o ativo com maior chance de ficar preso a um fornecedor por acidente. Decida cedo o que o agente deve lembrar, quem pode ler isso e como isso se move.

Separe três tipos de memória, porque têm donos e riscos diferentes:

• Contexto permanente: quem é a empresa, como ela se comunica, o que nunca faz, as funções e os caminhos de escalonamento. Muda pouco e deve ser escrito por pessoas.
• Conhecimento de trabalho: fatos aprendidos durante as tarefas, como a preferência de um cliente ou uma exceção de fornecedor. Precisa de revisão antes de virar permanente.
• Histórico de tarefas: o que foi pedido, o que foi feito, o que foi aprovado. É a sua trilha de auditoria e a matéria-prima da avaliação.

O material da Anthropic sobre engenharia de contexto para agentes é útil para entender o princípio de fundo: um agente rende mais quando recebe a informação certa no momento certo, e não tudo de uma vez. Um modelo mais forte se beneficia ainda mais de uma memória bem organizada, porque consegue aproveitar nuances que um modelo mais fraco ignoraria.

Dois hábitos mantêm a memória confiável. Primeiro, deixe-a legível por uma pessoa não técnica, para que um gestor veja o que o agente considera verdadeiro e corrija. Segundo, faça backup e teste a restauração, para que uma migração que deu errado ou uma troca de modelo não apague meses de contexto acumulado. Se a memória existe apenas em um formato proprietário, você criou uma dependência, não um ativo. O guia sobre como migrar agentes de IA para outro fornecedor trata do lado contratual e de arquitetura desse tema.

Como definir permissões para que um modelo mais forte não seja um risco maior?

Um agente mais capaz consegue fazer mais com o mesmo acesso. Esse é o benefício, e também a exposição. A jogada sem arrependimento é estreitar o acesso agora, para que o crescimento da capacidade seja acompanhado por um crescimento deliberado das permissões, nunca por padrão.

Aplique a cada identidade de agente o princípio do menor privilégio, descrito no guia de autorização da OWASP:

• Dê a cada agente sua própria identidade, nunca um login pessoal compartilhado.
• Conceda acesso por ferramenta e por ação: ler, redigir, enviar, alterar e apagar são permissões diferentes.
• Exija aprovação humana para ações que gastam dinheiro, contatam clientes de forma nova, alteram registros de valor ou são difíceis de desfazer.
• Registre cada ação com detalhe suficiente para reconstruir o que aconteceu e por quê.
• Torne a revogação rápida e ensaiada. Se você não consegue desligar um agente em minutos, a permissão está ampla demais.

Trate o conteúdo que o agente lê como entrada não confiável. Um modelo mais forte não está imune a instruções escondidas em um e-mail ou em uma página da web, e o material da OWASP sobre injeção de prompt é um bom checklist para separar o que o agente lê do que ele tem permissão de fazer.

As permissões se desviam conforme funções e ferramentas mudam, então revise-as em um calendário fixo. A revisão trimestral de IA na empresa mostra os passos e as evidências a guardar.

Como avaliar um modelo que você ainda não conhece?

O mais valioso que você pode ter antes de um novo modelo chegar é um jeito de julgá-lo. As demonstrações de fornecedores mostram o modelo no seu melhor. O seu próprio conjunto de avaliação mostra o modelo no seu trabalho.

Monte o conjunto a partir de tarefas reais:

• Reúna um número modesto de pedidos representativos da função que o agente ocupa, incluindo os difíceis: pedidos ambíguos, informação faltando, fontes em conflito.
• Registre em linguagem simples como é um bom resultado, de acordo com a pessoa responsável pelo trabalho.
• Inclua casos em que o comportamento correto é parar e perguntar a uma pessoa.
• Acrescente ao conjunto cada falha real depois de corrigida, para que o mesmo erro seja pego na próxima vez.

Avalie por resultados que importam para o negócio, não pelo quanto a resposta parece impressionante. O artigo da Anthropic sobre avaliação de agentes é uma referência prática para estruturar esse trabalho. Para o lado de negócio, ou seja, definir o que conta como sucesso, veja avaliação de desempenho de agente de IA: metas, evidências e ajustes.

Cenário ilustrativo: uma distribuidora tem um agente que redige respostas a avisos de atraso de fornecedores. Quando um modelo novo fica disponível, a líder de operações não lê anúncios. Ela passa o conjunto salvo de avisos anteriores pelos dois modelos e compara os rascunhos com as respostas aprovadas. O modelo novo lida melhor com os avisos ambíguos, mas muda o tom para um tipo importante de fornecedor e, de vez em quando, promete uma data de entrega que não tem como saber. Ela adota o modelo novo com uma regra adicionada ao contexto permanente e um novo caso de teste para o problema da data. A decisão levou uma revisão curta, não um debate.

Qual é uma ordem sensata de trabalho?

As bases dependem umas das outras, então a sequência importa. Este plano serve a uma empresa de médio porte e parte de uma única função de agente.

• Passo um: escolha uma função. Defina o trabalho, quem é o responsável e um critério de sucesso que alguém consiga observar sem ferramentas especiais.
• Passo dois: faça o inventário das fontes de que essa função depende. Defina um dono para cada uma, marque a versão oficial e remova o que está desatualizado.
• Passo três: classifique a sensibilidade. Decida o que o agente nunca pode ver e o que pode ver apenas em tarefas específicas.
• Passo quatro: escreva o contexto permanente. Coloque o tom de voz da empresa, os limites, os caminhos de escalonamento e as regras de aprovação em um documento que um gestor consiga ler.
• Passo cinco: defina permissões por ferramenta e por ação. Comece com ler e redigir, e acrescente ações somente quando as evidências sustentarem.
• Passo seis: monte o conjunto de avaliação com trabalho real do passado e rode-o antes do lançamento, e de novo após qualquer mudança de modelo, prompt, ferramenta ou fonte.
• Passo sete: ative o registro de ações e combine um ritmo de revisão para incidentes, permissões e correções de memória.
• Passo oito: teste uma restauração e uma troca de modelo enquanto o risco é baixo, para que a primeira vez que você fizer qualquer uma das duas não seja numa emergência.

Se o trabalho parecer grande, lembre que boa parte dele é escrever as coisas e atribuir donos. Os marcos de decisão em por que pilotos de IA não saem do papel e como levá-los à produção ajudam a decidir quando ampliar o escopo. O NIST AI Risk Management Framework oferece um vocabulário neutro caso você precise explicar a governança a um conselho ou a uma seguradora.

O que a abordagem gerenciada da Be Human faz com isso?

A Be Human projeta, implementa e opera infraestrutura de IA em torno desses mesmos ativos. Um primeiro projeto define uma função útil, a memória e as ferramentas de que ela precisa, os limites de aprovação e um critério de sucesso observável. Depois disso, a operação gerenciada pode incluir monitoramento, avaliações recorrentes, manutenção de integrações, revisão de permissões, resposta a incidentes e melhorias controladas. Quando surge um modelo novo, ele é testado com o conjunto de avaliação do próprio cliente antes de substituir qualquer coisa, e a empresa mantém o controle da sua memória, dos seus dados e das suas permissões o tempo todo. O atendimento é remoto, em português e inglês.

Perguntas frequentes

Precisamos esperar a IA superinteligente para começar? Não. Os investimentos deste artigo são úteis com os modelos de hoje e ficam mais valiosos conforme a capacidade cresce. Esperar costuma apenas atrasar o trabalho lento de limpar fontes, definir donos e montar conjuntos de avaliação.

Qual investimento deve vir primeiro? Comece com a definição escrita de uma função e de como você vai saber que ela está funcionando. Sem isso, o trabalho com dados e permissões não tem alvo. Com isso, os demais investimentos ficam fáceis de priorizar.

Devemos escolher um fornecedor de modelo agora ou manter flexibilidade? Escolha o que funciona para a função hoje, mas mantenha memória, dados e conjuntos de avaliação em formatos que você controla. Assim, trocar de fornecedor vira um teste e uma migração, não uma reconstrução. Usar mais de um modelo também pode ser razoável quando as tarefas são diferentes.

Com que frequência devemos revisar essas bases? Revise permissões e memória em um calendário regular e rode de novo o conjunto de avaliação sempre que um modelo, uma ferramenta ou uma fonte importante mudar. Revise a definição da função quando o próprio trabalho mudar. Um ritmo curto e constante rende mais do que um grande projeto ocasional.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.