Glossário de superinteligência: AGI, ASI, alinhamento e agentes

Um glossário de superinteligência é uma lista curta de termos que separa o que a IA faz hoje do que as pessoas preveem que ela poderá fazer mais adiante. AGI costuma significar uma IA que se iguala a pessoas capazes na maior parte do trabalho intelectual. ASI significa uma IA que claramente as supera. Alinhamento significa fazer um sistema perseguir os objetivos que seus operadores realmente pretendem. Agente é um software que usa um modelo para executar ações com ferramentas. Líderes que dominam essas quatro definições conseguem acompanhar o debate e fazer perguntas mais precisas a quem vende, prevê ou regula qualquer um desses temas.

Principais pontos

• AGI e ASI não têm uma definição única e aceita por todos. Por isso, a primeira pergunta em qualquer conversa é qual definição a pessoa está usando.
• AGI trata sobretudo de amplitude (vários tipos de trabalho), enquanto ASI trata de nível (além dos melhores humanos). Nenhuma das duas é um produto que você possa comprar e instalar hoje.
• Alinhamento tem um sentido de pesquisa e um sentido operacional. Para uma empresa, significa que o agente age dentro dos objetivos, dos dados e das permissões que você definiu, e para quando mandam parar.
• Agente é o termo que mais importa para decisões que você pode tomar agora, porque descreve um sistema que age, e não apenas responde.
• Uma boa forma de questionar qualquer afirmação ousada é pedir evidências, limites e um jeito de interromper, nessa ordem.

O que significam AGI, ASI e superinteligência?

A maior parte da confusão neste assunto vem de palavras que soam como medidas, mas não são. Nenhum dos termos abaixo tem definição padrão. Trate-os como definições de trabalho e peça que as pessoas declarem a delas.

• IA estreita: sistema criado ou ajustado para uma tarefa específica, como classificar documentos que chegam ou redigir respostas para dúvidas de rotina.
• Modelo de fundação ou modelo de fronteira: modelo grande, de uso geral, treinado com dados amplos. Muitos produtos e agentes são construídos sobre um deles.
• AGI (inteligência artificial geral): IA capaz de realizar a maior parte das tarefas intelectuais que uma pessoa capaz realiza, em vários domínios, sem ser refeita para cada tarefa.
• ASI (superinteligência artificial): IA que claramente supera o melhor desempenho humano na maior parte do trabalho intelectual, incluindo pesquisa, estratégia e engenharia.
• Superinteligência: a ideia geral de uma inteligência muito além da capacidade humana. Pesquisadores costumam usá-la como sinônimo de ASI. O marketing às vezes a usa de forma solta para qualquer sistema muito capaz, e é aí que começam os problemas.
• Autoaperfeiçoamento recursivo, ou decolagem: hipótese de que uma IA capaz poderia ajudar a melhorar o próprio projeto, acelerando o progresso. Se isso acontece, e com que velocidade, é motivo de debate.
• Singularidade: ponto hipotético a partir do qual a mudança se torna difícil de prever. Está mais perto de uma metáfora do que de um termo de engenharia.

Note o que esses termos têm em comum. AGI e ASI são limiares de capacidade, e as pessoas discordam sobre onde ficam esses limiares e como testá-los. Alguém pode dizer que os sistemas atuais já atendem a uma versão frouxa de AGI, enquanto outra pessoa afirma que AGI exige desempenho confiável em trabalho aberto por longos períodos. As duas podem ser sinceras.

Para uma empresa, o movimento útil é separar o debate sobre limiares da pergunta operacional. Você não precisa resolver quando a AGI chega para decidir se um agente de IA deve atender consultas de fornecedores no próximo trimestre. O artigo sobre superinteligência e vantagem competitiva aprofunda essa separação.

O que é alinhamento e por que importa fora de um laboratório?

Na pesquisa, alinhamento é o problema de fazer sistemas de IA perseguirem os objetivos e valores que seus criadores e usuários pretendem, inclusive quando o sistema é mais capaz do que as pessoas que o supervisionam. Alguns termos vizinhos acompanham esse conceito:

• Interpretabilidade: métodos para entender o que acontece dentro de um modelo, em vez de observar apenas suas respostas.
• Supervisão: capacidade de os humanos revisarem, corrigirem e, se preciso, interromperem um sistema.
• Corrigibilidade: disposição de um sistema de aceitar correção ou desligamento em vez de resistir a eles.
• Robustez: comportar-se de forma sensata quando as entradas são incomuns, hostis ou estão fora do que foi testado.

O sentido operacional para uma empresa é menor, mas real. Uma instrução e uma intenção raramente são a mesma coisa. Se você pede a um agente que reduza o número de chamados de suporte em aberto, ele pode fechar chamados que não foram resolvidos. Ninguém agiu de má-fé. O objetivo foi especificado de um modo que uma leitura literal consegue cumprir sem entregar o que você queria. Pesquisadores estudam uma versão em larga escala dessa lacuna, e você encontra uma versão em pequena escala na primeira vez que um agente otimiza a métrica errada.

O alinhamento operacional se resume, portanto, a escolhas concretas: para que serve o agente, quais dados ele pode ler, quais ações pode executar, quais ações exigem aprovação de uma pessoa e como você perceberia um desvio. O NIST AI Risk Management Framework é uma referência respeitada para organizar esse trabalho em torno de governar, mapear, medir e gerenciar o risco de IA. O OWASP Top 10 para aplicações com LLMs lista modos de falha específicos, entre eles a injeção de prompt e a agência excessiva (um agente com mais poder do que a tarefa exige). Para transformar isso em regras da empresa de forma leve, veja superinteligência empresarial e governança de agentes de IA.

O que é um agente de IA e qual a diferença para um modelo ou um chatbot?

Três palavras costumam ser usadas como se fossem uma só.

• Modelo: o sistema treinado que gera uma saída a partir de uma entrada. Ele não conhece a sua empresa, a menos que algo forneça essa informação.
• Assistente ou chatbot: interface em que uma pessoa pergunta e um modelo responde. Quem age é a pessoa.
• Agente: um modelo trabalhando em ciclo, com instruções, memória e ferramentas, capaz de dar vários passos rumo a um objetivo, como ler uma solicitação, consultar um registro, redigir uma resposta e registrar o resultado.

O guia de engenharia da Anthropic sobre como construir agentes eficazes traz uma distinção que vale emprestar. Fluxos de trabalho seguem caminhos definidos antes, em código, enquanto agentes deixam o modelo decidir os próprios passos e o uso das ferramentas. O guia também recomenda começar pela abordagem mais simples que funcione, o que é um bom conselho para qualquer comprador. Muitas necessidades de negócio são mais bem atendidas por um fluxo restrito do que por um agente aberto. Para uma versão mais completa e em linguagem simples, leia sobre os tipos de agentes de IA para empresas.

Autonomia é um botão giratório, não um interruptor. Quatro posições ajudam a descrever o que um agente pode fazer:

• Sugere: o agente prepara um rascunho ou uma recomendação e uma pessoa faz todo o resto.
• Age após aprovação: o agente executa a ação depois que uma pessoa nomeada confirma.
• Age dentro de limites: o agente age sozinho dentro de fronteiras definidas e informa o que fez.
• Age de forma ampla: o agente escolhe os próprios passos entre vários sistemas, com pouca revisão. Poucas funções de negócio justificam essa posição hoje.

A maioria das implantações responsáveis começa na primeira ou na segunda posição e só avança quando as evidências sustentam. Isso é alinhamento na prática: a autonomia acompanha a confiabilidade demonstrada.

Quais termos de apoio você vai ouvir em seguida?

Quando os agentes entram na conversa, chega uma segunda camada de vocabulário. Estes são os termos que vale conhecer.

• Janela de contexto: quantidade de texto que um modelo consegue considerar de uma vez. É espaço de trabalho, não memória de longo prazo.
• Memória: informação que um agente consegue recuperar entre sessões, como políticas, preferências e decisões passadas. Alguém precisa decidir o que é guardado, quem pode editar e quando expira.
• Geração aumentada por recuperação (RAG): buscar documentos relevantes da empresa no momento da solicitação e entregá-los ao modelo. A orientação da AWS que compara recuperação e ajuste fino é uma explicação neutra e boa sobre quando cada um se encaixa.
• Ajuste fino (fine-tuning): treinar mais um modelo com exemplos para mudar seu comportamento ou estilo. É mais lento de alterar do que a recuperação e não substitui o acesso a fatos atuais.
• Harness: o código e as regras ao redor de um modelo, que gerenciam ferramentas, memória, novas tentativas e limites. Boa parte do comportamento real de um agente está aqui, e não no modelo.
• Evals (avaliações): testes repetíveis que medem se um agente faz o trabalho corretamente. A Anthropic e a OpenAI publicam orientações práticas para criá-los.
• Guardrails (barreiras de proteção): verificações que bloqueiam ou sinalizam ações fora da política, como gastar acima de um limite ou enviar dados ao destino errado.
• Humano no circuito: uma pessoa revisa ou aprova etapas específicas. Pergunte quais etapas, quem é a pessoa e o que acontece se ela estiver indisponível.
• Injeção de prompt: texto escondido em um documento ou página da web que tenta redirecionar um agente. Importa sempre que o agente lê conteúdo que você não controla.
• Model Context Protocol (MCP): padrão aberto para conectar modelos a ferramentas e fontes de dados, de modo que as integrações dependam menos de um único fornecedor.

Nenhum desses termos exige profundidade técnica de você. Eles exigem que alguém na organização consiga explicar, em uma frase, como cada um se aplica ao agente que você está considerando.

Como questionar uma promessa de superinteligência em uma reunião?

As afirmações sobre superinteligência costumam chegar de três formas: uma previsão, uma proposta comercial ou uma preocupação de política pública. Cada uma merece uma resposta diferente, mas a mesma lista serve para todas. Use-a como guia de decisão.

• Pergunte qual definição de AGI ou ASI está sendo usada e se ela pode ser testada.
• Pergunte se a afirmação trata de algo que existe hoje, de algo em laboratório ou de algo esperado para depois.
• Pergunte quais evidências a sustentam e se vêm de um contexto parecido com o do seu negócio.
• Pergunte o que o sistema pode fazer sozinho e o que exige aprovação de uma pessoa.
• Pergunte a quais dados e sistemas ele tem acesso e quem revisa esse acesso periodicamente.
• Pergunte como um erro seria detectado e com que rapidez o sistema pode ser pausado.
• Pergunte o que acontece com seus dados, sua configuração e o conhecimento acumulado se você trocar de fornecedor ou de modelo.
• Pergunte como seria a afirmação se estivesse errada e o que você observaria.

A última pergunta é a mais reveladora. Uma afirmação que não pode estar errada de nenhuma forma observável é uma crença, não um resultado. Seja justo nesse ponto: previsões ainda podem ser valiosas como cenários para planejar, mas não devem entrar no preço de uma compra como se fossem capacidade já entregue. Para um tratamento mais profundo voltado a compras, veja o checklist para líderes sobre o exagero em torno da superinteligência.

Como isso aparece em uma conversa real?

Cenário ilustrativo: a diretoria se reúne para discutir IA. O diretor de operações diz que a empresa precisa de uma estratégia de AGI. O responsável por TI diz que um fornecedor descreveu seu produto como alinhado e quase superinteligente. A líder financeira quer saber o que deve aprovar.

Um bom facilitador traduz antes de decidir. A estratégia de AGI vira uma pergunta sobre como a empresa vai absorver modelos mais capazes à medida que surgirem, o que é uma questão de arquitetura e governança, não de data. O produto alinhado e quase superinteligente vira um pedido para o fornecedor declarar o que o agente pode fazer, o que ele não pode fazer sem aprovação e como é testado. A pergunta da líder financeira vira uma decisão mais estreita: qual função específica vale um agente agora e o que contaria como sucesso.

Ao final, o time trocou três palavras abstratas por uma decisão delimitada, uma lista de limites e um resultado mensurável. Nada sobre o futuro foi resolvido, e nada precisava ser. A empresa simplesmente deixou de dar atenção ao vocabulário mais barulhento e passou a dar atenção ao próprio trabalho.

Como a Be Human trata esses termos na prática?

A Be Human projeta, implementa e opera infraestrutura de IA personalizada, e trata o glossário como um conjunto de decisões operacionais. Um primeiro projeto define uma função útil, a memória e as ferramentas de que ela precisa, os limites de aprovação e um critério de sucesso observável. A operação gerenciada pode então incluir monitoramento, avaliações recorrentes, manutenção de integrações, revisão de permissões, resposta a incidentes e melhorias controladas, com a empresa mantendo o controle da identidade, dos dados e das permissões do agente. Quando um modelo mais capaz fica disponível, ele é adotado pelas mesmas etapas de avaliação e aprovação, e não por padrão.

Perguntas frequentes

AGI é o mesmo que superinteligência? Não. AGI costuma descrever uma IA que se iguala a pessoas capazes em vários tipos de trabalho, enquanto superinteligência descreve uma IA que vai claramente além delas. Alguns autores tratam a AGI como uma etapa a caminho da superinteligência, e outros usam as palavras de forma solta, então confirme a definição a cada conversa.

Alguém já construiu uma AGI? Os especialistas discordam porque usam definições diferentes. Alguns argumentam que os sistemas mais capazes de hoje atendem a versões frouxas do termo, e outros dizem que ainda falta desempenho confiável em trabalho aberto. Para o seu planejamento, o teste mais útil é saber se um sistema executa uma tarefa específica com confiabilidade nas suas condições.

Empresas pequenas e médias precisam se preocupar com alinhamento? Sim, na forma operacional. Qualquer agente que lê dados da empresa ou executa ações precisa de objetivos claros, permissões limitadas, pontos de aprovação e um jeito de ser pausado. Você não precisa acompanhar o debate de pesquisa para fazer isso, mas precisa de alguém responsável.

O que fazer primeiro se o conselho perguntar sobre superinteligência? Combine as definições e depois leve a conversa para uma decisão delimitada. Escolha uma função em que um agente poderia ajudar, defina o que ele pode fazer sozinho, decida como o sucesso será observado e revise o resultado antes de ampliar. Mantenha os cenários de longo prazo na pauta como subsídio de planejamento, e não como justificativa de compra.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.