Assistente de IA para psicólogos: agenda sem risco à privacidade

Um assistente de IA para psicólogos é mais seguro e mais útil quando fica restrito à agenda e à administração do consultório: marcar, remarcar, enviar lembretes, gerir lista de espera e encaminhar mensagens a uma pessoa. Ele nunca deve participar de conteúdo clínico, como avaliar risco, resumir sessões ou orientar pacientes. A privacidade vem do que o agente pode ver, guardar e dizer, e isso você define no desenho do projeto e confere em intervalos regulares.

Principais pontos

• Mantenha o agente na administração. O papel dele é a agenda e a caixa de entrada, não o consultório.
• O fato de alguém ser paciente já é uma informação sensível. Por isso, lembretes, títulos de agenda e recados de voz precisam de texto neutro.
• Dê ao agente o menor acesso possível para fazer o trabalho: disponibilidade, preferências de contato e status do agendamento, nunca anotações ou diagnósticos.
• Escreva um texto fixo, aprovado pelo psicólogo, para mensagens urgentes e encaminhe-as de imediato a uma pessoa, sem que o agente avalie o risco.
• Teste os limites com casos realistas antes de entrar no ar e revise permissões e registros com uma rotina definida.

O que um assistente de IA para psicólogos deve fazer na prática?

A forma mais confiável de colocar um agente no consultório é tratá-lo como uma nova função de recepção, com uma descrição de cargo enxuta. A maioria dos psicólogos, principalmente em consultórios individuais ou pequenos grupos, perde bastante tempo não remunerado com coordenação: idas e vindas sobre horários, cancelamentos de última hora, fichas de admissão que não voltaram preenchidas e perguntas sobre valores ou endereço que têm a mesma resposta toda semana. Essas tarefas são repetitivas, seguem regras e têm pouco conteúdo clínico, que é exatamente onde um agente ajuda.

Um escopo sensato é este:

• Oferecer horários livres da agenda real do profissional e marcar o que o paciente escolher.
• Remarcar e cancelar de acordo com a política escrita do consultório, registrando a mudança.
• Enviar lembretes em formato neutro, previamente aceito pelo paciente.
• Gerir uma lista de espera e oferecer o horário liberado ao próximo da fila.
• Responder dúvidas de logística: endereço, estacionamento, link da sessão online, horário de funcionamento, forma de pagamento.
• Cobrar pendências administrativas, como termo de consentimento assinado ou questionário de admissão devolvido, sem ler o conteúdo.
• Passar qualquer outro assunto a uma pessoa nomeada, com a mensagem intacta e uma nota curta explicando o motivo do encaminhamento.

Repare no que a lista tem em comum: cada item pode ser conferido contra uma política que você já tem. Se o consultório não tem uma regra escrita de cancelamento, o agente não pode inventar uma. Escrever essa regra já é o primeiro resultado útil do projeto, mesmo que você não automatize nada. Se quiser um modelo para transformar um ajudante vago em uma função definida, vale seguir a lógica de escrever uma descrição de cargo para o seu primeiro agente de IA.

O que o agente nunca deve fazer?

O limite importa mais que a lista de funções. Em um consultório de psicologia, o agente não deve:

• Interpretar ou responder a conteúdo clínico, incluindo sintomas, medicação, relacionamentos ou sofrimento.
• Avaliar risco, decidir se uma mensagem é uma emergência ou tranquilizar o paciente.
• Ler, resumir ou redigir anotações de sessão, laudos ou planos de tratamento.
• Acessar o prontuário, resultados de testes ou informações diagnósticas.
• Decidir sobre exceções de valores, regras de cancelamento ou frequência do atendimento sem aprovação.
• Confirmar ou negar a um terceiro (pai, mãe, cônjuge, empregador ou operadora) que alguém é paciente.

O último ponto merece atenção. Quem liga dizendo ser o cônjuge e pergunta se há consulta marcada está pedindo que o consultório revele que uma pessoa recebe cuidado. Uma recepcionista experiente sabe responder que o consultório não pode confirmar nada. O agente precisa da mesma regra, escrita nas instruções e testada, porque um sistema simpático e prestativo tentará ajudar se ninguém disser o contrário.

Há uma segunda razão para uma linha firme: mensagens de agendamento muitas vezes carregam conteúdo clínico sem querer. Um paciente que pede para mudar a consulta de quinta-feira pode acrescentar que teve uma semana terrível. O agente deve tratar a logística, não entrar no assunto revelado e sinalizar a mensagem ao psicólogo quando as regras do consultório assim determinarem. Clínicas que cuidam de cadastro e acompanhamento enfrentam questões parecidas, tratadas em agentes de IA para clínicas, mas um consultório de psicologia deve traçar o limite com mais rigor, porque a simples existência de uma consulta pode revelar muito.

Por que os dados de agenda são sensíveis em um consultório de psicologia?

Em muitos negócios, um compromisso na agenda é inofensivo. Em um consultório de psicologia, é informação sobre a saúde de alguém. O horário, o nome do profissional, o nome do consultório e até o padrão de horários semanais fixos podem dizer a quem lê algo que o paciente talvez não tenha contado a ninguém. Por isso a agenda merece um desenho de privacidade, e não uma configuração padrão.

Lugares comuns onde dados administrativos vazam sem que ninguém queira:

• Lembretes por mensagem ou e-mail que citam o consultório, o profissional ou o tipo de serviço e aparecem na tela bloqueada do celular.
• Convites de agenda que caem em um calendário familiar compartilhado ou em uma conta gerida pelo empregador.
• Recados deixados em um telefone compartilhado ou mensagens enviadas a um número que o paciente não controla mais.
• Links de sessão online encaminhados ou abertos em um aparelho compartilhado.
• Registros da equipe ou do agente que guardam o texto completo das mensagens por mais tempo que o necessário.
• Caixas de entrada compartilhadas entre várias pessoas, em que todos veem todas as conversas.

A resposta de projeto é minimizar dados e usar padrões neutros. Um lembrete pode dizer que há um compromisso em determinado horário e oferecer uma opção de resposta, sem nomear o serviço. O paciente escolhe o canal e confirma que ele é privado. Os títulos da agenda podem usar iniciais ou um código. O agente guarda o que precisa para marcar e lembrar, e nada além disso.

Quais limites de privacidade definir para o agente?

Antes de conectar qualquer coisa, defina os limites por escrito. Esta lista funciona como um guia de decisão, uma pergunta de cada vez:

• O que o agente pode ler? Limite a disponibilidade, o status do agendamento, as preferências de contato e os documentos de política. Mantenha o prontuário em um sistema separado, fora do alcance do agente.
• O que o agente pode alterar? Permita marcar, remarcar e cancelar dentro da política. Exija aprovação para qualquer coisa que envolva valores, exceções ou troca de profissional.
• Com quem o agente pode falar? Apenas com o paciente verificado, pelos canais que ele aceitou. Qualquer terceiro recebe uma mensagem fixa dizendo que o consultório não pode confirmar nem discutir nada.
• Como ele verifica a identidade? Use as mesmas checagens da recepção, como conferir o telefone cadastrado ou uma confirmação por e-mail, antes de falar sobre uma consulta.
• O que ele guarda e por quanto tempo? Mantenha os registros de conversa só pelo tempo que o consultório precisar para operação e auditoria, e garanta que não sejam usados para treinar o modelo de ninguém.
• Qual é o texto neutro? Combine modelos para lembretes, recados de voz e títulos de agenda, e faça o agente usar somente esses.
• Quem é a pessoa por trás dele? Nomeie quem recebe os encaminhamentos e revisa as exceções, com um substituto para ausências.

As perguntas de acesso seguem um princípio consolidado: conceder as permissões mínimas necessárias e negar todo o resto por padrão. O guia de autorização da OWASP (Authorization Cheat Sheet) trata disso em termos técnicos, e o princípio se aplica diretamente ao que o agente pode ler e alterar.

Trate também toda mensagem recebida como entrada não confiável. Alguém pode escrever um texto que tente fazer o agente revelar uma agenda ou ignorar suas regras, e a lista OWASP Top 10 para aplicações com LLMs descreve esse tipo de risco. A defesa prática não é um comando engenhoso. É a limitação de permissões, para que mesmo um agente manipulado não consiga ver o que não deve.

Por fim, decida como vai avisar os pacientes de que estão falando com um agente. Pacientes de um psicólogo esperam, com razão, saber quem lida com suas informações, e a pergunta é se você deve avisar o cliente de que ele fala com um agente de IA. Para esse tipo de consultório, uma frase clara no primeiro contato é a escolha mais tranquila, junto com um caminho visível para falar com uma pessoa.

Como o agente deve reagir a uma mensagem que parece urgente?

Este é o caso que exige o desenho mais cuidadoso, porque o custo de errar é alto e o agente é a ferramenta errada para julgar a situação. O agente não deve decidir se uma mensagem é uma crise. Ele deve reconhecer que a mensagem contém algo além de logística, responder com um texto fixo e escalar para uma pessoa imediatamente.

O texto fixo é escrito pelo psicólogo, não pelo fornecedor. Em geral, ele reconhece a mensagem, diz que alguém do consultório vai vê-la e indica o número de emergência local e os serviços de apoio em crise que o consultório escolheu para a sua região. Ele deve informar com clareza os prazos de resposta do consultório, para que o paciente não presuma que alguém acompanha em tempo real quando ninguém está.

O caminho de escalonamento também precisa funcionar fora da caixa de entrada. Se a mensagem chega à noite e o psicólogo não está de plantão, o que acontece? Decida antes: quem é avisado, por qual canal e o que o agente diz enquanto isso. Uma regra de escalonamento que depende de alguém ler o e-mail amanhã não é uma regra de escalonamento.

Um cenário ilustrativo: um paciente escreve para remarcar a sessão de quarta-feira e acrescenta que não sabe se consegue continuar. O agente não oferece conforto nem interpretação. Ele envia o texto aprovado com os recursos de emergência, avisa o psicólogo e o contato substituto pelo canal de urgência e deixa o agendamento como está até que uma pessoa decida o que fazer. O psicólogo vê a mensagem original, o horário em que chegou e o que foi enviado. O agente fez três coisas pequenas e previsíveis, e todo o julgamento ficou com uma pessoa.

Como implantar e manter o agente seguro ao longo do tempo?

Um consultório não precisa de um grande projeto. Precisa de uma sequência curta, feita em ordem, com testes antes de qualquer paciente real entrar na conversa.

• Passo um: escreva a função em uma página. Liste o que o agente faz, o que nunca faz e quem recebe os encaminhamentos.
• Passo dois: escreva ou atualize as políticas que ele vai seguir, incluindo cancelamento, atraso, valores, regras de sessão online e verificação de identidade.
• Passo três: escolha os dados que ele pode ver. Conecte apenas a agenda e os campos de contato de que ele precisa, com permissões limitadas a essas tarefas, e mantenha o sistema clínico fora do alcance.
• Passo quatro: redija com o psicólogo os modelos neutros e o texto para mensagens urgentes, e defina o caminho de escalonamento, inclusive fora do horário de atendimento.
• Passo cinco: monte um conjunto de teste com mensagens realistas, inclusive as difíceis: um familiar perguntando sobre uma consulta, um paciente contando algo doloroso ao remarcar, uma mensagem em outro idioma, uma tentativa de extrair a agenda.
• Passo seis: rode o agente em modo supervisionado, com uma pessoa aprovando cada ação, e compare o comportamento com o conjunto de teste. A abordagem para montar um conjunto de testes de referência para sua IA vale aqui.
• Passo sete: entre no ar em um canal e um tipo de solicitação, e amplie aos poucos.
• Passo oito: revise em uma rotina fixa. Confira permissões, amostre conversas, observe encaminhamentos perdidos ou desnecessários e atualize os modelos.
• Passo nove: prepare-se para o erro. Decida quem é avisado, como uma mensagem enviada à pessoa errada é tratada e como os pacientes são informados. Um plano de resposta a incidentes com agentes de IA dá a estrutura para isso.

O NIST AI Risk Management Framework é uma boa referência se você quiser um vocabulário para mapear, medir e governar esses riscos, embora um consultório pequeno extraia a maior parte do valor da lista acima.

Veja como a Be Human trabalha. Um primeiro projeto define uma função, neste caso agenda e administração, junto com a memória e as ferramentas de que ela precisa, os limites de aprovação e um critério de sucesso observável, como os encaminhamentos chegarem à pessoa certa. O agente mantém identidade e contexto de operação próprios, e as permissões ficam limitadas à agenda e aos dados de contato que a função exige. Depois da entrada no ar, a operação gerenciada inclui monitoramento, avaliações recorrentes contra o seu conjunto de teste, manutenção das integrações, revisão de permissões e resposta a incidentes, com mudanças feitas de forma controlada e o consultório mantendo a autoridade sobre o escopo. O serviço é remoto, em português e inglês.

Perguntas frequentes

Um assistente de IA para psicólogos pode fazer anotações de sessão? É tecnicamente possível, mas é um uso diferente e bem mais arriscado que a agenda, porque as anotações contêm o conteúdo mais sensível do consultório. Este artigo recomenda manter o agente longe de material clínico. Se um dia você considerar isso, trate como um projeto separado, com consentimento próprio, revisão jurídica e supervisão do psicólogo.

Os pacientes devem ser avisados de que falam com um agente? Sim, na maioria dos casos é a melhor escolha para a confiança, e algumas jurisdições podem exigir. Diga uma vez, no primeiro contato, em palavras simples, explique o que o agente pode fazer e ofereça um caminho claro para falar com uma pessoa. Confira as regras que valem para o seu consultório e para o seu conselho profissional.

O agente precisa de acesso ao prontuário? Não. A agenda precisa de disponibilidade, status do agendamento e preferências de contato. Manter o prontuário em um sistema separado, que o agente não alcança, é a medida de privacidade mais simples e mais forte, porque o agente não pode revelar o que não consegue ver.

E se um paciente escrever sobre sofrimento em uma mensagem de agendamento? O agente não deve responder ao conteúdo. Ele envia o texto aprovado pelo psicólogo com os recursos de emergência, escala imediatamente a uma pessoa nomeada pelo canal de urgência e deixa as decisões sobre o agendamento e o acompanhamento com o psicólogo. Teste esse caminho com mensagens realistas antes de entrar no ar e de novo sempre que as instruções mudarem.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.