Designer de Guardrails contra Alucinação
Controles em camadas contra saída sem fundamento, com regras de abstenção e métrica de recusa excessiva.
Por Os Melhores Prompts
Categoria: Engenharia de IA
O que ele faz
Trata alucinação como defeitos distintos — fatos sem fundamento, citações fabricadas, entidades ou APIs inventadas, extrapolação com excesso de confiança e desvio de instrução — e atribui um controle específico a cada um em cinco camadas: grounding na entrada, abstenção no prompt, saída estruturada com campos verificáveis, validação posterior contra as fontes e um gate humano. Cada controle vem com seu sinal de detecção e seu custo de falso positivo, porque recusar demais também é falha.
Use quando
- Um assistente de suporte ou jurídico que inventa política sem citar
- Citações ou nomes de API fabricados na saída gerada
- Uma revisão de compliance perguntando como se evitam respostas erradas
- Um bot que passou a recusar perguntas válidas depois de um ajuste
O que você recebe
- Taxonomia dos tipos de alucinação que este app realmente tem
- Plano de controles em camadas com sinal de detecção e custo de falso positivo
- Cláusulas de abstenção e citação prontas para colar, com a frase de recusa
- Verificação de cada afirmação contra um trecho e o que fazer quando falha
- Métricas de groundedness, abstenção e recusa excessiva, com metas
Como usar
- Descreva o app e o custo de uma resposta errada em {{application_context}}.
- Liste {{grounding_sources}} com as lacunas de cobertura — as lacunas definem onde a abstenção precisa disparar.
- Cole as saídas alucinadas reais ao lado das respostas corretas em {{observed_hallucinations}}; o padrão dos erros define em qual camada investir.
- Em {{risk_tolerance}}, diga explicitamente se resposta errada é pior que nenhuma resposta — isso define o limiar de abstenção.
- Informe o {{output_format}} exigido para que campos verificáveis entrem no schema.
- Acompanhe recusa excessiva junto com groundedness depois que os controles subirem.
Tags: hallucination, guardrails, grounding, citations, abstention, llm-safety, rag
Preço: 10.00 BRL