Council: Protocolo para Deliberação Estruturada entre Modelos de IA

À medida que os modelos de IA generativa se tornam mais capazes, um novo desafio surge: como tomar decisões automatizadas de alta qualidade quando um único modelo pode estar errado ou tendencioso? O Council é um protocolo que aborda isso promovendo uma deliberação estruturada entre múltiplos modelos de IA, em vez de simplesmente agregar suas respostas. Em vez de gerar mais texto, o sistema força os modelos a criticar as propostas uns dos outros e a classificar explicitamente os pontos de divergência, tornando o processo de julgamento mais transparente e robusto.

Coleta de Propostas e Críticas Explícitas

O fluxo do Council começa com uma pergunta ou tarefa. Vários modelos independentes (por exemplo, GPT-4, Claude, Llama) geram suas propostas iniciais. Em seguida, cada modelo recebe as propostas dos outros e é instruído a criticá-las explicitamente, apontando falhas lógicas, suposições questionáveis ou omissões. Essa fase de crítica é fundamental: ela força os modelos a adotar uma postura de ceticismo construtivo, algo que raramente ocorre em uma geração única onde o modelo apenas tenta agradar o prompt.

Classificação de Desacordos e Outcomes Adaptativos

Após as críticas, os modelos são solicitados a revisar suas próprias posições. O protocolo então analisa o conjunto de críticas e revisões para classificar os desacordos em quatro categorias ou outcomes adaptativos. Essa classificação pode variar desde "concordância após revisão" até "desacordo fundamental sobre premissas". O resultado final não é uma única resposta, mas um julgamento estruturado que mostra quais aspectos são consenso, quais são disputados e a natureza da disputa. Isso oferece uma visão muito mais rica do que uma simples média ou votação de respostas.

O Council endereça limitações cruciais

• ▶Alucinações e vieses de modelos únicos
• ▶Falta de metacognição sobre a própria resposta
• ▶Opacidade na origem das decisões automatizadas
• ▶Dificuldade de combinar especialidades de modelos diferentes

A aplicação prática é vasta, desde revisão de código e documentos jurídicos até diagnóstico médico auxiliado por IA. O protocolo não substitui o julgamento humano, mas eleva o nível da discussão entre IAs, criando um paper trail auditável do raciocínio coletivo. É um passo além do simples "ensemble de modelos" e rumo a uma forma de inteligência coletiva artificial, onde o conflito de ideias é sistematicamente gerido para produzir conclusões mais confiáveis. A inovação está na estrutura, não no tamanho dos modelos.