medição aberta de agent skills

Opinião é abundante. Evidência é rara.

O Batuta é uma camada aberta de medição para Agent Skills: roteamento local, grupo de controle explícito e resultados públicos ligados à evidência bruta.

Linha de base medida

0skills com amostra publicável
91 mspara indexar 506 skills
136 msem 50 rotas, incluindo a partida
15 / 15testes de conformidade aprovados

Benchmark local registrado na linha de base auditada 9fa7471 em 24 de agosto de 2026. São medidas com proveniência, não resultados do ecossistema nem garantias para o dispositivo atual.

Batuta Zero

Um funil, não uma nota por estrelas

01

O roteador é a referência, não o produto

Um binário Rust sem dependências indexa as skills instaladas e ordena as correspondências localmente com BM25. A camada de medição foi desenhada para funcionar também com outros roteadores. O silêncio é um resultado válido quando a correspondência é fraca.

02

Causalidade precisa de um braço de controle

Um holdout declarado mantém o roteador calado em uma parcela configurável dos turnos. Comparar desfechos com e sem sugestão é mais útil do que confundir correlação com ganho causal.

03

Nenhum resultado sem denominador

Rankings publicados exigem várias instalações e carregam contagens, contexto do modelo, versão do protocolo e viés declarado da amostra. Um ranking vazio é mais crível do que uma anedota bem apresentada.

código aberto · reproduzível

Comece pela evidência

O repositório contém o protocolo, a bateria congelada, os schemas, a implementação e os comandos usados para reproduzir a linha de base medida.

LAB · phase 0

O que o LAB está medindo agora

A fase zero publica agregados limitados de execuções confiáveis do LAB. Prompts, segredos, assinaturas, recibos e conteúdo dos projetos nunca aparecem aqui.

Carregando agregados verificados do LAB…