Una prueba de qué modelo escribió cada respuesta
Anthropic publica FlashProve, un prototipo de código abierto que busca demostrar con criptografía qué modelo generó un texto.
Explícamelo:
- Qué ha pasado
- Funcionaría como una firma digital en un correo: cada laboratorio publica una huella de su modelo y luego se puede comprobar si una respuesta salió realmente de él.
- Por qué te importa
- Hoy tienes que fiarte de lo que te dice el proveedor. Esto permitiría detectar si alguien cambia un modelo avanzado por uno más barato sin avisar.
- Qué puedes hacer
- Por ahora no tienes nada que activar: no es una función disponible y no hay planes de desplegarla. Es una idea que conviene seguir.
- Qué ha pasado
- Lo ha creado el Frontier Red Team de Anthropic con EPFL, MIT y StarkWare. Genera una prueba de conocimiento cero y sucinta: no revela los pesos del modelo y se verifica mucho más rápido que ejecutarlo.
- Por qué te importa
- Abre la puerta a auditar a proveedores y a evaluadores externos en modelos cerrados. El propio equipo lo presenta como un avance parcial e invita a revisarlo.
- Qué puedes hacer
- Si contratas modelos por API, lee la especificación técnica y valora incluir la verificación del modelo en tus requisitos a futuro.
- Fuentes:
- Anthropic (original)
- Help Net Security (medio)
- El laboratorio publica una huellaIdentifica al modelo sin revelar sus pesos.
- El proveedor genera una pruebaVa unida a una respuesta concreta.
- Tú la compruebasDesde tu propio dispositivo, sin ejecutar el modelo.
Prototipo de investigación. Sin fecha de despliegue.