Anthropic ha presentado FlashProve, un prototipo zkSNARK con licencia Apache 2.0 que permite demostrar criptográficamente que una respuesta generada proviene de un modelo con pesos comprometidos, sin necesidad de revelar dichos pesos.
Datos clave
- Prototipo zkSNARK con licencia Apache 2.0
- Demuestra la procedencia de la respuesta del modelo
- Benchmark: Llama 4 Maverick a 110 tokens/segundo en 1 H100
- Tamaño de las pruebas: 19 MB
FlashProve: Un mecanismo de prueba criptográfica para la procedencia de la IA
Anthropic ha anunciado el desarrollo de FlashProve, un prototipo zkSNARK (Zero-Knowledge Succinct Non-Interactive Argument of Knowledge) bajo licencia Apache 2.0. Esta herramienta está diseñada para abordar la necesidad de verificar la autenticidad de las respuestas generadas por modelos de lenguaje grandes (LLMs). Específicamente, FlashProve proporciona una prueba criptográfica de que una respuesta en particular ha sido generada por un modelo cuyos pesos han sido comprometidos, sin que sea necesario exponer la estructura o los valores internos de dichos pesos. Este avance es crucial para la confianza en la cadena de suministro de la IA.
Funcionamiento y arquitectura del zkSNARK de Anthropic
Desde un punto de vista técnico, FlashProve opera como un mecanismo de prueba de conocimiento cero. Su implementación demuestra la capacidad de verificar la inferencia de un modelo sin acceder a la propiedad intelectual subyacente (los pesos del modelo). Los desarrolladores han reportado que el prototipo puede demostrar el funcionamiento utilizando modelos como Llama 4 Maverick. En términos de rendimiento, Anthropic ha reportado que esta demostración alcanzó una velocidad de 110 tokens por segundo utilizando un único acelerador H100, generando pruebas de un tamaño de 19 MB.
Rendimiento demostrado en modelos de gran escala
La capacidad de verificar la procedencia de la respuesta es un avance significativo para la infraestructura de IA, ya que aborda directamente el problema de la confianza en los resultados generados por modelos de terceros. Al proporcionar una prueba criptográfica, se establece un vínculo verificable entre la salida (el *reply*) y el modelo fuente (los *committed weights*). Aunque el artículo se centra en el prototipo, esta funcionalidad podría aplicarse en escenarios donde la trazabilidad y la integridad de la IA son requisitos regulatorios o de seguridad críticos.
Implicaciones de la verificabilidad en la infraestructura de IA
Es importante señalar que la información disponible se centra en la presentación del prototipo y sus capacidades de prueba. Los detalles sobre la integración comercial o la disponibilidad de FlashProve para uso general no se especifican en el anuncio. Los benchmarks de rendimiento, como los de Llama 4 Maverick, son resultados reportados por Anthropic y deben considerarse como demostraciones de concepto iniciales.
Más sobre este tema: Herramientas de IA
Fuente de esta noticia: consultar el anuncio o artículo original.
