Glosario cripto

Inferencia de IA verificable

Definición

La inferencia de IA verificable reúne técnicas que demuestran que una respuesta salió de un modelo y unos datos concretos, sin tener que volver a ejecutarlo.

Cuando un contrato inteligente, un usuario u otro agente depende de una respuesta de IA, normalmente no puede saber qué modelo la produjo ni si el operador la manipuló. La inferencia verificable añade pruebas. Hay tres enfoques principales: pruebas de conocimiento cero del cálculo, el llamado zkML; entornos de ejecución confiables, donde un hardware seguro firma una atestación del código ejecutado, y métodos optimistas o de consenso, en los que varias partes ejecutan el modelo y las disputas se resuelven repitiendo el cálculo.

Importa sobre todo cuando la IA mueve dinero o decide resultados: oráculos que resuelven mercados de predicción, agentes que operan por cuenta de usuarios, puntuaciones de crédito en protocolos de préstamo o moderación de contenidos en aplicaciones descentralizadas. Varias redes y rollups ya la anuncian como función central.

Cada método tiene su precio. Las pruebas de conocimiento cero dan garantías sólidas, pero son lentas y caras con modelos grandes; los enclaves seguros son rápidos, pero obligan a confiar en el fabricante del chip y han sufrido ataques de canal lateral; la reejecución exige resultados deterministas, algo que los modelos grandes no siempre ofrecen en hardware distinto. Y saber qué modelo se ejecutó no dice si su respuesta es correcta.

Ejemplo

Un mercado de predicción resuelve una pregunta con el veredicto de un modelo de lenguaje y solo lo acepta si viene con una atestación de hardware que muestra que el modelo publicado se ejecutó sin cambios en un enclave seguro.

Términos relacionados

Últimos artículos sobre Inferencia de IA verificable