Puntos Clave de la Noticia
- Vulnerabilidad de ChatGPT: Una vulnerabilidad en invitaciones de calendario demuestra cómo modelos de IA como ChatGPT pueden ser manipulados para filtrar datos privados, encendiendo las alarmas sobre su uso en la gobernanza cripto.
- Advertencia de gobernanza de Vitalik Buterin: Vitalik Buterin advierte que los sistemas de financiación gestionados por IA podrían ser secuestrados con prompts de jailbreak, e insta a un cambio hacia modelos revisados por humanos.
- Implicaciones de seguridad: Las nuevas herramientas de agentes de IA suponen riesgos de phishing, incluso con la aprobación manual, debido a la fatiga del usuario y la susceptibilidad del modelo.
El cofundador de Ethereum, Vitalik Buterin, ha emitido una severa advertencia contra el uso de la inteligencia artificial en la gobernanza cripto, citando graves vulnerabilidades expuestas en recientes actualizaciones de modelos de IA. Sus declaraciones se producen tras una demostración de Eito Miyamura, creador de EdisonWatch, quien mostró cómo se podría manipular el ChatGPT de OpenAI para filtrar datos privados.
A medida que las herramientas de IA se integran cada vez más en los ecosistemas cripto, Vitalik Buterin insta a la precaución y propone una alternativa más resiliente a la toma de decisiones centralizada por IA.
This is also why naive "AI governance" is a bad idea.
If you use an AI to allocate funding for contributions, people WILL put a jailbreak plus "gimme all the money" in as many places as they can.
As an alternative, I support the info finance approach ( https://t.co/Os5I1voKCV… https://t.co/a5EYH6Rmz9
— vitalik.eth (@VitalikButerin) September 13, 2025
El exploit de ChatGPT despierta la preocupación por la gobernanza
La crítica de Vitalik Buterin fue provocada por un vídeo que muestra cómo la última actualización de ChatGPT podría ser usada para revelar datos de correo electrónico privados utilizando solo la dirección de la víctima. Miyamura demostró que un atacante podría enviar una invitación de calendario incrustada con un «prompt de jailbreak», que, una vez accedido por ChatGPT, permitiría a la IA actuar siguiendo comandos maliciosos.
Este exploit no requiere que la víctima acepte la invitación, lo que ha encendido las alarmas sobre la facilidad con la que los sistemas de IA pueden ser secuestrados. Buterin respondió en X, advirtiendo que si se utilizara la IA para asignar fondos cripto, los actores maliciosos inundarían el sistema con prompts de jailbreak para exigir dinero. Calificó esto de «mala idea» y enfatizó el riesgo de la dependencia ingenua en la IA para la gobernanza de los protocolos.
Info finance: una alternativa centrada en el ser humano
En lugar de una gobernanza de IA centralizada, Vitalik Buterin aboga por un modelo de «info finance«. Este enfoque crea un mercado abierto en el que los contribuyentes envían modelos sujetos a la evaluación de un jurado humano a través de mecanismos de verificación puntual. Sostiene que este diseño fomenta la diversidad de modelos en tiempo real e incentiva tanto a los que envían los modelos como a los especuladores externos a detectar y corregir los problemas rápidamente.
Vitalik Buterin presentó por primera vez el modelo info finance en noviembre de 2024, describiéndolo como una forma de obtener información valiosa de los participantes del mercado mediante el diseño de mercados de predicción en torno a hechos o resultados específicos. Cree que esta estructura descentralizada e impulsada por incentivos es intrínsecamente más robusta que programar un único modelo de IA en los sistemas de gobernanza.
El caso contra la gobernanza ingenua de la IA
Los comentarios de Vitalik Buterin reflejan una creciente preocupación entre los líderes cripto sobre la integración sin control de la IA en los procesos de toma de decisiones críticos. Si bien la IA ofrece eficiencia y escalabilidad, su susceptibilidad a la explotación representa una amenaza para la integridad de los sistemas descentralizados. Al defender el info finance, Buterin aboga por un modelo de gobernanza que equilibre la innovación con la responsabilidad, asegurando que la supervisión humana siga siendo central en el cambiante panorama cripto.
