Puntos clave de la Noticia
- Preocupaciones por la censura de la IA: el fundador de Cardano, Charles Hoskinson, advierte sobre los peligros de la censura de la IA. Él cree que retener conocimientos específicos debido al entrenamiento de alineación podría disminuir la utilidad de la IA con el tiempo.
- Incidente del fusor Farnsworth: Hoskinson ilustra el problema compartiendo capturas de pantalla en las que se preguntaba a modelos de IA cómo construir un fusor Farnsworth, un dispositivo potencialmente peligroso.
- Implicaciones más amplias y descentralización: los líderes de opinión se hacen eco de las preocupaciones de Hoskinson y enfatizan los riesgos que van desde la desinformación hasta la pérdida de control sobre la IA. Mientras tanto, la descentralización gana terreno como estrategia para crear modelos de IA imparciales.
Charles Hoskinson, fundador de Cardano (ADA), ha dado la alarma sobre una tendencia emergente: la censura de la Inteligencia Artificial (IA). Su mensaje urgente destaca las posibles consecuencias de restringir ciertos conocimientos e información.
I continue to be concerned about the profound implications of AI censorship. They are losing utility over time due to "alignment" training . This means certain knowledge is forbidden to every kid growing up, and that's decided by a small group of people you've never met and can't… pic.twitter.com/oxgTJS2EM2
— Charles Hoskinson (@IOHK_Charles) June 30, 2024
La reciente publicación de Hoskinson sobre X profundiza en el impacto de la censura de la IA. Sostiene que a medida que los modelos de IA se someten a un entrenamiento de “alineación”, corren el riesgo de perder su utilidad con el tiempo. La decisión de retener información específica, afirma, la toma un grupo selecto de personas que no rinden cuentas ante el público.
El incidente del fusor de Farnsworth
Para ilustrar su punto, Hoskinson comparte dos capturas de pantalla reveladoras. En ambos casos, se preguntó a los modelos de IA cómo construir un fusor Farnsworth, un dispositivo potencialmente peligroso.
ChatGPT 4, un modelo líder de IA, reconoció los riesgos y enfatizó la necesidad de una supervisión experta. Sorprendentemente, procedió a delinear los componentes necesarios para construir el dispositivo.
Claude 3.5 Sonnet de Anthropic respondió de manera similar, reconociendo el peligro pero aún brindando información general sobre el fusor de Farnsworth. El modelo de IA incluso ofreció un breve contexto histórico.
Implicaciones más amplias Según Charles Hoskinson
Las preocupaciones de Hoskinson resuenan en otros líderes de opinión y expertos en tecnología. A principios de este mes, un grupo de empleados actuales y anteriores de gigantes de la IA como OpenAI, Google DeepMind y Anthropic escribieron una carta abierta.
Destacaron riesgos que van desde la desinformación difundida por los sistemas de IA hasta la pérdida de control sobre entidades autónomas de IA. ¿El resultado más terrible? Extinción humana.
La marea imparable
A pesar de estas advertencias, la industria de la IA sigue avanzando. Robinhood presentó recientemente Harmonic, un laboratorio de investigación de inteligencia artificial comercial centrado en la superinteligencia matemática (MSI). A medida que el debate se intensifica, la sociedad lucha por lograr el equilibrio adecuado entre difusión del conocimiento y seguridad.
El llamado a la acción de Charles Hoskinson es una llamada de atención para todos nosotros. El futuro de la IA depende de nuestra capacidad para navegar este delicado equilibrio, garantizando que la censura no obstaculice el progreso ni ponga en peligro a la humanidad.
Voces destacadas dentro y fuera de la industria de la IA abogan por la descentralización como estrategia fundamental para fomentar modelos de IA más imparciales. Al distribuir el control y la toma de decisiones, los sistemas descentralizados tienen como objetivo mitigar los sesgos y mejorar la transparencia.
En Estados Unidos, las autoridades antimonopolio están centrando su atención en el sector de la IA. Al reconocer el potencial de los monopolios de las grandes tecnologías, los reguladores instan a un examen más detenido. ¿La meta? Garantizar una competencia justa, evitar la concentración indebida de poder y salvaguardar la innovación.
Las palabras de Hoskinson parecen haber impactado positivamente el precio del token ADA de Cardano. En el momento de escribir este artículo, ADA cotiza a $0,4009, lo que supone un aumento del 4% en las últimas 24 horas.
