Investigador de Anthropic renuncia y advierte que la industria de la IA "juega con nuestras vidas"

Jacob Coxon, exinvestigador de preentrenamiento en OpenAI y Anthropic, renunció a su cargo y lanzó una severa advertencia sobre la carrera descontrolada hacia la superinteligencia artificial. Asegura que los riesgos civilizatorios son reales y que el progreso no se está ralentizando.

El investigador de 27 años publicó un hilo de siete mensajes en lared social X que superó rápidamente los 75 millones de visitas.

En su declaración de renuncia, Coxon afirmó que desde OpenAI y Anthropic están actuando de manera irresponsable en el desarrollo de sus tecnologías.

"Se están lanzando directamente a una carrera por una superinteligencia con capacidad de automejora y están jugando con nuestras vidas", advirtió el investigador en sus redes sociales.

Coxon enfatizó la velocidad del avance tecnológico y pidió no subestimar la potencia de estos modelos. Aseguró que pronto existirán sistemas sobrehumanos capaces de vulnerar cualquier sistema informático, revolucionar industrias de la noche a la mañana y adquirir recursos reales.

Miedos compartidos en privado dentro de la industria

En uno de sus mensajes más tajantes, el investigador señaló que quienes construyen estos sistemas creen firmemente que la tecnología podría acabar con la humanidad antes de que termine la década. Afirmó que no se trata de una estrategia publicitaria, sino de un temor real.

Según un artículo publicado por el Wall Street Journal, Coxon explicó que muchos ejecutivos e investigadores sénior moderan sus palabras ante la prensa para parecer sensatos, pero expresan un miedo profundo en sus conversaciones privadas.

El especialista añadió que la competencia feroz entre las empresas estadounidenses y sus rivales en China hace inevitable que se sacrifique la seguridad. Los empleados usan términos como "momento crucial" o "fase final" para describir la situación actual.

Diferencias de mentalidad entre los gigantes tecnológicos

Al abordar la postura de las empresas, Coxon distinguió entre sus dos exempleadores. En OpenAI, sostuvo que muchos no han internalizado el riesgo civilizatorio, mientras que en Anthropic lo comprenden, pero se sienten atrapados en la competencia.

"En Anthropic entienden los riesgos, pero están atrapados en la carrera por llegar primero. Creen que nadie más actuará de forma responsable, por lo que deben hacerlo ellos mismos a pesar del peligro", explicó Coxon en X.

Según el reportaje del Wall Street Journal, Coxon no es el único en encender las alarmas. El propio CEO de OpenAI, Sam Altman, reconoció recientemente en una cumbre en Carolina del Norte que las cosas podrían salir muy mal en ciberseguridad si no se actúa con urgencia.

Un llamado urgente a frenar la carrera global

Coxon concluyó su mensaje llamando a la coordinación entre laboratorios y sugiriendo medidas drásticas, como una suspensión temporal en el incremento de capacidades de los modelos para evitar un escenario fuera de control hacia finales del próximo año.

El investigador instó a sus excompañeros a reflexionar sobre las consecuencias de lanzar procesos de aprendizaje por refuerzo superinteligentes sin comprender plenamente la mente de estos sistemas, animándolos a alzar la voz para exigir condiciones distintas.