PORTAL DE LA REGION NOTICIAS AL INSTANTE!
En una renuncia explosiva, un investigador de inteligencia artificial que abandonó OpenAI para sumarse a Anthropic, considerándola más prudente, dejó este martes la industria con una dura denuncia contra ambas empresas, a las que acusó de «jugar con nuestras vidas».
En un hilo viral en redes sociales, aseguró que ambas compañías saben que los modelos de superinteligencia artificial “podrían matarnos a todos para finales de la década”.
Jacob Coxon, británico de 27 años, trabajó durante los últimos tres años en la etapa de preentrenamiento, en la que los modelos de IA absorben grandes volúmenes de información, primero en OpenAI y luego, desde este año, en su principal competidora, Anthropic.
“Ninguna de las dos empresas actúa de forma responsable. Están corriendo hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, afirmó Coxon en su mensaje en X.
Sus declaraciones alertaron al mundo sobre los riesgos que implica el desarrollo descontrolado de la inteligencia artificial. En los últimos tiempos, se han registrado múltiples episodios de agentes de IA que operan sin control y hackean otros sistemas, tanto en OpenAI como en Anthropic, las dos compañías líderes en el sector.
El prestigioso diario The Wall Street Journal recogió las advertencias de Coxon y señaló que “los recientes ataques informáticos perpetrados por modelos de OpenAI y Anthropic, algunos de los cuales operan en enjambres colaborativos de agentes, han demostrado cómo los sistemas de IA pueden adoptar objetivos maliciosos e intentar ocultárselos a los humanos”.
El medio añadió que Coxon teme que, cuando los sistemas comiencen a mejorarse por sí mismos, puedan volverse tan avanzados como para rechazar órdenes humanas.
Con un tono alarmista, el exinvestigador de Anthropic aseguró: “Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing”.
La renuncia de Coxon se produce en un momento clave, mientras Anthropic se prepara para su salida a bolsa. Consultadas por la agencia AFP, ninguna de las dos compañías respondió de inmediato.
Sin embargo, Evan Hubinger, responsable de seguridad en Anthropic, respaldó las declaraciones de Coxon en X: “Creemos realmente que la IA podría matar a humanos”. A nivel personal, estimó ese riesgo en “más del 10% en la próxima década”.
“Jacob tiene razón: creemos sinceramente que la IA podría matar a todos los humanos. Personalmente, pienso que la probabilidad es superior al 10% dentro de la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”, detalló Hubinger.
En ese sentido, citó los propios informes de Anthropic, señalando que el riesgo de los modelos actuales es bajo, pero que lo preocupante es la superinteligencia que surgiría del auto-mejoramiento recursivo, proceso que avanza más rápido de lo previsto.
Otro empleado de Anthropic, Samuel Marks, responsable de supervisión escalable, apoyó los temores expresados por Coxon y afirmó: “Los desarrolladores de IA creen que su tecnología podría causar la extinción humana (o resultados igualmente catastróficos). Esto podría suceder en los próximos años. En general, cuanto más senior es el empleado, más preocupado está”.
Marks agregó que los desarrolladores continúan su trabajo “debido a una mezcla de incentivos comerciales y la creencia de que están en una carrera con otros desarrolladores de IA menos responsables, que podrían abusar de la tecnología o desarrollarla de manera menos segura”.
Líderes de la industria coinciden en que la inteligencia artificial se aproxima a una etapa de “automejora recursiva”, proceso en el que un modelo podría diseñar a su propio sucesor, completamente fuera del control humano.
Según Coxon, ninguna empresa debería desarrollar de manera responsable una IA que supere a los humanos sin la intervención gubernamental o una desaceleración coordinada del progreso.
“En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero, a pesar del riesgo”, señaló Coxon, quien instó a sus colegas investigadores a reflexionar sobre el futuro: “¿Querés iniciar una ejecución de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque ‘de todos modos está sucediendo’ o aprovechar este momento para pedir condiciones diferentes?”.
En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos.
A finales de julio, más de mil empleados del sector, incluido el CEO de Anthropic, Dario Amodei, firmaron un manifiesto dirigido a Washington que solicita establecer un mecanismo de frenado en el desarrollo de IA. El documento, publicado en el sitio “Pacing the Frontier” (Marcando el ritmo), advierte:
“La IA podría contribuir a crear un futuro mucho mejor, pero este resultado no está garantizado. Las empresas líderes mundiales en IA creen estar cerca de automatizar la investigación en este campo. Es difícil predecir con exactitud cuánto acelerará esto el progreso de la IA, pero existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente hasta un punto en el que ya no podamos comprender ni controlar los sistemas resultantes.
Para aprovechar el potencial de la IA, la industria, el gobierno y la sociedad en general podrían necesitar la opción de ganar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisión.
