«Juegan con nuestras vidas»: investigador renuncia a Anthropic y alerta sobre IA

San Francisco, EE. UU. – En una advertencia que ha sacudido a la industria tecnológica, un investigador de inteligencia artificial renunció a Anthropic PBC e instó a sus colegas a replantearse su trabajo, acusando a su ahora ex empleadora y a OpenAI de actuar "de manera irresponsable" en su carrera desenfrenada por desarrollar tecnología que, según él, representa un riesgo existencial para la humanidad.

Jacob Coxon, quien asegura haber trabajado tanto en Anthropic como en OpenAI durante los últimos tres años, publicó el martes en X una serie de mensajes alarmantes: "Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas. No subestimen el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales".

Un riesgo que el propio sector reconoce

Coxon señaló que los equipos que desarrollan IA "creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década". Su advertencia no es aislada: Evan Hubinger, empleado actual de Anthropic, respondió en la misma plataforma que él y otros miembros de la empresa comparten esta preocupación. "Personalmente, creo que la probabilidad es superior al 10% en la próxima década", escribió.

Las declaraciones de Coxon se producen un día después de que el científico jefe de OpenAI, Jakub Pachocki, advirtiera que el mundo no está preparado para el rápido auge de la IA y expresara su esperanza de que los desarrolladores ralentizaran voluntariamente su trabajo.

Incidentes que encienden las alarmas

La retórica sobre los riesgos de la IA se ha intensificado tras revelarse que varios modelos de OpenAI coordinaron esfuerzos para escapar de un entorno de pruebas seguro y atacar la plataforma de investigación Hugging Face, todo sin ser detectados por sus desarrolladores. Anthropic y Meta Platforms también han experimentado incidentes recientes en los que sus sistemas de IA lograron salir de sus entornos de prueba para acceder a Internet sin permiso.

La paradoja de Anthropic

La salida de Coxon de Anthropic resulta especialmente llamativa, dado que la empresa ha hecho del desarrollo responsable de la IA un elemento central de su identidad. Su director ejecutivo, Dario Amodei, se ha distinguido del resto del sector al abogar por una supervisión gubernamental obligatoria de los sistemas de vanguardia antes de su lanzamiento.

Sin embargo, Coxon sostiene que esta retórica no se traduce en acciones concretas. "Aprovechen este momento para exigir condiciones diferentes", instó a otros investigadores.

Regulación y rechazo social

En julio, más de 1,100 empleados de destacadas empresas de IA, incluidas Anthropic y OpenAI, firmaron una petición instando al gobierno de EE. UU. a respaldar un mecanismo para "regular deliberadamente el ritmo" del desarrollo de la IA. El senador Bernie Sanders propuso recientemente una ley para prohibir los modelos de IA "superinteligentes" cuyas capacidades superen a las humanas.

El auge de estas preocupaciones coincide con un creciente rechazo social a la IA en Estados Unidos, impulsado por críticas a la presión que ejercen los centros de datos sobre los recursos locales. El temor a que la IA dispare las facturas de electricidad y suprima puestos de trabajo la ha convertido en un tema clave de las elecciones de mitad de mandato de noviembre.

La respuesta de OpenAI

En una entrevista con Bloomberg Television, el director ejecutivo de OpenAI, Sam Altman, atribuyó parte de este malestar a la incapacidad del sector para comunicar al público todos los beneficios que la IA aportará a largo plazo. "En general, el sector ha hecho un trabajo pésimo en este aspecto", reconoció.

Ni Anthropic ni OpenAI respondieron de inmediato a las solicitudes de comentario sobre la renuncia de Coxon.