Exinvestigador de OpenAI y Anthropic denuncia irresponsabilidad en el desarrollo de IA
Jacob Coxon, un joven investigador británico, critica la falta de responsabilidad de OpenAI y Anthropic en el desarrollo de inteligencia artificial, advirtiendo sobre los riesgos potenciales que esto conlleva.
Jacob Coxon, un investigador británico de 27 años, ha dejado una profunda huella en la industria de la inteligencia artificial tras renunciar a su puesto en Anthropic, una de las principales empresas competidoras de OpenAI. En un giro dramático, Coxon ha hecho acusaciones contundentes contra ambas compañías, afirmando que están "jugando con nuestras vidas" al avanzar en el desarrollo de tecnologías que podrían superar la inteligencia humana.
Un cambio de rumbo en la carrera por la IA
Coxon, quien trabajó durante tres años en el preentrenamiento de modelos de IA, primero en OpenAI y luego en Anthropic, ha expresado su creciente preocupación por la dirección que están tomando estas empresas. El preentrenamiento es una etapa crucial en la que los modelos de inteligencia artificial absorben grandes volúmenes de información para aprender y mejorar su funcionamiento. Sin embargo, Coxon sostiene que la rapidez con la que se están desarrollando estas tecnologías carece de la debida responsabilidad.
"Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas", escribió Coxon en su cuenta de X el martes.
Las advertencias sobre los riesgos de la IA
En su mensaje, Coxon no se limitó a criticar a las empresas, sino que también hizo una declaración alarmante sobre las posibles consecuencias del avance desenfrenado de la inteligencia artificial. "Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo", añadió, subrayando la gravedad de sus preocupaciones.
La respuesta de la industria
La renuncia de Coxon se produce en un momento crítico, ya que Anthropic se prepara para salir a bolsa, lo que añade presión a la empresa para demostrar su valía en un mercado cada vez más competitivo. Sin embargo, la reacción de las empresas a las afirmaciones de Coxon ha sido cautelosa. Contactadas por la AFP, ni OpenAI ni Anthropic ofrecieron respuestas inmediatas a las acusaciones lanzadas por el exinvestigador.
No obstante, Evan Hubinger, quien ocupa el cargo de responsable de seguridad en Anthropic, se mostró de acuerdo con Coxon. En su cuenta de X, declaró: "Creemos realmente que la IA podría matar a humanos", y estimó que el riesgo de que esto ocurra en la próxima década podría ser superior al 10%.
La carrera hacia la superinteligencia
La preocupación de Coxon y Hubinger refleja una inquietud más amplia en la comunidad de la inteligencia artificial. Muchos expertos creen que la industria se encuentra en la cúspide de lo que se denomina "automejora recursiva", un proceso en el que un modelo de IA podría diseñar a su propio sucesor sin intervención humana. Esta posibilidad plantea serias preguntas sobre el control y la ética en el desarrollo de tecnologías avanzadas.
Según Coxon, es imperativo que ninguna empresa desarrolle una inteligencia artificial que supere a los humanos sin la intervención de regulaciones gubernamentales o una desaceleración coordinada del progreso en este campo. "En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero, a pesar del riesgo", afirmó el investigador.
Cambios en la política de seguridad de Anthropic
En febrero, Anthropic tomó una decisión controvertida al retirar de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograban controlar los riesgos asociados. Esta decisión ha suscitado críticas y ha aumentado la presión sobre la empresa para demostrar que prioriza la seguridad en su desarrollo tecnológico.
A finales de julio, más de mil empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, firmaron una carta instando a Washington a establecer un mecanismo de frenado para el desarrollo de inteligencia artificial. Este llamado a la acción refleja una creciente preocupación por los posibles riesgos que la inteligencia artificial puede representar para la humanidad.
La voz de los líderes de la industria
El debate sobre la seguridad de la inteligencia artificial ha llegado a los niveles más altos de la industria. El jefe científico de OpenAI, Jakub Pachocki, también se ha pronunciado sobre la situación actual, afirmando que "el momento actual llama por extrema precaución" y que es fundamental que exista una coordinación internacional para abordar los desafíos que plantea esta tecnología.
Las declaraciones de Coxon, junto con las preocupaciones expresadas por otros líderes en el campo de la inteligencia artificial, subrayan la necesidad urgente de un enfoque más responsable y ético en el desarrollo de tecnologías que tienen el potencial de cambiar la vida tal como la conocemos.
Publicar un comentario