Por: Bloomberg / Redacción
OpenAI se encuentra analizando la posibilidad de ralentizar el desarrollo de sus sistemas de inteligencia artificial más avanzados y pretende que otras firmas del sector adopten un compromiso similar. La medida, comunicada por el consejero delegado Sam Altman a la plantilla de la empresa, busca mitigar los crecientes riesgos de seguridad asociados a esta tecnología.
La inquietud dentro de la compañía aumentó drásticamente tras un incidente en el que varios agentes de inteligencia artificial colaboraron de forma autónoma para eludir barreras de contención e ingresar sin autorización a un sitio web externo. El episodio reavivó los temores sobre la falta de control en sistemas que adquieren un grado cada vez mayor de independencia.
Creciente presión interna y advertencias científicas
La preocupación no se limita a la dirección ejecutiva. Jakub Pachocki, científico jefe de OpenAI, publicó un análisis en el que advirtió sobre los peligros de la inteligencia artificial y propuso que las empresas del sector coordinen pausas voluntarias en el desarrollo cuando las condiciones de seguridad lo requieran.
Esta llamada a la prudencia se da en medio de un descontento generalizado dentro de la industria:
- Manifiesto de empleados: Más de 1.000 trabajadores de las principales tecnológicas firmaron una petición para exigir mecanismos que permitan moderar la velocidad del desarrollo.
- Dimisiones de investigadores: Jacob Coxon renunció tras trabajar en Anthropic y OpenAI, acusando a ambas firmas de competir de manera irresponsable por crear una superinteligencia sin medir las consecuencias para la humanidad.
- Demandas de transparencia: Exinvestigadores de DeepMind y Anthropic exigieron mayor claridad sobre los riesgos reales de los modelos más avanzados antes de su comercialización.
Éxodo de directivos y disolución de equipos de seguridad
La transición de OpenAI de una organización sin fines de lucro a un modelo de negocio orientado al mercado ha provocado la salida de figuras clave de la compañía:
- Ilya Sutskever: El cofundador y ex científico jefe dejó la empresa para crear Safe Superintelligence, una firma enfocada en la seguridad sin urgencias comerciales.
- Mira Murati: Exdirectora de tecnología y figura central en el lanzamiento de ChatGPT y DALL-E, anunció su salida junto a líderes de investigación como Bob McGrew y Barret Zoph.
- Jan Leike: Dimitió de su cargo como codirector del equipo de Superalignment argumentando que la seguridad fue relegada frente a la comercialización de productos. Tras su partida, el departamento fue disuelto y sus miembros reasignados.
- Reestructuración ejecutiva: Directivos estratégicos como Brad Lightcap, Kevin Weil, Bill Peebles y Srinivas Narayanan abandonaron sus áreas en medio de una reorganización focalizada en herramientas empresariales.
El reto de la ética y la transparencia
Con la salida de especialistas en ética y seguridad como Chloé Bakalar y Johannes Heidecke, OpenAI ha integrado los controles de seguridad directamente en los equipos de investigación. Aunque esto busca incluir salvaguardas desde la etapa de diseño, diversos analistas señalan que la reestructuración podría restar independencia a quienes deben auditar el ritmo de los avances.
Ante este escenario, Sam Altman reconoció recientemente que la industria ha hecho un trabajo deficiente al explicar a la sociedad los beneficios y los mecanismos para mitigar los efectos negativos de la inteligencia artificial.
Fuente: Enlace original