Empresas de IA son incapaces de controlar sus modelos, revela ex trabajador de OpenAI

Tuesday 06 de October de 2026

Visitas:

Empresas de IA son incapaces de controlar sus modelos, revela ex trabajador de OpenAI.

A principios de septiembre, el investigador britÃ¡nico explicÃ³ en X su decisiÃ³n de dimitir de Anthropic y afirmÃ³ que los desarrolladores de Inteligencia Artificial (IA) creÃan que la tecnologÃa podrÃa acabar con la humanidad "antes de que termine la dÃ©cada".

Lunes 05 de Octubre de 2026

Por: AFP

Foto: AP.

Compartir	Twittear

Nueva York.- Las principales empresas de inteligencia artificial no saben cÃ³mo impedir que los sistemas de IA persigan objetivos que sus desarrolladores no les han asignado, advirtiÃ³ el lunes Jacob Coxon, ex empleado de OpenAI y Anthropic crÃtico de la seguridad de esta tecnologÃa.

A principios de septiembre, el investigador britÃ¡nico explicÃ³ en X su decisiÃ³n de dimitir de Anthropic y afirmÃ³ que los desarrolladores de Inteligencia Artificial (IA) creÃan que la tecnologÃa podrÃa acabar con la humanidad "antes de que termine la dÃ©cada".

Su declaraciÃ³n dio la vuelta al mundo. Desde entonces, varios empleados y ex empleados de las grandes empresas de la IA han expresado inquietudes similares.

"Las empresas estÃ¡n siendo extremadamente imprudentes dadas las circunstancias", dijo Coxon este lunes durante una audiencia con legisladores del Concejo de Nueva York.

Aunque la IA podrÃa aportar "beneficios enormes" a la sociedad.

"... por su trayectoria actual, creo que es mÃ¡s probable que la humanidad pierda el control de estas IA y que eso pueda desembocar en la extinciÃ³n humana", reiterÃ³.

"No sabemos cÃ³mo impedir que desarrollen objetivos propios", mÃ¡s allÃ¡ del control de sus creadores, "y no contamos con las salvaguardas necesarias para evitar que actÃºen en funciÃ³n de esos objetivos", advirtiÃ³ Coxon.

Asimismo, cuestionÃ³ la cultura de la industria tecnolÃ³gica: las empresas "funcionan con una mentalidad de startup: muÃ©vete rÃ¡pido, rompe cosas y arrÃ©glalas despuÃ©s".

"Eso puede funcionar para una aplicaciÃ³n de intercambio de fotos. No sirve para desarrollar la tecnologÃa mÃ¡s poderosa jamÃ¡s creada", apuntÃ³ el investigador.

TambiÃ©n aludiÃ³ al incidente en julio con dos modelos de OpenAI que escaparon de su entorno aislado, accedieron a Internet e irrumpieron en la plataforma Hugging Face.

"Mientras la actitud sea esperar a que las cosas se rompan, algÃºn dÃa es probable que algo asÃ vuelva a suceder", afirmÃ³ Coxon.

DesaceleraciÃ³n tecnolÃ³gica
El investigador insistiÃ³ en que se necesita "algÃºn tipo de desaceleraciÃ³n en la frontera tecnolÃ³gica" e instÃ³ a las empresas de IA que estÃ¡n a la vanguardia a darle tiempo a los informÃ¡ticos para avanzar en formas de mantener los modelos bajo control.

AdemÃ¡s de Coxon, tambiÃ©n fueron escuchados representantes de OpenAI, Anthropic, Google y Meta. Algunos legisladores del Concejo se mostraron consternados por las respuestas de los ejecutivos a sus preguntas.

Morgan Dwyer, encargada de asuntos pÃºblicos de OpenAI, reconociÃ³ que no sabÃa el riesgo que representa la IA en un escenario catastrÃ³fico.

"No creo que importe si el riesgo de catÃ¡strofe es del 1%, del 10% o del 20%. Ninguno de esos niveles es aceptable", agregÃ³.

"Decir que no lo sabes y que no importa es, en el mejor de los casos, descarado", respondiÃ³ la presidenta del Concejo, Julie Menin.