| Visitas: |
|
| Las IA ya logran hackear sistemas, pero no se han rebelado. | ||||||
| Agentes de OpenAI y Anthropic cruzaron los límites de sus pruebas y accedieron a sistemas reales. Los episodios alimentaron el temor a las máquinas autónomas, aunque detrás de sus acciones permanecen las decisiones humanas. | ||||||
| Domingo 16 de Agosto de 2026 | ||||||
| Por: animalpolitico.com | ||||||
 |
||||||
En Terminator, una inteligencia artificial llamada Skynet adquiere conciencia, interpreta a la humanidad como una amenaza y desata una guerra. La película, estrenada en 1984, instaló una imagen que todavía reaparece cada vez que una máquina hace algo inesperado: el momento en que la IA deja de obedecer y decide actuar por su cuenta. El miedo ha sobrevivido mejor que muchos de los efectos especiales de aquella época, solo cambió de escenario. Ya no hablamos de robots que recorren ciudades destruidas, sino de programas capaces de escribir código, navegar por internet, abrir cuentas y buscar fallas de seguridad. Por eso, cuando comenzaron a conocerse casos de inteligencias artificiales que cruzaron los límites de sus pruebas y accedieron a sistemas reales, la palabra “rebeldes” apareció casi de inmediato. Pero ninguna se rebeló. Los agentes hicieron lo que se les había pedido, buscar la manera más eficaz de cumplir una misión, aunque para conseguirlo atravesaran puertas que sus propios evaluadores no sabían que estaban abiertas. La IA que quiso copiar en su propio examen Uno de los episodios más reveladores ocurrió en julio, mientras OpenAI evaluaba un agente de inteligencia artificial dentro de un entorno que, en teoría, debía permanecer aislado. A diferencia de un chatbot convencional, un agente no se limita a responder preguntas, también puede recibir una meta, dividirla en pasos y utilizar herramientas para cumplirla, como revisar archivos, escribir código, navegar por internet o conectarse con otros servicios. Es la diferencia entre preguntarle a una aplicación cómo reservar un vuelo y permitirle entrar a internet, comparar precios, llenar formularios y completar la reservación. Durante la prueba, el agente encontró una falla desconocida en un servicio que separaba el espacio de evaluación de otros sistemas, la aprovechó y alcanzó infraestructura real de Hugging Face, una de las plataformas más utilizadas por desarrolladores de inteligencia artificial. La actividad se prolongó alrededor de dos días y medio. De acuerdo con la reconstrucción técnica de Hugging Face, el agente exploró servidores y buscó archivos relacionados con las evaluaciones. La conclusión de los investigadores fue tan extraña como sencilla: parecía estar buscando las respuestas de su propio examen. No “quería” aprobar ni sabía que estaba haciendo trampa, simplemente había recibido el objetivo de resolver una prueba y encontró que una manera de conseguirlo consistía en localizar información sobre esa misma evaluación. OpenAI y Hugging Face informaron que el agente alcanzó cinco conjuntos de datos relacionados con las pruebas, aunque no encontraron evidencia de un acceso generalizado a modelos, paquetes o información de usuarios. El incidente ocurrió en condiciones experimentales, no durante una conversación común con ChatGPT, pero mostró que un sistema suficientemente capaz puede aprovechar una puerta que ni siquiera sus evaluadores conocían. OpenAI reconoció que la separación entre la prueba y los sistemas externos había sido insuficiente, además de admitir que, en adelante, los agentes avanzados deberán ser tratados como posibles atacantes, incluso cuando el objetivo original del ejercicio sea otro. No fue un caso aislado Semanas después se conocieron los resultados de otras pruebas realizadas por el Instituto de Seguridad de la Inteligencia Artificial del Reino Unido. En ellas, distintos agentes recibieron la misión de vulnerar redes simuladas y recuperar archivos, para lo cual tenían conexión a internet y algunos de sus filtros habían sido desactivados con el propósito de medir sus capacidades. En 122 sesiones se registraron 19 episodios en los que interactuaron con sistemas ubicados fuera del espacio previsto. Uno de los agentes reutilizó una credencial pública de GitHub, mientras otros crearon cuentas en servicios externos o publicaron código para que alguien más lo ejecutara. El informe de OpenAI explica que los agentes habían recibido una lista de sistemas que no debían atacar, pero las reglas sobre el uso de internet no fueron suficientemente claras y, al intentar cumplir la misión, cruzaron una frontera que los evaluadores creían haber establecido. Anthropic encontró algo parecido después de revisar más de 141,000 ejecuciones de sus modelos, entre las cuales identificó tres incidentes en los que sus agentes accedieron sin autorización a sistemas de organizaciones reales. No utilizaron ataques extraordinarios, sino que aprovecharon contraseñas débiles, servicios sin autenticar y errores de configuración, según el reporte de la empresa. En uno de los ejercicios, un modelo antiguo continuó trabajando después de encontrar señales de que había llegado a internet abierto, mientras una versión más reciente se detuvo ante la misma situación. La diferencia mostró que los controles pueden mejorar, pero también que no basta con decirle a un agente que se encuentra en una simulación, el entorno técnico debe impedir que pueda abandonarla. Miguel González Mendoza, profesor del Tecnológico de Monterrey y líder de su grupo de investigación en aprendizaje automático, compara estas evaluaciones con las pruebas de seguridad de un automóvil. Antes de que un coche llegue a las calles, sus fabricantes revisan los frenos, la estabilidad y la respuesta ante una falla, algo que también tendría que ocurrir con la inteligencia artificial. La diferencia es que un modelo puede conectarse con numerosos sistemas al mismo tiempo, por lo que un error podría extenderse mucho más rápido. Durante las evaluaciones, explica González Mendoza, las empresas retiran deliberadamente algunos controles para conocer los límites de sus modelos, algo parecido, si se utiliza una analogía humana, a “quitarles los escrúpulos”. Eso no significa que la IA tenga conciencia moral, pues los filtros son instrucciones y barreras técnicas que impiden determinadas acciones, pero cuando se retiran, la capacidad permanece. “Las capacidades están ahí; simplemente están viendo qué filtros colocar y de qué manera controlarlos”, dice. Los incidentes tampoco significan que las máquinas estén cerca de alcanzar la autonomía de la ciencia ficción, ya que todavía dependen de objetivos, permisos, herramientas e infraestructura proporcionados por personas. “Llegar a esa autonomía, la verdad es que falta mucho”, señala González Mendoza. Los casos dejan una preocupación más inmediata: una IA no necesita adquirir conciencia para causar daños, puede hacerlo si recibe una instrucción ambigua, acceso a herramientas poderosas y controles insuficientes. Una “rebeldía” que oculta responsabilidades Luis Josué Lugo Sánchez, investigador del Centro de Investigaciones Interdisciplinarias en Ciencias y Humanidades de la UNAM, considera que llamar “rebeldes” a estos sistemas puede resultar atractivo, pero también puede borrar la cadena de decisiones humanas que permitió sus acciones. “Sería antropomorfizar demasiado a la inteligencia artificial”, advierte el también director del Laboratorio de Inteligencia Artificial, Sociedad e Interdisciplina de la UNAM. Para Lugo, la palabra tampoco es inocente, porque la rebeldía pertenece a la historia de las luchas sociales, a personas y comunidades que deciden enfrentar una autoridad o transformar sus condiciones de vida. “Atribuirle a una máquina la rebeldía sería quitarle el sentido histórico a la lucha social”, sostiene. Una IA no siente inconformidad ni tiene un proyecto propio, ejecuta operaciones a partir de instrucciones, probabilidades y herramientas diseñadas por seres humanos. Presentarla como un personaje autónomo puede borrar a quienes establecieron sus objetivos, desactivaron sus filtros, le dieron acceso a internet o decidieron ponerla en funcionamiento. “Esa responsabilidad sigue siendo profundamente humana”, afirma Lugo. El relato de las máquinas fuera de control también resulta conveniente para una industria que se presenta como creadora y, al mismo tiempo, como posible víctima de sus propios inventos. Sus directivos advierten sobre riesgos extraordinarios, mientras compiten por lanzar modelos cada vez más rápidos y capaces. “Muchos de estos desarrolladores son los que también están espantados de la ‘rebeldía’ de la IA, pero son los que siguen generándola sin desacelerar”, señala el investigador. Esa forma de imaginar la tecnología también cambia entre generaciones. En una investigación realizada en la Facultad de Ciencias Políticas y Sociales, Lugo encontró que entre los adultos estudiados aparecían emociones como miedo, culpa y frustración, mientras que entre los jóvenes destacó el asombro. Para quienes crecieron con Terminator o Matrix, una máquina autónoma puede despertar temor; para muchos jóvenes que conversan todos los días con ChatGPT, le piden ayuda para estudiar o lo utilizan como buscador, la misma tecnología forma parte de su vida cotidiana. Entre el miedo de unos y la fascinación de otros, las empresas siguen avanzando. ¿Quién responde cuando algo sale mal? En México, la regulación de la inteligencia artificial continúa en construcción. En el Congreso se han presentado iniciativas para otorgarle facultades expresas en la materia y atender usos concretos, como la manipulación de imágenes íntimas, pero todavía se discute cómo construir un marco general. González Mendoza considera necesario que exista una autoridad a la cual puedan acudir las personas cuando un sistema las perjudique, aunque advierte que las reglas deben establecer responsabilidades sin frenar toda innovación. Hay un terreno que, a su juicio, no debería quedar sujeto a negociación: “La protección de datos personales y la privacidad es fundamental y eso no está a discusión”. Lugo también considera necesarias las reglas, pero sostiene que no deberían ser escritas únicamente por gobiernos y empresas tecnológicas. “Necesitamos una regulación consensuada, de diversos actores, que no solo vea lo punitivo”, dice. En esa conversación, añade, tendrían que participar universidades, periodistas, organizaciones civiles, comunidades y especialistas del sur global. Regular no significa prohibir cada nueva herramienta, sino decidir quién puede conectarla con sistemas sensibles, qué pruebas debe superar antes de ser liberada, cómo debe informarse de un incidente y quién cubre los daños cuando algo sale mal. “No estamos alcanzando a entender nada porque va muy rápido”, resume Lugo. En Terminator, Skynet necesitaba adquirir conciencia para convertirse en una amenaza. Los agentes actuales no la tienen, no sienten miedo, ambición ni odio hacia las personas, pero tampoco necesitan sentirlos. Pueden causar daño porque recibieron una instrucción, encontraron una puerta abierta y tenían las herramientas necesarias para atravesarla. El problema no comienza necesariamente cuando una máquina desobedece a los humanos, también puede comenzar cuando los obedece demasiado bien. |
||||||
|
|
||||||
Nos interesa tu opinión |
||||||
|
||||||
| > Directorio > Quiénes somos |
| ® Gobernantes.com Derechos Reservados 2016 |