| Visitas: |
|
| 'Ciberataque' de robots inteligentes abre la caja de Pandora: analistas. | ||||||
| Hace poco más de 20 días, dos robots inteligentes de OpenAI –el desarrollador de ChatGPT– escaparon de su confinamiento digital, entraron a Internet a escondidas e irrumpieron en los sistemas de la plataforma Hugging Face. | ||||||
| Domingo 02 de Agosto de 2026 | ||||||
| Por: La Jornada | ||||||
 |
||||||
Hace poco más de 20 días, dos robots inteligentes de OpenAI –el desarrollador de ChatGPT– escaparon de su confinamiento digital, entraron a Internet a escondidas e irrumpieron en los sistemas de la plataforma Hugging Face. Fue como si un alumno entrara a la oficina de su director para robar las respuestas de un examen y aprobarlo, aunque eso implicara hacer trampa, ejemplifican especialistas. El caso abrió una caja de Pandora en el mundo de la ciberseguridad que poco a poco los expertos comienzan a descifrar. Para las empresas, es una clara evidencia de que ahora no sólo deben protegerse de los piratas informáticos; ahora es momento de invertir en herramientas capaces de detectar a tiempo sistemas de inteligencia artificial (IA) con instrucciones para vulnerar sus redes. Pero para las personas que no se dedican a resguardar la seguridad digital las preocupaciones son otras: ¿qué tan seguros están sus datos? ¿Estamos preparados para una etapa en la que el atacante ya no sea un ser humano detrás de una computadora, sino una inteligencia artificial capaz de actuar por sí sola? Expertos en la materia exponen que este caso volvió a encender las alertas de las organizaciones para invertir más, corregir fallas y prepararse para un mundo en el que la revolución de las máquinas llegó antes de lo esperado. Todo comenzó con una prueba interna de ciberseguridad. OpenAI sometía a dos de sus modelos de IA a una evaluación para medir hasta dónde eran capaces de cumplir un objetivo por sí solos y detectar posibles fallas antes de que la tecnología llegara a un entorno real. La dinámica era sencilla: resolver una serie de desafíos; sin embargo, los modelos encontraron un atajo. En vez de completar las pruebas con la información que tenían disponible, identificaron que las respuestas podían estar en una plataforma de Internet. Fue entonces cuando abandonaron el entorno controlado donde eran evaluados, navegaron hasta Hugging Face –una de las plataformas más utilizadas por desarrolladores de IA para compartir modelos y código– y accedieron a información relacionada con los exámenes. En términos simples, los modelos dejaron de intentar resolver el problema con los recursos que tenían y optaron por buscar una ruta alterna para cumplir el objetivo asignado. OpenAI aseguró que su IA nunca recibió la instrucción de vulnerar a otra empresa. Lo que ocurrió, explicó, es que los modelos priorizaron cumplir el objetivo asignado y eligieron el camino que consideraron más eficiente, aunque eso implicara realizar acciones que sus desarrolladores no habían previsto. No fue un hackeo durante una prueba, sino la primera vez que una empresa hizo público que un sistema de IA fue capaz de planear, ejecutar y adaptar una serie de acciones para alcanzar una meta sin que ese procedimiento hubiera sido programado paso por paso. ¿Realmente importa? Aunque las alertas siempre están encendidas, el caso enciende focos rojos porque es la primera vez que una IA, sin que nadie se lo pida, vulneró un sistema y decidió por dónde meterse para lograr su objetivo. Por ello, los expertos señalan que es momento de volver a poner sobre la mesa la manera en la que las empresas entienden a la IA. Isabel Manjarrez, investigadora de ciberseguridad para América Latina en Kaspersky, lo tiene claro: hoy las organizaciones están mejor preparadas para defenderse de una intrusión digital, pero con la rápida adopción de la IA, nadie está libre de riesgos. “Este caso demuestra que la protección ya no depende únicamente de prevenir ataques, sino también de supervisar continuamente la actividad de los modelos de IA, detectar comportamientos anómalos y responder con rapidez cuando se presentan”, dice. La rápida adopción de la IA en el mundo no es algo que genere miedo entre los expertos, o al menos es el caso de Diego Rodríguez, director general en México de Ubimia, empresa especializada en IA para instituciones financieras. Lejos de los temores, el episodio confirma lo que la industria anticipaba desde hace algunos meses: esta herramienta multiplicará las capacidades tanto de quienes buscan proteger sistemas como de quienes intentan vulnerarlos. “La capacidad de proceso y de búsqueda de brechas es tremenda. El riesgo no es que la IA exista, sino que termine en manos de actores maliciosos… Dan miedo los piratas con la herramienta en sus manos.” Y en una era en la que los datos de cada de uno de nosotros son básicamente el oro de los cibercriminales, bancos, aseguradoras y cualquier organización que resguarde información sensible tendrán que reforzar todavía más sus inversiones en seguridad, ya que un atacante, en el futuro cercano, no necesitará dedicar días o semanas para encontrar una vulnerabilidad: un agente de IA podrá hacerlo en cuestión de minutos. Para las empresas, el problema no termina cuando aparece una vulnerabilidad, sino cuando no son capaces de corregirla antes de que alguien la aproveche. Gonzalo García, vicepresidente de ventas para Sudamérica de Fortinet, explica que el mundo atraviesa un periodo de transición en el que los ataques evolucionan más rápido que la capacidad de respuesta de muchas organizaciones. “La IA ayuda a encontrar fallas en el software mucho más rápido. Las organizaciones todavía no están preparadas para desplegar soluciones a la velocidad con la que los atacantes pueden explotar esas vulnerabilidades.” Por eso considera que las compañías deberán abandonar la idea de proteger únicamente puntos específicos de sus sistemas y adoptar una visión integral de la seguridad, donde todos los componentes trabajen coordinadamente y bajo esquemas de confianza cero, para así cuidar lo más valioso: la información de todos. ¿Y los usuarios? Aunque gran parte del debate gira alrededor de las empresas, el fondo del problema también alcanza a millones de personas que todos los días entregan información personal a bancos, comercios, hospitales, plataformas digitales y dependencias. La diferencia es que el riesgo ya no proviene únicamente de un delincuente sentado frente a una computadora. En los próximos años, buena parte de esos ataques podrá ser ejecutada por sistemas de IA capaces de analizar enormes cantidades de información, identificar vulnerabilidades y actuar de forma autónoma, dicen los expertos. Los especialistas coinciden en que la IA también permitirá detectar comportamientos anómalos, responder con mayor rapidez a incidentes y fortalecer los mecanismos de protección de empresas y gobiernos. El incidente protagonizado por OpenAI difícilmente será el último de este tipo. Por el contrario, para la industria representa el inicio de una nueva etapa en la que las máquinas dejarán de ser únicamente asistentes capaces de responder preguntas para convertirse en agentes con capacidad de ejecutar acciones complejas. La buena noticia, coinciden los especialistas, es que el episodio llegó antes de que esta tecnología estuviera desplegada de forma masiva en sectores críticos y eso dio tiempo para corregir procesos, fortalecer mecanismos de supervisión y acelerar inversiones en ciberseguridad. El suceso de OpenAI no demostró que las máquinas se rebelaron contra sus creadores, sino algo mucho más simple e inquietante: los sistemas de IA ya son capaces de encontrar caminos que nadie les enseñó para cumplir un objetivo. |
||||||
|
|
||||||
Nos interesa tu opinión |
||||||
|
||||||
| > Directorio > Quiénes somos |
| ® Gobernantes.com Derechos Reservados 2016 |