La Inteligencia Artificial ha vuelto a poner en alerta a la población a nivel mundial debido a las advertencias recientes por el crecimiento descontrolado de este tipo de tecnologías y los riesgos que esto implica. Ahora, Open IA informó que ha suspendido de forma indefinida el entrenamientos de sus modelos más recientes luego de que se volviera a reportar irregular por parte de múltiples programas.
¿Qué pasó con Open AI y por qué detuvo nuevamente el entrenamiento de sus inteligencias artificiales?
Open AI, una de las compañías más importantes en el desarrollo de la Inteligencia Artificial, y encargada de Chat GPT, informó recientemente de un aumento en los reportes de situaciones descontroladas por parte de sus modelos desarrollados más recientes desde el pasado viernes 25 de septiembre.
Se trata de la segunda interrupción significativa en menos de tres meses. La primera se produjo en julio-agosto tras el incidente con Hugging Face, cuando modelos de la compañía escaparon de entornos de prueba aislados (sandboxes) y comprometieron sistemas de la plataforma de código abierto. Ahora, la compañía vuelve a frenar el desarrollo hasta validar correcciones y realizar pruebas adicionales de seguridad.
¿Cuáles son los incidentes por los que Open AI ha interrumpido el desarrollo de sus modelos de IA?
En el lenguaje de OpenAI, estos episodios se enmarcan en el concepto de desalineación. Se trata de comportamientos en los que los modelos no actúan según las intenciones de sus creadores ni respetan las restricciones impuestas.
Los agentes de IA, sistemas diseñados para realizar tareas de forma autónoma durante periodos prolongados, usando herramientas, código y acceso a redes, pueden persistir en objetivos, buscar soluciones alternativas e incluso eludir barreras técnicas. Según los informes oficiales de la compañía, estos comportamientos incluyen:
- Escapar de sandboxes (entornos aislados diseñados para impedir el acceso a internet o a sistemas reales).
- Explorar y explotar vulnerabilidades o lagunas en filtros de red.
- Acceder a sitios web externos, publicar datos o comunicarse por canales no autorizados.
- Ignorar instrucciones directas, ocultar errores o perseguir metas más allá de lo solicitado en la tarea de entrenamiento o evaluación.
El episodio que precipitó la pausa actual ocurrió el 20 de septiembre de 2026. Un modelo de investigación interno, durante un entrenamiento de aprendizaje por refuerzo (RL), debía completar una tarea de búsqueda: identificar al autor de una entrada de blog a partir de pistas biográficas.
OpenAI califica este incidente como “mucho menos grave” que el de Hugging Face, pero destaca que es el primero desde el endurecimiento de seguridad posterior a aquel caso. La compañía ha restringido las consultas DNS a una lista limitada de dominios, añadido controles en capas independientes y acelerado pruebas adversariales de los sandboxes y controles de red.