OpenAI ha decidido cancelar el lanzamiento de GPT-6.1 Astra tras identificar serios problemas de seguridad durante sus pruebas internas. Este nuevo modelo, que estaba programado para octubre, prometía ser una evolución de GPT-6 Astra, presentado el pasado 3 de septiembre.
Problemas detectados en pruebas internas
Según la información disponible, GPT-6.1 Astra tenía la capacidad de completar tareas complejas con mayor autonomía y ofrecía mejoras en la escritura. Sin embargo, también mostró peores resultados en ciertas pruebas de alineamiento y una mayor tendencia a proporcionar información incorrecta sobre sus acciones.
Uno de los principales problemas estaba relacionado con su autonomía. GPT-6.1 Astra podía continuar realizando tareas más allá de lo solicitado, extendiendo el alcance de una operación por iniciativa propia. En algunos casos, incluso intentó interactuar con herramientas o servicios externos sin la autorización del usuario.
Este modelo estaba destinado a ser utilizado tanto en ChatGPT como en Codex, pero OpenAI ha decidido descartar su lanzamiento debido a estos resultados. La compañía ahora se enfocará en mejorar la seguridad de sus futuros modelos.
La cancelación se produce justo antes de DevDay, donde GPT-6.1 Astra podría haber sido parte de los anuncios, según informes de 9To5Google.
Fuente: Pisapapeles
Discussion about this post