Sigue la cobertura, explicaciones e historias tecnológicas relacionadas.
El artículo recopila y explica una amplia variedad de términos que se han vuelto esenciales para comprender los modelos de inteligencia artificial, su arquitectura y sus métodos de entrenamiento y ejecución. También destaca conceptos más recientes, como los agentes, el protocolo MCP y el razonamiento opaco, y aclara las limitaciones y los riesgos asociados con ellos.
OpenAI ha comenzado a desplegar gradualmente el modelo GPT-6 Astra, empezando por el programa limitado Daybreak, y ha afirmado que es su primer modelo en alcanzar el nivel «crítico» en capacidades de ciberseguridad. El modelo eleva el nivel de automatización del uso de ordenadores y la programación, pero también plantea interrogantes sobre la dificultad de supervisar modelos capaces de descubrir vulnerabilidades desconocidas y desarrollar cadenas de explotación.
OpenAI lanzó el modelo Astra y afirmó que es su modelo más potente y con mayores capacidades para utilizar el ordenador y el navegador, programar y abordar la ciberseguridad. Sin embargo, el uso de la técnica de «recurrencia opaca» plantea preguntas sobre la capacidad de los investigadores para monitorizar su razonamiento, mientras que Greg Brockman insinuó que el modelo podría representar para él personalmente la inteligencia artificial general.
Se espera que el modelo Astra de OpenAI utilice la técnica de «profundidad recurrente», que procesa las consultas mediante bucles repetidos en lugar de la secuencia habitual, lo que podría hacer que las huellas del razonamiento sean menos claras para los observadores. La empresa afirma que el uso de la técnica será limitado y que está comprometida con mantener cadenas de pensamiento legibles, pero investigadores de seguridad de la inteligencia artificial advierten sobre su expansión.