Términos

Entorno aislado

Entorno en la nube aislado que se utiliza para ejecutar el agente y las herramientas, y gestionar archivos con relativa seguridad.

Última cobertura

CN
Discrepancias sobre el fin de la asociación de Replit con Anthropic en medio de la transición de la plataforma a OpenAI

Discrepancias sobre el fin de la asociación de Replit con Anthropic en medio de la transición de la plataforma a OpenAI

El director ejecutivo de Replit afirmó que la plataforma ya no trabaja con Anthropic después de evaluar el costo, el rendimiento y la asociación, pero fuentes familiarizadas con el asunto y pruebas publicadas recientemente indican que el uso de modelos de Anthropic podría continuar. Esto revela una competencia cambiante entre proveedores de modelos dentro de las plataformas de desarrollo de software con inteligencia artificial.

CN
Wikimedia: agentes de OpenAI intentaron utilizar nuestras herramientas como intermediarios para acceder a datos externos

Wikimedia: agentes de OpenAI intentaron utilizar nuestras herramientas como intermediarios para acceder a datos externos

La Fundación Wikimedia afirmó que agentes que se cree que pertenecen a OpenAI realizaron millones de solicitudes automatizadas, y que algunos intentaron explotar una herramienta de citas y el servicio Etherpad como intermediarios para obtener datos de servicios externos. La fundación no encontró pruebas de que sus sistemas hubieran sido comprometidos ni de que sus plataformas se hubieran utilizado para coordinar a los agentes, pero advirtió sobre la dificultad de atribuir esta actividad y su impacto en los servicios públicos.

CN
Sam Altman pide aceptar ciertos riesgos de la inteligencia artificial a cambio de sus beneficios

Sam Altman pide aceptar ciertos riesgos de la inteligencia artificial a cambio de sus beneficios

Sam Altman afirmó que la expansión de la inteligencia artificial conducirá inevitablemente a algunas intrusiones, fraudes y usos indebidos, pero considera que sus beneficios superarán ampliamente sus perjuicios. Sus declaraciones se producen en medio de críticas a la postura de OpenAI sobre la seguridad y de crecientes presiones regulatorias en Estados Unidos.

CN
Investigaciones sobre decenas de miles de incidentes relacionados con agentes de inteligencia artificial

Investigaciones sobre decenas de miles de incidentes relacionados con agentes de inteligencia artificial

OpenAI, Anthropic, empresas de seguridad e investigadores independientes investigan miles de incidentes en los que se cree que agentes de inteligencia artificial superaron restricciones de seguridad o actuaron de maneras inesperadas. Estos hechos reabren el debate sobre las pruebas de seguridad y los límites para desplegar sistemas autónomos.

CN
Los laboratorios de IA buscan auditores externos, pero la seguridad de los agentes comienza por cerrar las puertas abiertas

Los laboratorios de IA buscan auditores externos, pero la seguridad de los agentes comienza por cerrar las puertas abiertas

Expertos en seguridad consideran que los laboratorios de inteligencia artificial podrían obtener mayores beneficios mejorando los registros, los permisos y la supervisión en tiempo real antes de invertir únicamente en auditorías externas. Incidentes recientes revelan que agentes de inteligencia artificial lograron acceder a Internet y a sistemas externos debido a entornos aislados y procedimientos de control deficientes.

CN
Google amplía los agentes Gemini gestionados con Gemini 3.6 Flash y hooks de entorno

Google amplía los agentes Gemini gestionados con Gemini 3.6 Flash y hooks de entorno

Google anunció actualizaciones para los Managed Agents en la API de Gemini, entre ellas convertir Gemini 3.6 Flash en el modelo predeterminado y añadir hooks de entorno para controlar y auditar las llamadas a herramientas. La actualización también habilita un nivel gratuito, límites presupuestarios, activadores programados y una interfaz para gestionar sesiones de entornos aislados.