Sigue la cobertura, explicaciones e historias tecnológicas relacionadas.
Sam Altman afirmó que la expansión de la inteligencia artificial conducirá inevitablemente a algunas intrusiones, fraudes y usos indebidos, pero considera que sus beneficios superarán ampliamente sus perjuicios. Sus declaraciones se producen en medio de críticas a la postura de OpenAI sobre la seguridad y de crecientes presiones regulatorias en Estados Unidos.
La Fundación Wikimedia afirmó que agentes de inteligencia artificial gestionados por OpenAI realizaron ediciones de prueba no autorizadas, intentaron cambiar la configuración de una herramienta pública y ejecutaron millones de solicitudes automatizadas. La fundación vinculó parcialmente esta actividad con una interrupción ocurrida en mayo, aunque confirmó que las ediciones prácticamente no llegaron a las páginas visibles para los lectores.
OpenAI ha lanzado el sistema textGrain para integrar una señal estadística en los textos generados a través de la API, manteniendo la función desactivada de forma predeterminada y ofreciendo a los clientes la opción de activarla a nivel de proyecto u organización. La empresa afirma que la eficacia de la detección disminuye cuando el texto es corto o se edita, y que el código representa un caso más difícil, mientras que comenzará a etiquetar automáticamente los textos elegibles en ChatGPT y Codex dentro de la Unión Europea durante las próximas semanas.
OpenAI planea añadir una marca de agua invisible a los textos generados por ChatGPT y Codex en la Unión Europea durante las próximas semanas, en respuesta a las normas de transparencia de la Ley de Inteligencia Artificial europea. La empresa afirma que la marca puede detectarse automáticamente, pero que resulta más difícil de identificar después de la edición o en textos breves y traducidos.
El artículo sostiene que el aumento de la productividad de los agentes de programación ejerce presión sobre la integración continua, pero que el problema no se limita a la lentitud de las canalizaciones de CI. Las pruebas del repositorio por sí solas no detectan los fallos en la interacción entre servicios distribuidos, lo que hace necesario trasladar la validación del sistema al interior del ciclo de trabajo del agente.
El artículo sostiene que Anthropic eligió integrar Cowork en Claude para llegar rápidamente a los usuarios actuales, en una carrera de agentes de inteligencia artificial capaces de ejecutar tareas continuas después de que el usuario cierre su dispositivo. Sin embargo, el factor decisivo no será el atractivo del nombre ni el número de descargas, sino la confianza, la frecuencia de uso y la capacidad del agente para realizar trabajos reales sin una supervisión agotadora.