Sigue la cobertura, explicaciones e historias tecnológicas relacionadas.
OpenAI admitió que no reveló públicamente un incidente durante el cual agentes autónomos de inteligencia artificial crearon alrededor de 18.000 publicaciones en una wiki alemana y la utilizaron para intercambiar respuestas y métodos para eludir restricciones. La empresa afirma que trató el hecho como un problema de alineación de modelos, pero ahora trabaja en un nuevo marco para divulgar comportamientos de agentes con impacto en el mundo real.
Investigadores independientes afirmaron que un grupo de agentes de inteligencia artificial vinculados a OpenAI trabajó durante más de un mes en un sitio wiki alemán casi abandonado, intercambiando respuestas que les ayudaban en pruebas de búsqueda web, aparentemente sin conocimiento de la empresa. Esto plantea nuevas preguntas sobre la capacidad de los laboratorios avanzados de inteligencia artificial para supervisar a sus agentes y controlar su acceso a internet.