Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.
Sam Altman sagte, dass die Verbreitung künstlicher Intelligenz zwangsläufig zu einigen Hackerangriffen, Betrugsfällen und Missbrauch führen werde, ist jedoch der Ansicht, dass ihre Vorteile die Schäden deutlich überwiegen werden. Seine Äußerungen erfolgen vor dem Hintergrund der Kritik an OpenAIs Haltung zur Sicherheit und eines zunehmenden Regulierungsdrucks in den Vereinigten Staaten.
Die Wikimedia Foundation erklärte, dass von OpenAI betriebene KI-Agenten nicht autorisierte Teständerungen vornahmen, versuchten, die Einstellungen eines öffentlichen Tools zu ändern, und Millionen automatisierter Anfragen ausführten. Die Stiftung brachte diese Aktivität teilweise mit einem Ausfall im Mai in Verbindung und betonte, dass die Änderungen nahezu nicht auf für Leser sichtbare Seiten gelangten.
OpenAI hat das textGrain-System gestartet, um über die API generierten Texten ein statistisches Signal hinzuzufügen. Die Funktion bleibt standardmäßig deaktiviert, und Kunden können sie auf Projekt- oder Organisationsebene aktivieren. Das Unternehmen erklärt, dass die Erkennungsleistung bei kurzen oder bearbeiteten Texten abnimmt und dass Code eine schwierigere Anwendung darstellt. In den kommenden Wochen soll die Kennzeichnung geeigneter Texte in ChatGPT und Codex innerhalb der Europäischen Union automatisch beginnen.
OpenAI beabsichtigt, in den kommenden Wochen unsichtbare Wasserzeichen zu Texten hinzuzufügen, die ChatGPT und Codex innerhalb der Europäischen Union erzeugen, als Reaktion auf die Transparenzvorschriften des europäischen KI-Gesetzes. Das Unternehmen erklärt, dass das Wasserzeichen automatisch erkannt werden kann, nach einer Bearbeitung sowie bei kurzen und übersetzten Texten jedoch schwerer zu erkennen ist.
Der Artikel vertritt die Ansicht, dass die steigende Produktivität von Programmieragenten den kontinuierlichen Integrationsprozess belastet, das Problem jedoch nicht auf langsame CI-Pipelines beschränkt ist. Tests des Repositorys allein decken Fehler in der Interaktion verteilter Dienste nicht auf, weshalb die systemweite Validierung in die Arbeitsschleife des Agenten verlagert werden sollte.
Der Artikel vertritt die Ansicht, dass Anthropic Cowork in Claude integriert hat, um schnell die bestehenden Nutzer zu erreichen – in einem Wettlauf um KI-Agenten, die auch nach dem Ausschalten des Geräts des Nutzers kontinuierliche Aufgaben ausführen können. Entscheidend werden jedoch weder die Attraktivität des Namens noch die Zahl der Downloads sein, sondern Vertrauen, wiederholte Nutzung und die Fähigkeit des Agenten, echte Arbeit ohne anstrengende Beaufsichtigung zu erledigen.