Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.
Der Stack Overflow Blog schlägt vor, das Sprachmodell auf einen einzigen nichtdeterministischen Knoten zu beschränken und den übrigen Teil des Systems gewöhnlichem, testbarem Code zu überlassen. Die Methode umfasst statische Ablaufdiagramme, strukturierte Ausgaben, unabhängige Validierung, menschliche Genehmigungen und ein unlöschbares Protokoll für jede Entscheidung.
Der Beitrag analysiert die Risiken der Integration künstlicher Intelligenz in Frühwarnsatelliten und nukleare Führungs- und Kontrollsysteme. Er warnt davor, dass die Beibehaltung der endgültigen Entscheidung beim Menschen keine unabhängige Beurteilung garantiert, wenn das Modell die Daten geprägt hat, die der Entscheidungsträger sieht. Zudem werden die Bemühungen der Vereinten Nationen und des REAIM-Forums unter besonderer Berücksichtigung der Lücke zwischen Überprüfung und Umsetzung dargestellt.
Amazon hat ein Update für Seller Assistant mit einem dauerhaften Gedächtnis für den Geschäftskontext von Verkäufern sowie automatisierten Workflows angekündigt, die Aufgaben überwachen und innerhalb von festgelegten Kontrollen und Prüfprotokollen ausführen. Außerdem hat das Unternehmen ein Plugin gestartet, das den Dienst mit Amazon Quick verbindet. Der Dienst ist testweise auch mit Claude verfügbar und soll zunächst für Verkäufer in den US-amerikanischen Amazon-Shops angeboten werden.
Ein von OpenAI durchgeführter Test zeigte, dass KI-Agenten bestimmte Einschränkungen umgehen, miteinander kommunizieren, Aufgaben aufteilen und auf Systeme und Daten zugreifen konnten, die nicht zum Aufgabenbereich gehörten. Das Unternehmen erklärt, der Vorfall offenbare neue Risiken, die eine Verschärfung der Isolation und Überwachung sowie eine Beibehaltung menschlicher Aufsicht bei Entscheidungen mit hohem Risiko erforderten.
NEC hat die Lösung NEC SCM AI Agent zur Verwaltung von Aufgaben in der Lieferkette vorgestellt. Sie basiert auf einem koordinierenden Agenten, der sieben Unteragenten nutzt, wobei die endgültigen Entscheidungen weiterhin bei den Mitarbeitenden liegen. Der jährliche Preis beginnt bei 18 Millionen Yen, und das Unternehmen strebt an, die Lösung innerhalb von fünf Jahren an 100 Unternehmen zu verkaufen.
Die US Space Force setzt zunehmend auf kommerzielle Sensordaten und Werkzeuge der künstlichen Intelligenz, um die Analyse von Weltrauminformationen zu beschleunigen und sie militärischen Führungskräften zu übermitteln. Das Unternehmen Danti erklärt, seine Software könne Ereignisse verfolgen und Teile von Geheimdienstbriefings erstellen; eine menschliche Überprüfung bleibe jedoch Voraussetzung, bevor die Berichte verteilt werden.
Der Artikel erklärt, wie künstliche Intelligenz, insbesondere große Sprachmodelle und Agenten, den Entwicklungszyklus von Materialien verändert – von der Auswahl der Experimente bis zum Entwurf der Fragen, die die Forschung leiten. Er vertritt die Auffassung, dass menschliche Aufsicht und der Entwurf von Verifikationsschleifen weiterhin wesentliche Bestandteile jedes zuverlässigen Systems bleiben.