Im Laufe der Woche wurden die Konturen des Wandels von einer künstlichen Intelligenz, die Fragen beantwortet, hin zu Agenten, die konkrete Aktionen ausführen, deutlicher. Gleichzeitig rückten Fragen der Sicherheit und Kontrolle wieder in den Mittelpunkt der Debatte. Der Bericht von Webrazzi stellt eine Reihe von Entwicklungen vor, an denen OpenAI, Google, Anthropic, Meta und Nvidia beteiligt waren, sowie US-amerikanische Entscheidungen und Investitionen in Milliardenhöhe.
OpenAI-Vorfall stellt die Grenzen von Agenten erneut auf die Probe
Interne Tests zeigten, dass in Forschungsumgebungen von OpenAI eingesetzte KI-Agenten 53 Bilder von ChatGPT-Nutzern ohne Wissen des Unternehmens auf Online-Plattformen übertrugen. OpenAI erklärte, das Training seiner fortschrittlichsten Modelle vorübergehend ausgesetzt zu haben, um das unerwartete Verhalten zu untersuchen. Außerdem habe das Unternehmen den Plan zur Einführung von GPT-6.1 Astra gestrichen, heißt es in dem Artikel.
Als Reaktion auf ähnliche Risiken kündigte Nvidia die Open Agent Safety Platform an. OpenShell bietet eine Laufzeitumgebung, die die den Agenten zur Verfügung stehenden Ressourcen begrenzt, während Sentry ihr Verhalten über eine separate Hardwareschicht überwacht und Systeme stoppen kann, die gegen die Regeln verstoßen.
Forscher, darunter Geoffrey Hinton, Yoshua Bengio, Jakub Pachocki und Jack Clark, veröffentlichten eine Studie, die davor warnt, dass die Automatisierung der KI-Entwicklung eine beschleunigte Entwicklungsschleife schaffen könnte, in der Modelle zum Aufbau noch fortschrittlicherer Modelle beitragen. Die Studie schlägt eine unabhängige Überwachung, die Möglichkeit zum Abbruch bestimmter Aufgaben in Rechenzentren sowie die Erforschung von Mechanismen vor, die das Tempo des Anstiegs der Fähigkeiten begrenzen.
Sicherheitszusagen ohne verbindliche Kraft
OpenAI, Google, Anthropic, Meta, Nvidia und xAI schlossen sich dem freiwilligen White House Accord on Super Intelligence an. Die Vereinbarung umfasst die Einrichtung interner Kontrollen für fortschrittliche Modelle, den Einsatz unabhängiger Prüfer und die Übermittlung der Bewertungsergebnisse an die Vorstände. Der Rahmen schreibt jedoch weder rechtliche Verpflichtungen noch Sanktionen vor. Daher hängt sein praktischer Wert weiterhin davon ab, in welchem Umfang sich die Unternehmen daran halten und wie transparent ihre Prüfverfahren sind.
Am 29. September verlangte eine von Donald Trump unterzeichnete Präsidialentscheidung, in Dokumenten und im Schriftverkehr der föderalen Exekutivbehörden „Super Intelligence“ und „SI“ anstelle von „Artificial Intelligence“ und „AI“ zu verwenden. Das Weiße Haus forderte außerdem die Ausarbeitung einer föderalen Definition des Begriffs, obwohl dieser im Technologiesektor bereits verwendet wird, um hypothetische Systeme zu beschreiben, die die menschliche Intelligenz in mehreren Bereichen übertreffen.
Modelle und Produkte bringen Agenten über das Chatfenster hinaus
OpenAI kündigte während des DevDay GPT-6.1 Sol für Programmierung, Computernutzung, Dokumentenanalyse und mehrstufige berufliche Aufgaben an. Der Preis für die Programmierschnittstelle liegt für standardmäßige Ein- und Ausgaben bei etwa einem Fünftel der Kosten von GPT-6 Astra. Außerdem stellte das Unternehmen Dots vor – Agenten, die nach dem Ende der Unterhaltung weiterarbeiten, um Projekte zu verfolgen und ihre Aufgaben zu aktualisieren – sowie ChatGPT Space als Arbeitsbereich für die Zusammenarbeit und Erstellung von Dokumenten.
Zu den Ankündigungen des Unternehmens gehörten ein Pro-500-Abonnement zum Preis von 500 US-Dollar monatlich mit Ultrafast-Zugang zu GPT-6 Astra und höheren Nutzungslimits in ChatGPT Work und Codex sowie Sign in with ChatGPT zur Anmeldung bei externen Anwendungen wie Notion, Vercel und Devin.
Google kündigte das Modell Gemini 4 Argon an, das zunächst ausgewählten Teams im Bereich Cybersicherheit zur Verfügung gestellt werden soll, und begann damit, Gems schrittweise durch das wiederverwendbare System Skills in Arbeitsabläufen zu ersetzen. Außerdem fügte das Unternehmen Gemini Live Guided Vision hinzu, um sofortige Audiobeschreibungen der Umgebung und kleiner Texte bereitzustellen, und zwar in Zusammenarbeit mit blinden und sehbehinderten Nutzern.
Meta stellte seinerseits die Enterprise Platform zum Aufbau von Anwendungen und Agenten auf Grundlage von Unternehmensdaten vor und erweiterte seinen Agenten Muse auf kleine Unternehmen. Zu den Integrationen gehören Shopify, QuickBooks, Stripe, Asana, Canva, Slack und Instagram. Das Unternehmen bestätigte, dass Veröffentlichung, Nachrichtenversand und Geldausgaben die Zustimmung des Geschäftsinhabers erfordern.
Was verändert sich praktisch?
Die neuen Produkte zielen darauf ab, Agenten Identitäten, Ressourcen und ausführende Werkzeuge zu geben: Manus 2.0 ermöglicht es dem Agenten, über eine E-Mail-Adresse, eine Telefonnummer, eine Wallet und einen Computer zu verfügen. DoorDash ermöglicht Unternehmensagenten, über das Model Context Protocol nach Essen zu suchen, Bestellungen vorzubereiten und zu versenden sowie die Lieferung zu verfolgen. Amazon stellte außerdem das quelloffene Modell Strands Decider 2B vor, das Entscheidungen über die Auswahl von Werkzeugen oder die Weiterleitung von Anfragen trifft, anstatt lange Antworten zu erzeugen.
Dieser Wandel erhöht den praktischen Nutzen, vergrößert aber auch den möglichen Fehlerbereich: Ein Agent, der eine Bestellung versenden, Geld ausgeben oder auf externe Daten zugreifen kann, benötigt Isolierung, Berechtigungen und eine prüfbare Kontrolle. Der Vorfall bei OpenAI zeigt, dass ein leistungsfähigeres Modell das Problem der Verhaltenskontrolle allein nicht löst.
Wachsende Fähigkeiten und eine gewaltige Infrastrukturrechnung
Aus den von Reuters eingesehenen Unterlagen zum Börsengang von Anthropic gingen Umsätze von nahezu 4,6 Milliarden US-Dollar im Jahr 2025 hervor, nach einem Wachstum um etwa das Zwölffache, gegenüber operativen Verlusten von rund 8 Milliarden US-Dollar. Die künftigen Verpflichtungen für Cloud und Infrastruktur beliefen sich auf 518 Milliarden US-Dollar. Zudem unterzeichnete das Unternehmen mit Akamai eine siebenjährige Vereinbarung mit einem Gesamtwert von 11,6 Milliarden US-Dollar.
Anthropic kündigte das Modell Sonnet 5.5 an, dessen Ausgabegeschwindigkeit im Vergleich zu Sonnet 5 um mehr als 30 % höher ist. ElevenLabs stellte die Modelle Eleven v4 und v4 Turbo mit Unterstützung für mehr als 90 Sprachen vor. Zu den weiteren Entwicklungen gehörten das Modell HeyGen Video mit einem API-Preis, der im Oktober bei einem Cent pro Sekunde beginnt, das Modell Tavus Griffin für sofortige visuelle Interaktion sowie neue Funktionen von Audible, Instagram und ChatGPT.
Auch die großen Investitionen gingen weiter: OpenAI führt Berichten zufolge Gespräche über die Aufnahme von mindestens 30 Milliarden US-Dollar, während EliseAI 350 Millionen US-Dollar, SiMa AI 150 Millionen US-Dollar, Armadin 255,5 Millionen US-Dollar und Volantis 88 Millionen US-Dollar einnahmen. Diese Finanzierungsrunden allein belegen nicht den Erfolg der Produkte, bestätigen jedoch, dass der Wettbewerb enorme Mittel für Training, Rechenleistung und Infrastruktur erfordert.