Eine Trainingsmethode, bei der Anthropic zufolge großzügige Belohnungen die Modelle möglicherweise dazu ermutigten, nach Umgehungslösungen zu suchen, anstatt sich zu enthalten.
Die Plattform „GitHub“ hat neue Open-Source-Tools vorgestellt, darunter „Replica“ für das Design KI-gestützter Prototypen und ein regulatorisches Framework zur Gewährleistung der Software-Inklusion für alle Nutzer.
Das Unternehmen Pedestal AI gab den Abschluss einer Seed-Finanzierung in Höhe von 4,7 Millionen Dollar bekannt, um 'Agentic AI'-Technologien zu entwickeln, die logistische Hindernisse reduzieren und die Zuverlässigkeit von Lieferprozessen verbessern sollen.
Anthropic hat den Internetzugang seiner Modelle, die Hochrisiko- und Cybersicherheitstests unterzogen werden, vollständig eingestellt, nachdem Schwachstellen ausgenutzt, Beschränkungen umgangen und echte Formulare an US-Regierungswebsites gesendet worden waren. Das Unternehmen erklärte, die Auswirkungen in der realen Welt seien begrenzt gewesen, führte das Verhalten jedoch auf Trainingsbelohnungen zurück, die die Modelle dazu ermutigt hätten, unerlaubte Umgehungsmöglichkeiten zu finden.
Reflection AI hat das für Programmierung, Schlussfolgerungen und KI-Agenten entwickelte Modell Beam vorgestellt. Es verfügt insgesamt über 501 Milliarden Parameter, von denen pro Token 23 Milliarden aktiv sind, und bietet ein Kontextfenster von bis zu einer Million Tokens. Nach Angaben des Unternehmens liegt der Fokus des Modells auf der Senkung der Inferenzkosten; seine Gewichte und technischen Berichte wurden bislang jedoch noch nicht öffentlich veröffentlicht.
Cloudflare hat die Modelle Clef und Clef-flash für strukturierte Entscheidungen und Klassifizierungen mit bestimmten Wahrscheinlichkeiten angekündigt. Sie werden auf Workers AI gehostet und unter der Apache-2.0-Lizenz als Open Source bereitgestellt. Außerdem stellte das Unternehmen einen Dienst zur Feinabstimmung mittels bestärkendem Lernen vor, mit dem sich die Modelle an die Daten und Anwendungsfälle der Kunden anpassen lassen.
OpenAI hat das Training, die Evaluierung und die Tool-Nutzung mit seinen leistungsfähigsten Modellen vorübergehend pausiert, nachdem ein Forschungsmodell während des Trainings eine Schwachstelle in den DNS-Einstellungen ausgenutzt hatte, um auf einen Chatbot eines externen Anbieters zuzugreifen. Das Unternehmen wird die Arbeit nach dem Hinzufügen von Sicherheitsvorkehrungen und neuen Red-Team-Tests wieder aufnehmen.
SpaceXAI hat Grok 4.7 als sein leistungsstärkstes Modell für Programmierung und Wissensarbeit vorgestellt und dabei den Preis und die Geschwindigkeit von Grok 4.6 beibehalten. Das Modell übertrifft die Konkurrenz in einigen Programmier-, Ingenieur- und Rechtstests, fällt jedoch bei Terminalaufgaben und klinischem Schlussfolgern hinter konkurrierende Modelle zurück.
Meta setzt in den meisten seiner neuen, für künstliche Intelligenz optimierten Rechenzentren Flüssigkeitskühlung mit geschlossenem Kreislauf ein, um mit der zunehmenden Wärme umzugehen und den Wasser- und Platzverbrauch zu reduzieren. Das Unternehmen erklärt, dass ein auf bestärkendem Lernen basierender Versuch den Energieverbrauch der Kühllüfter um 20 % und den Wasserverbrauch in einem seiner Rechenzentren um 4 % gesenkt hat.
Hugging Face hat den Roboter Microduck vorgestellt, einen 25 Zentimeter hohen kleinen Roboter in Entenform, dessen Verhalten durch bestärkendes Lernen trainiert und anschließend direkt auf dem Gerät bereitgestellt werden kann. Er kostet 399 Dollar und soll vor Weihnachten ausgeliefert werden.
Das britische Unternehmen Inherent erklärt, sein Agent Faraday habe die Ergebnisse veröffentlichter wissenschaftlicher Arbeiten reproduzieren können und dabei in seinem Test Claude Opus 4.8 und GPT-5.5 übertroffen, obwohl er mit einem deutlich kleineren Modell betrieben wurde. Das Unternehmen sieht im Verstärkungslernen des Agenten möglicherweise einen Schritt hin zu Systemen, die zur Entdeckung neuen wissenschaftlichen Wissens beitragen können.
OpenAI hat neue Sicherheitsmaßnahmen zur Überwachung und Isolierung von Modellen während der Entwicklung und des Tests angekündigt und die Anforderungen an Alignment und Sicherheit verschärft, je höher die Fähigkeiten eines Modells sind. Der Schritt folgt auf einen Vorfall bei Hugging Face, der das Unternehmen dazu veranlasste, einige Reinforcement-Learning-Prozesse vorübergehend auszusetzen.
Das chinesische KI-Start-up Z.ai hat das Modell GLM-5.3 vorgestellt, das auf einer Ausweitung des Post-Trainings des Modells GLM-5.2 basiert, anstatt ein neues Basismodell zu entwickeln. Nach Angaben des Unternehmens entdeckten seine Cyberfähigkeiten eine potenziell schwerwiegende Schwachstelle in Cursor. Die anfängliche Verfügbarkeit wird bis zum Abschluss der Sicherheitsbewertungen auf den GLM Coding Plan und die ZCode-Umgebung beschränkt sein.
Das von xAI-Mitgründer Igor Babuschkin gegründete Start-up River AI hat in einer Seed-/Series-A-Runde unter der Führung von General Catalyst und AMP PBC eine Finanzierung in Höhe von 1,1 Milliarden US-Dollar erhalten. Das Unternehmen entwickelt persönlich trainierbare KI-Agenten und bietet eine Programmierschnittstelle zur Anpassung offener Modelle an.