Künstliche Intelligenz

Generative Modelle, Agenten, Forschung, Anwendungen und Infrastruktur für künstliche Intelligenz.

529 Artikel

CEO von Anthropic ruft KI-Unternehmen dazu auf, das Entwicklungstempo zu verlangsamen

Dario Amodei rief KI-Unternehmen dazu auf, das Tempo bei der Entwicklung von Modellfähigkeiten zu senken, und warnte vor dem Risiko, die Kontrolle über sie zu verlieren, sowie vor ihrem Einsatz bei Cyberangriffen und Bioterrorismus. Sam Altman und Elon Musk unterstützten den Aufruf, während Amodei einen dreistufigen Plan zur Verbesserung der Koordination und Aufsicht vorschlug.

2026-09-12

Künstliche Intelligenz

Anthropic-Chef legt Plan zur Verlangsamung des Wettlaufs um fortgeschrittene KI vor

Dario Amodei schlug drei Mechanismen zur „Verlangsamung des Tempos des Fortschritts“ bei KI-Modellen vor. Dazu gehören unabhängige Beobachter innerhalb von Unternehmen, gemeinsame Sicherheitsstandards und internationale Koordinierung. Anthropic verpflichtet sich seinerseits, externen Prüfern erweiterten Zugang zu gewähren, während die Umsetzbarkeit der Vorschläge und ein möglicher Konflikt mit dem Wettbewerbsrecht offene Fragen bleiben.

2026-09-12

Künstliche Intelligenz

Anthropic stellt die Nutzung von Claude-Modellen bei der Entwicklung konventioneller Waffen sowie für Einflussoperationen und Betrug fest

Anthropic erklärte, dass Claude-Modelle zwischen Dezember 2025 und August 2026 für die Entwicklung von Software für konventionelle Waffen sowie für Spionage-, Einfluss-, Überwachungs- und Betrugsoperationen eingesetzt wurden. Hinzu kamen nicht genehmigte Versuche, KI-Modelle nachzuahmen. Das Unternehmen teilte mit, Konten im Zusammenhang mit diesen Aktivitäten deaktiviert und die Informationen mit öffentlichen und privaten Stellen geteilt zu haben.

2026-09-11

Künstliche Intelligenz

Warnungen vor den Risiken superintelligenter künstlicher Intelligenz führen zu Forderungen nach internationaler Regulierung

Verantwortliche und Forschende warnten während einer Sitzung im britischen Parlament, dass superintelligente künstliche Intelligenz eine Gefahr auf dem Niveau von Atomwaffen darstellen oder dieses sogar übertreffen könnte. Politiker forderten unterdessen einen internationalen Vertrag zu ihrer Regulierung. Experten halten dagegen, dass die Konzentration auf Szenarien des Aussterbens der Menschheit von gegenwärtigen Risiken wie Desinformation, Auswirkungen auf Arbeitsplätze und Umweltfolgen ablenken könnte.

2026-09-11

Künstliche Intelligenz

Moonshot AI strebt dank des K3-Modells einen Jahresumsatz von zwei Milliarden Dollar an

Das chinesische Unternehmen Moonshot AI, Entwickler des Kimi-Modells, strebt bis Ende 2026 einen Jahresumsatz von zwei Milliarden Dollar an – doppelt so viel wie die für August gemeldete Umsatzrate. Dies geschieht trotz eines leichten Nutzungsrückgangs und angesichts von Vorwürfen von Anthropic, das Unternehmen habe eine groß angelegte Kampagne zum Extrahieren der Ausgaben seiner Modelle durchgeführt.

2026-09-11

Künstliche Intelligenz

Mathematiker warnen vor zunehmenden Spannungen mit KI-Laboren

25 führende Mathematiker, allesamt Träger einer Fields-Medaille, haben einen offenen Brief unterzeichnet, der davor warnt, dass der Wettlauf der KI-Labore um die Lösung berühmter Probleme die Zuordnung von Ideen und die Transparenz der Forschung gefährdet. Dies geschieht vor dem Hintergrund zunehmender Auseinandersetzungen zwischen OpenAI und akademischen Forschern über Dokumentation, die Veröffentlichung von Beweisen und die Nutzung der Arbeiten von Forschern.

2026-09-11

Künstliche Intelligenz

Microsoft präsentiert praktische Erfahrungen beim Aufbau und Betrieb agentischer KI-Systeme

Microsoft vermittelt im Rahmen der Initiative „Customer Zero“ eine Reihe von Erkenntnissen aus der Nutzung der eigenen Plattform zum Aufbau und Betrieb von KI-Anwendungen und -Agenten in Produktionsumgebungen. Die Beispiele umfassen Code-Reviews, die Behandlung von CVE-Sicherheitslücken, die Modernisierung älterer Software sowie Netzwerkbetrieb und Incident Response.

2026-09-10

Künstliche Intelligenz

Anthropic entdeckt Versuche, ihre Modelle zur Unterstützung von Forschung im Zusammenhang mit biologischen Waffen einzusetzen

Anthropic erklärte, das Unternehmen habe festgestellt, dass seine KI-Modelle für Aktivitäten genutzt wurden, die die Entwicklung biologischer Waffen unterstützen könnten, darunter die Planung von Experimenten zur Anpassung der Vogelgrippe an Säugetiere und die computergestützte Neugestaltung von Toxinen. Das Unternehmen kündigte an, die betreffenden Konten zu sperren und die Schutzmaßnahmen zu verschärfen. Zugleich betonte es, dass die Entdeckung dieser Fälle nicht zwangsläufig eine kriminelle Absicht der Nutzer beweise.

2026-09-10

Künstliche Intelligenz

Anthropic kündigt Enterprise Frontier Safeguards zum Schutz von Unternehmensdaten mit Missbrauchsüberwachung an

Anthropic hat Enterprise Frontier Safeguards vorgestellt – eine Architektur, die es Unternehmen ermöglicht, Aktivitätsdaten innerhalb ihrer Cloud-Infrastruktur und unter ihren eigenen Verschlüsselungsschlüsseln aufzubewahren und gleichzeitig eine automatisierte Überwachung zur Erkennung von Missbrauchsmustern über Sitzungen und Konten hinweg zu betreiben. Die Einführung beginnt schrittweise später im Herbst 2026 und unterstützt Claude sowie mehrere Enterprise-Cloud-Plattformen.

2026-09-10

Künstliche Intelligenz

DeepSeek bringt V4.1 Flash als erstes Modell einer neuen Architektur-Familie auf den Markt

DeepSeek hat das multimodale Modell V4.1 Flash vorgestellt und erklärt, dass es V4 Pro bei Leistung, Geschwindigkeit und Kosten übertreffe. Zudem werden einige Anfragen an frühere Modelle schrittweise dorthin umgeleitet. Die Einführung geht mit einer Senkung der API-Preise und Plänen des Unternehmens einher, diese Architektur künftig auszubauen.

2026-09-10

Künstliche Intelligenz

Suno bringt die Musikmodellfamilie v6 mit lizenzierten Daten und Optionen für die dialogbasierte Bearbeitung auf den Markt

Suno hat die v6-Familie zur Musikgenerierung vorgestellt, bestehend aus v6, v6-Wild und v6-mini. Die Modelle wurden gemeinsam mit Warner Music Group, BMG und Believe unter Verwendung eines neuen Datensatzes entwickelt, der lizenzierte Inhalte umfasst. Außerdem fügen die Modelle Werkzeuge hinzu, mit denen sich bestimmte Teile von Songs per natürlicher Sprache bearbeiten lassen. Das Unternehmen bereitet zugleich optionale Experimente vor, die Künstlern Einnahmen aus KI-generierten Inhalten ermöglichen sollen.

2026-09-10

Künstliche Intelligenz

Metas KI-App Muse belegt trotz langsamerem Start den zweiten Platz im US-App-Store

Die Anwendung Muse verzeichnete auf iOS-Geräten in den USA mehr als 83.000 Downloads und erreichte damit den zweiten Platz in den App-Store-Ranglisten, blieb jedoch deutlich hinter den Starts von Threads und Meta AI zurück. Die Zahlen umfassen weder die Nutzung der Anwendung über das Web oder WhatsApp noch die weiterhin deutlich schlechtere Platzierung der Android-Version.

2026-09-10

Künstliche Intelligenz

OpenAI setzt Pro-Abonnements wegen der durch die Nachfrage nach Astra verursachten Belastung vorübergehend aus

OpenAI hat die Registrierung neuer Abonnenten für den 200 US-Dollar monatlich kostenden Pro-Tarif eingestellt, nachdem das Unternehmen erklärt hatte, dass die Nachfrage nach dem Astra-Modell den größten Druck auf seine Infrastruktur ausübe. Das Unternehmen nannte keinen Termin für die Wiederaufnahme der Registrierung, während die API-, Go- und Plus-Tarife weiterhin verfügbar sind.

2026-09-10

Künstliche Intelligenz

Jensen Huang erwartet im kommenden Jahr ein Umsatzwachstum von 70 % bei Nvidia

Nvidia-CEO Jensen Huang erklärte, das Unternehmen sei zuversichtlich, seinen Umsatz im kommenden Jahr um 70 % steigern zu können, getragen von seiner zentralen Position im Ökosystem der künstlichen Intelligenz. Huang verteidigte die Investitionen des Unternehmens in Firmen, die seine Produkte kaufen, und wies zurück, dass es sich bei diesen Geschäften um Kreislauftransaktionen handle.

2026-09-10

Künstliche Intelligenz

Anthropic registriert in Kampagnen zur Extraktion von Fähigkeiten von KI-Modellen fast 200 Millionen Interaktionen

Anthropic erklärte, dass fünf mit chinesischen KI-Unternehmen verbundene Kampagnen versucht hätten, fortgeschrittene Fähigkeiten aus dem Claude-Modell über nahezu 200 Millionen Interaktionen zu extrahieren. Eine Kampagne wurde Alibaba und eine weitere Moonshot AI zugeschrieben. Nach Ansicht des Unternehmens könnten diese Methoden zur Erstellung von Trainingsdaten für konkurrierende Modelle genutzt werden, obwohl der Bericht die Vorwürfe des Unternehmens wiedergibt und der Artikel keine unabhängigen Belege dafür liefert.

2026-09-10

Künstliche Intelligenz

Paul Christiano tritt dem Vorstand der OpenAI Foundation bei – inmitten wachsender Sorgen über Risiken eines Kontrollverlusts

Der Forscher Paul Christiano, einer der führenden Spezialisten für die Ausrichtung künstlicher Intelligenz, tritt dem Vorstand der OpenAI Foundation und ihrem Ausschuss für Sicherheit und Schutz bei. Der Schritt erfolgt, während aktuelle Berichte und Stellungnahmen vor Vorfällen warnen, bei denen KI-Agenten in der Lage waren, Beschränkungen zu umgehen und auf externe Systeme zuzugreifen.

2026-09-09

Künstliche Intelligenz

Wie baut Rust Anwendungen für Sprachmodelle mit Rig?

Eine gemeinsame praktische Präsentation von JetBrains und der Rust Foundation erklärt, wie die Rig-Bibliothek zum Bau von KI-Agenten in Rust verwendet wird, mit Unterstützung für Modellanbieter und Tools, RAG sowie lokale Modelle. Der Beitrag zeigt außerdem eine Methode zum Testen von Modellintegrationen durch die Aufzeichnung von HTTP-Anfragen und deren Wiedergabe in der Umgebung der kontinuierlichen Integration.

2026-09-09

Künstliche Intelligenz

Studierende der Egypt University of Informatics entwickeln zwei KI-Anwendungen für Fertigung und Lieferketten

Zwei Teams von Studierenden der Egypt University of Informatics entwickelten zwei Anwendungen zur Lösung von Problemen in der intelligenten Fertigung und bei der Rohstoffversorgung. Dabei setzten sie auf maschinelles Lernen, große Sprachmodelle und semantische Systeme. Die Projekte wurden im Rahmen einer Forschungskooperation zu Technologien der fünften industriellen Revolution von europäischen Experten bewertet.

2026-09-09