Dario Amodei, CEO von Anthropic, sagte, dass die negative Sicht auf künstliche Intelligenz im Kern eine Vertrauenskrise zwischen der Öffentlichkeit, Unternehmen, Regierungen und dem Technologiesektor widerspiegele und nicht unmittelbar auf die warnenden Botschaften der Branchenführer zurückzuführen sei. Seine Äußerungen waren eine Reaktion auf den Investor Gavin Baker, der der Ansicht war, Amodeis Warnungen vor den Risiken künstlicher Intelligenz hätten dazu beigetragen, in den Vereinigten Staaten eine negative Reaktion zu schüren, insbesondere gegenüber Rechenzentren.
Baker hatte in der Sendung All-In und auf der Plattform X die Haltung von Anthropic zugunsten bestimmter Regulierungsformen kritisiert, darunter einen Gesetzentwurf in Kalifornien, der großen KI-Unternehmen Transparenzanforderungen auferlegt. Er sagte, Amodei solle angesichts seiner Führungsrolle bei einem Unternehmen, das zu den wichtigsten der Welt gehören könnte, ein positiveres Bild seiner Branche vermitteln, und meinte, Amodei habe die Debatte über die Regulierung künstlicher Intelligenz verloren.
Amodei weist die Verantwortung der Warnungen für die Skepsis zurück
Amodei entgegnete, seine Botschaften seien nicht unausgewogen negativ gewesen, und verwies darauf, dass sie sich ungefähr gleichmäßig auf die Risiken und Vorteile künstlicher Intelligenz verteilt hätten. Er fügte hinzu, er habe seinen Artikel „Machines of Loving Grace“ geschrieben, weil die Branche seiner Ansicht nach kein inspirierendes Bild davon vermittle, wie die Technologie die Welt zum Besseren verändern könne.
Obwohl er einräumte, dass die allgemeine Sicht auf künstliche Intelligenz negativ sei und dies ein großes Problem darstelle, lehnte Amodei die Aussage ab, diese Negativität werde hauptsächlich durch die Warnungen der Branchenführer verursacht. Seiner Erklärung zufolge vertraue die breite Öffentlichkeit weder Unternehmen noch Regierungen noch dem Technologiesektor und neige zu der Annahme, diese Akteure könnten eine neue Methode entwickeln, um ihr zu schaden. Amodei ist der Ansicht, dass die Reaktion gegen künstliche Intelligenz die jüngste Ausprägung einer Vertrauenskrise sei, die sich über Jahrzehnte hinweg entwickelt habe.
Was hält Amodei für eine präzisere Kritik?
Amodei sagte, die präziseste Kritik an KI-Unternehmen, einschließlich Anthropic, bestehe darin, dass sie ihre großen Versprechen, der Welt zu nutzen, bislang nicht eingelöst hätten. Er fügte hinzu, die Verantwortung liege bei den Unternehmen selbst, und allgemeine Versprechen, etwa die Aussage, künstliche Intelligenz werde Krebs heilen, seien inzwischen eher zu abgedroschenen Floskeln als zu einer Inspirationsquelle geworden. Seiner Ansicht nach könnten konkrete Ergebnisse die Haltung der Menschen verändern, nicht eine Verbesserung des Marketings oder der öffentlichen Kommunikation.
Regulierung zwischen Risikobegrenzung und Machtkonzentration
Amodei lehnte es ebenfalls ab, die Regulierungsdebatte als binäre Wahl zwischen der uneingeschränkten Verbreitung künstlicher Intelligenz und der Beschränkung der Technologie auf wenige Unternehmen infolge staatlicher Regeln darzustellen. Er sagte, die im Silicon Valley verbreitete Vorstellung, Regulierung mit regulatorischer Vereinnahmung und Machtkonzentration gleichzusetzen, vereinfache die Realität übermäßig, da viele Menschen außerhalb dieses Kreises in der Regulierung eine Begrenzung des Einflusses von Unternehmen und einen Schutz des Einzelnen sähen.
Er erklärte, Anthropic formuliere seine politischen Vorschläge sorgfältig mit dem Ziel, führende KI-Unternehmen zu verlangsamen und kleineren Unternehmen einen relativen Vorteil zu verschaffen. Amodei ist der Ansicht, dass künstliche Intelligenz aufgrund ihrer Struktur dazu tendiere, Macht zu konzentrieren, während Modelle mit offenen Gewichten dies nur teilweise abmilderten, weil sie einen Teil der Konzentration auf diejenigen Akteure verlagerten, die über die größten Kapazitäten bei Rechenleistung und Chips verfügten.
Nach Amodeis Auffassung könnten geeignete „Verkehrsregeln“ Risiken in den Bereichen Cybersicherheit, Biologie und Alignment angehen und die Macht führender KI-Unternehmen institutionell begrenzen, während der Raum für Modelle mit offenen Gewichten offen bleibe und ihre spezifischen Risiken berücksichtigt würden. Damit liegt der Kern der Meinungsverschiedenheit in diesem Ansatz darin, wie Vertrauen aufgebaut und praktische Vorteile erzielt werden können, nicht lediglich in der Wahl einer optimistischeren oder pessimistischeren Sprache.