Nate Soares, ein ehemaliger Ingenieur bei Google und Leiter des Machine Intelligence Research Institute (MIRI), hat mit seinen Aussagen über die existenziellen Risiken der künstlichen Intelligenz in technischen Kreisen für großes Aufsehen gesorgt. In einem Podcast, der von Nicholas Thompson, dem CEO des Magazins The Atlantic, moderiert wurde, enthüllte Soares, dass er vollständig aufgehört hat, für den Ruhestand zu sparen. Er begründete dies mit seiner Überzeugung, dass eine 50-prozentige Wahrscheinlichkeit bestehe, dass die Menschheit aufgrund der rasanten und unkontrollierten Entwicklung dieser Technologie in zehn Jahren nicht mehr existieren könnte.
Was bedeutet diese Haltung?
Soares erklärte, dass er zwar noch Altersvorsorgeguthaben aus seiner früheren Zeit bei Google besitze, aber seit etwa einem Jahrzehnt keine neuen Beträge mehr eingezahlt habe. Diese Haltung spiegelt den tiefen Pessimismus einiger Experten wider, die der Ansicht sind, dass das Tempo der KI-Entwicklung unsere Fähigkeit übersteigt, sie zu kontrollieren oder ihre Sicherheit zu gewährleisten, was die Zukunft der Menschheit aufs Spiel setzt.
Kontext der Debatte über die Entwicklungsgeschwindigkeit
Die Aussagen von Soares fallen in eine Zeit, in der der KI-Sektor über das Innovationstempo tief gespalten ist. Während Dario Amodei, CEO von Anthropic, dazu aufrief, einen ausgewogeneren und kooperativeren Ansatz zur Gewährleistung der Modellsicherheit zu verfolgen, stießen diese Forderungen bei anderen Akteuren auf Widerstand. Einige Unternehmensführer und Politiker befürchten, dass jegliche Versuche, die Entwicklung zu verlangsamen, Monopole auf dem Technologiemarkt stärken oder Ländern wie China einen strategischen Wettbewerbsvorteil verschaffen könnten.
Die politische Haltung der USA
Auf offizieller Ebene verfolgt die Regierung von Donald Trump in den Vereinigten Staaten einen Ansatz, der sich auf die Förderung von Innovationen konzentriert, anstatt regulatorische Beschränkungen aufzuerlegen, die das Entwicklungstempo behindern könnten. Trump bezeichnete die Befürchtungen, dass KI außer Kontrolle geraten könnte, bei früheren Gelegenheiten als "kranke Verschwörung" und betonte, dass eine Verlangsamung der Arbeit in diesem Bereich den internationalen Wettbewerbern in die Hände spielen würde. Dies rückt technologische Trends in den Mittelpunkt der aktuellen geopolitischen und wirtschaftlichen Konflikte.