Personen

Sam Altman

Sam Altman ist der CEO von OpenAI. Die verfügbaren Materialien bringen seinen Namen mit der Debatte über die Sicherheit künstlicher Intelligenz, die Geschwindigkeit der Modellentwicklung sowie die Notwendigkeit unabhängiger Bewertungen und internationaler Aufsicht in Verbindung.

Sam Altman ist der CEO von OpenAI. Die verfügbaren Materialien behandelten seine Positionen zum Management von Risiken der künstlichen Intelligenz und zur damit verbundenen Governance.

Positionen zu Risiken der künstlichen Intelligenz

Altman sagte, die Verbreitung künstlicher Intelligenz könne mit bestimmten Hackerangriffen, Betrug und Missbrauch einhergehen. Er ist jedoch der Ansicht, dass der Nutzen der Technologie ihre Schäden deutlich überwiegen werde. Zudem wies er darauf hin, dass es kein realistisches Ziel sei, alle Zwischenfälle oder schädlichen Nutzungen zu verhindern.

Diese Aussagen stellen seine Position Forderungen gegenüber, die eine stärkere Verlangsamung der Modellentwicklung oder einen Stopp beim Bau der fortschrittlichsten Systeme verlangen. Den Materialien zufolge bekundete Altman seine Unterstützung für die von Dario Amodei, dem CEO von Anthropic, vorgeschlagene Idee einer Verlangsamung der Entwicklung.

Unabhängige Bewertung und Sicherheit

Laut einer journalistischen Quelle sagte Altman, er stimme der Idee zu, einen Schritt im Zusammenhang mit einer unabhängigen Bewertung zu unternehmen. Die verfügbaren Materialien enthalten keine Einzelheiten zur Form, zum Umfang oder zum Zeitpunkt der Umsetzung dieses Schritts.

In einem weiteren Beitrag wurde außerdem berichtet, Altman habe bekräftigt, dass Sicherheit und die Ausrichtung auf menschliche Ziele parallel zu den Fähigkeiten der Modelle vorangetrieben werden sollten. Der Rücktritt eines Mitarbeiters aus dem Sicherheitssystemteam von OpenAI löste dagegen eine Debatte über die Geschwindigkeit der Entwicklung und die Angemessenheit der Maßnahmen des Unternehmens aus.

Internationale Aufsicht und Governance

Die Debatte, in der Altman auftrat, steht im Zusammenhang mit umfassenderen Fragen, darunter der Rolle unabhängiger Prüfer, der Aufsicht über fortschrittliche Modelle und der Möglichkeit, gemeinsame Standards zwischen Staaten festzulegen. Die verfügbaren Belege enthalten keine Ankündigung eines verbindlichen internationalen Systems oder einer vollständig ausgearbeiteten Umsetzungspolitik, an deren Verabschiedung Altman beteiligt war.

Was lässt sich aus den verfügbaren Materialien bestätigen?

  • Altman ist der CEO von OpenAI.
  • Er bekundete seine Unterstützung für die Idee, die Entwicklung künstlicher Intelligenz im Rahmen einer brancheninternen Debatte zu verlangsamen.
  • Sein Name wurde mit der Idee eines Schritts zur unabhängigen Bewertung in Verbindung gebracht.
  • Er ist der Ansicht, dass einige Risiken künstlicher Intelligenz im Verhältnis zu ihren Vorteilen akzeptabel sein könnten, wobei er die Notwendigkeit anerkennt, mit Zwischenfällen umzugehen.