Kommentar: Musks Vorschlag eines KI-Moratoriums zeigt vor allem seine Ratlosigkeit
Auch einem Mäzen der Tech-Branche sollte klar sein, dass sich der Vorschlag zum KI-Moratorium kaum umsetzen lässt.
Foto: dpaDie Fortschritte in Künstlicher Intelligenz (KI) sind atemberaubend – und sie werden Geschichte schreiben. Das neueste Beispiel ist ein Forschungspapier von 14 Microsoft-Wissenschaftlern, in dem sie über das neue Modell GPT-4 und erste Anzeichen einer Superintelligenz berichten.
Das war wohl der Anlass für Elon Musk und andere KI-Experten, eine Petition zu veröffentlichen – in der sie ein Forschungsmoratorium von sechs Monaten fordern. Ansonsten würden wir einen „Zivilisationsverlust riskieren“.
Auch Musk dürfte klar sein, wie sinnlos der Vorschlag ist. Er zeigt aber vor allem eines: Einer der mit KI am besten vertrauten Menschen ist ratlos.
China wird nicht mitmachen
Die Forderung setzt zwei Dinge voraus: Es müssten erstens alle relevanten Unternehmen und Forschungsinstitute mitmachen, und zweitens müsste in der Pause eine wirksame Regulierung umgesetzt werden.
Bei beiden Punkten sind Zweifel angebracht. Angesichts der geopolitischen Spannungen ist es extrem unwahrscheinlich, dass China sich daran beteiligen würde. Für die Volksrepublik ist es erklärtes Ziel, in dieser Schlüsseltechnologie die Nummer eins zu sein. Schon jetzt ist das Land nach der Anzahl der Forschungspapiere die klare Nummer zwei hinter den USA – und in einigen Bereichen wie „Computer Vision“ ist es sogar führend.
Ein nur teilweise eingehaltenes Moratorium birgt die Gefahr, dass wir eine chinesische statt einer westlichen „Artifical General Intelligence“ (AGI) erhalten. Der Gedanke an eine Superintelligenz ist unheimlich, aber noch unangenehmer wäre eine von einem totalitären Regime geprägte AGI.
KI kann man kaum regulieren
Das ist kein Stoff für Science-Fiction. Experten sprechen von der Gefahr einer „Intelligenzexplosion“: Sobald eine KI ähnlich wie der Mensch denken und handeln könne, werde sie eine neue, verbesserte Version von sich selbst bauen. Die werde wiederum eine neue Version bauen und so weiter. Ein unaufhaltsamer Prozess.
Aber nehmen wir an, China und der Rest der Welt besinnen sich eines Besseren und halten die Forschung für ein halbes Jahr an. Können wir in der Zeit KI regulieren? Die EU arbeitet seit 2021 an einer Regulierung, bislang ohne Ergebnis. Das dauert nicht so lange, weil die EU langsam oder bürokratisch arbeiten würde. Es dauert so lange, weil es ein hochkomplexes, manche sagen unmögliches Unterfangen ist. Beispielsweise kann man die Dateneingabe regulieren, damit nicht bestimmte Vorurteile oder Befangenheiten in das Modell eintrainiert werden. Das ist eine sinnvolle Sache, aber angesichts der großen Mengen kaum umsetzbar.
Die Persona Musk hilft wenig
Eine Regulierung erscheint eine Illusion zu sein, wie Musk und die Autoren des „Future of Life Institute“ selbst schreiben: Die „mächtigen digitalen Gehirne kann niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder verlässlich kontrollieren“.
Nicht Vorschriften, sondern nur Technologie kann uns helfen. Bestimmte Techniken wie „Reinforcement Learning from Human Feedback“ (RLHF) helfen und verbessern nicht nur die Antworten dramatisch, sondern verhindern auch Manipulation und Verzerrungen.
Wenig hilfreich ist es auch, dass der Vorschlag so eng mit Musk verbunden ist. Auch wenn er offiziell vom Future of Life Institute kommt, jeder in der Tech-Szene weiß, dass das Institut von Musk und seinen Freunden gegründet wurde und finanziell abhängig ist.
Und Musk vertritt eigene Interessen. So nutzt Tesla mehr als jeder andere Autohersteller KI für seine autonomen Fahrsysteme. Der Supercomputer von Tesla ist nach den Projekten von Meta und der EU mit Leonardo nach der Anzahl der Grafikprozessoren – auf denen KI trainiert wird – der drittgrößte der Welt.
Nun warnt Musk seit vielen Jahren vor den Gefahren einer KI. Das muss man ihm zugutehalten. Will er damit eigene Interessen fördern, oder meint er wirklich, was er da äußert? Das ist schwer zu sagen, was die Sache nicht besser macht.