Gastkommentar: Die KI von heute wird die Wissenschaft nicht revolutionieren
Ich befürchte, dass uns Künstliche Intelligenz (KI) kein „komprimiertes 21. Jahrhundert“ bescheren wird. Diese Meinung ist unter KI-Experten umstritten und ich möchte das erklären. Der Begriff „komprimiertes 21. Jahrhundert“ stammt aus einem Essay von Dario Amodei, dem Gründer des OpenAI-Wettbewerbers Anthropic.
Falls Sie den Text mit dem Titel „Machines of Loving Grace“ („Maschinen der liebevollen Gnade“) noch nicht gelesen haben, sollten Sie das nachholen – es ist ein bemerkenswerter Beitrag. Amodei argumentiert darin, dass Rechenzentren in Zukunft mit einer „Nation von Einsteins“ vergleichbar seien. Und das führe dazu, dass Entdeckungen, die früher in einem halben bis ganzen Jahrhundert gemacht wurden, dann in fünf bis zehn Jahren möglich wären.
Beim ersten Lesen war ich fasziniert: KI wird die Wissenschaft in wenigen Jahren revolutionieren! Doch als ich den Essay einige Tage später erneut las, fiel mir auf, dass vieles darin wie Wunschdenken erschien.
Tatsächlich erhalten wir meiner Meinung nach nicht eine „Nation von Einsteins“, sondern eher eine „Nation von Ja-Sagern auf Servern“, wenn wir den aktuellen Entwicklungspfad weiterverfolgen. Um diesen Unterschied zu erklären, erzähle ich eine persönliche Geschichte.
Newton oder Einstein waren keine besonders guten Schüler
Ich war ein Musterschüler. Lernen fiel mir leicht: Ich verstand, worauf Professoren hinauswollten, konnte Prüfungsaufgaben vorhersehen und so Bestnoten erzielen.
Doch als Doktorand stellte ich mit Schrecken fest, dass ich als Forscher bestenfalls durchschnittlich war. Wo Kollegen mit originellen Ideen aufwarteten, konnte ich höchstens belanglose Variationen von Theorien entwickeln, die schon in einem Buch standen. Den Status quo zu hinterfragen, fiel mir schwer. Ich war kein Einstein – vielleicht gerade weil ich so gut in der Schule war.
Die Geschichte ist voll von Genies, die in der Schule Schwierigkeiten hatten. Thomas Edison wurde von seinem Lehrer als „geistig verwirrt“ abgestempelt. Barbara McClintock wurde für ihr „merkwürdiges Denken“ kritisiert, bevor sie den Nobelpreis für Medizin und Physiologie erhielt. Albert Einsteins erster Versuch bei der Aufnahmeprüfung an der ETH Zürich scheiterte.
Es ist ein Irrtum zu glauben, dass Newton oder Einstein einfach nur besonders gute Schüler waren. Genies entstehen nicht dadurch, dass man die Leistung eines Top-Schülers „hochskaliert“, wie wir in der KI-Welt sagen. Sie brauchen vielmehr die essenzielle Fähigkeit, die richtigen Fragen zu stellen und bestehendes Wissen zu hinterfragen. Ein Paradebeispiel ist Kopernikus, der – entgegen allen Lehrmeinungen seiner Zeit – meinte, dass sich die Erde um die Sonne dreht.
Wir brauchen eine KI, die völlig neue Fragen stellt
Um einen Einstein im Rechenzentrum zu erschaffen, brauchen wir also nicht nur eine KI, die alle Antworten kennt, sondern eine, die völlig neue Fragen stellt. Wo alle Lehrbücher und Experten eine bestimmte These vertreten, muss diese KI fragen: „Was, wenn alle damit falschliegen?“
Denken Sie an die Relativitätstheorie: Dahinter steht der revolutionäre Gedanke, dass die Lichtgeschwindigkeit immer konstant ist. Das ist eine Hypothese, die dem damaligen und sogar heutigen Menschenverstand widerspricht.
Oder nehmen Sie Crispr. Dahinter steckt ein natürliches Abwehrsystem von Bakterien, das schon in den 1980er-Jahren entdeckt wurde. Erst 25 Jahre später erkannten die Forscherinnen Jennifer Doudna und Emmanuelle Charpentier, dass man das System nutzen kann, um gezielt Gene zu verändern, und erhielten den Nobelpreis. Es ist diese Neuinterpretation bestehenden Wissens, die den wissenschaftlichen Fortschritt antreibt.
» Lesen Sie auch: Zwei Billionen Dollar vernichtet und trotzdem eine Zukunft? Wie die nächste Stufe der KI-Revolution aussieht
Schauen wir uns nun an, wie wir KI-Modelle heute bewerten und vergleichen. Da gibt es neuere Verfahren mit so grandiosen Namen wie „Humanity’s Last Exam“, also „Die letzte Prüfung der Menschheit“, oder „Frontier Math“, was man mit „Grenzen der Mathematik“ übersetzen könnte. Sie enthalten extrem schwierige Fragen, auf die es aber bereits bekannte Antworten gibt.
Dabei geht es bei Forschung um Phänomene wie in Douglas Adams’ Science-Fiction-Komödie „Per Anhalter durch die Galaxis“: Die Antwort ist 42, aber niemand kennt die Frage.
So haben Sprachmodelle, trotz ihres immensen Wissens, bislang keine revolutionären Ideen hervorgebracht. Sie ermitteln bestehendes Wissen – aber sie hinterfragen es nicht.
Wir entwickeln momentan gehorsame Schüler, keine Revolutionäre. Das ist ideal für aktuelle Anwendungen wie virtuelle Assistenten. Aber wissenschaftliche Revolutionen werden wir dadurch nicht einleiten.
Wenn wir bahnbrechende Entdeckungen wollen, sollten wir vielmehr prüfen, ob Modelle:
Wir brauchen keinen Einser-Schüler, der jede Frage beantwortet. Wir brauchen einen B-Schüler, der sieht, was alle anderen übersehen haben.
Der Autor: Thomas Wolf ist Mitgründer der französisch-amerikanischen KI-Plattform Hugging Face.
Mehr: EU gibt Mini-Budget für eigenes KI-Modell – doch Häme und Spott kommen zu früh
