Aleph Alpha: „Ich weiß, dass die KI nichts weiß“: Künstliche Intelligenz soll keinen Blödsinn mehr erzählen
Der Unternehmer will mit seiner Heidelberger Firma Aleph Alpha bei der Entwicklung von KI-Sprachmodellen mit den größten Tech-Firmen der Welt mithalten.
Foto: Getty ImagesDüsseldorf. Beim deutschen Start-up Aleph Alpha soll sich Künstliche Intelligenz (KI) ab sofort erklären müssen: Das Heidelberger Unternehmen hat wie die US-Firma OpenAI ein Sprachmodell entwickelt, das Text erstellen und Fragen beantworten kann. Für die Nutzer von „Luminous“ soll dabei künftig genau nachvollziehbar sein, woher die KI ihre Informationen bezieht – und ob sie vielleicht völlig danebenliegt.
Gründer Jonas Andrulis und sein 50-köpfiges Team adressieren damit ein großes Problem: Zwar haben die Sprachmodelle wie das jüngst berühmt gewordene GPT-3 und dessen Nachfolgeversion GPT-4 Fortschritte gemacht. Sie können etwa Texte zusammenfassen, Geschäftsbriefe schreiben und Vorträge vorbereiten. Doch noch produzieren die Modelle dabei auch immer wieder haarsträubende Fehler.
Aleph Alpha hofft nun, dass es sich mit der neuen Funktionalität im Wettbewerb abheben kann. „Diese Transparenz wird den Einsatz generativer KI für kritische Aufgaben im Rechts-, Gesundheits- und Bankenwesen ermöglichen“, sagt Jonas Andrulis, der von Anfang an auf Geschäftskunden gesetzt hat.
Wie das Handelsblatt exklusiv erfuhr, wird Aleph Alpha am Donnerstag bei allen Kunden der Firma eine „Erklärfunktion“ freischalten. Damit sollen sie nachvollziehen können, wie belastbar die ausgegebenen Informationen auf Basis von Texten und Bildern sind.
In einem Beispiel, das die Firma selbst aufbereitet hat, wird Luminous ein Text über Aleph Alpha vorgelegt. Fragt der Nutzer die KI, wo der Hauptsitz des Start-ups ist und ob „Berlin“ die richtige Antwort sein könnte, markiert sie alle Textstellen, die zu dieser Frage Auskunft geben könnten: Orange hinterlegt werden Passagen, die den Zusammenhang zwischen Berlin und dem Hauptsitz belegen, lilafarben hinterlegt werden widersprüchliche Passagen.
Neurowissenschaftler Bethge: „Wichtiger Schritt in die richtige Richtung“
Im konkreten Fall ist die Sache für das derzeit fünfsprachige Modell eindeutig: Aleph Alphas Hauptsitz ist Heidelberg, wie aus dem Satz „The German startup, located in the picturesque German city Heidelberg“ hervorgeht. Da Aleph Alpha von Anfang an auf Multimodalität gesetzt hat, kann Luminous auch Bilder beschreiben – und künftig anzeigen, auf welche Bildausschnitte es sich dabei bezieht.
Das Handelsblatt konnte die neue Funktion bereits selbst testen. Zwischenfazit: So gut wie im Vorzeigebeispiel funktioniert das nicht immer. Manchmal fühlt sich der Nutzer eher an den griechischen Philosophen Sokrates erinnert, der hinterfragte, was er zu wissen meint.
Wenn die KI mit ihren Textbezügen völlig danebenliegt, bleibt zumindest die Erkenntnis: „Ich weiß, dass die KI nichts weiß.“ Das allerdings kann auch schon ein Vorteil sein, wenn man bedenkt, dass Sprachmodelle zum Teil absoluten Nonsens glaubwürdig darstellen.
„Dass sich das Modell selbst erklärt, ist ein wichtiger Schritt in die richtige Richtung“, sagt Neurowissenschaftler Matthias Bethge von der Universität Tübingen. Über die derzeitige Verlässlichkeit von Sprachmodellen sagt er: „Manchmal erinnert mich GPT auch an einen Studenten, der den Inhalt nicht genau verstanden hat, aber sein Wissen so verträgt, dass er durch die Prüfung kommt.“
Hintergrund ist, dass die Sprachmodelle stets versuchen, eine Antwort zu geben – auch wenn sie nur begrenzt Informationen zu einem bestimmten Sachverhalt haben. So könnte Luminous behaupten, dass der Hauptsitz von Aleph Alpha in New York liegt – etwa weil die Dichte an Unternehmen dort besonders hoch ist. Das Problem: Für Nutzer ist diese Herleitung bisher kaum zu durchschauen.
Schwieriger Wettlauf mit OpenAI und Co.
Das sieht auch der Darmstädter Informatikprofessor Kristian Kersting kritisch, der mit Aleph Alpha zusammen forscht und selbst in das Unternehmen investiert hat. „Mathematisch kann ich Ihnen auf einem Abstraktionsniveau genau sagen, was die Modelle machen und wie sie lernen“, sagt er. Nur seien die Berechnungen so komplex, dass man sie nicht mehr nachvollziehen könne. „Wir wissen genau, was ein Modell tut, aber nicht, warum es jetzt konkret erkannt hat, dass ein Bild eine Katze zeigt.“
Mit einer gemeinsamen wissenschaftlichen Arbeit, die Grundlage für die neue Funktionalität in Luminous ist, würde die Frage nach dieser Nachvollziehbarkeit nun vorangetrieben. Grundlagenforschung und marktfähige Innovationen liegen bei Künstlicher Intelligenz anders als in anderen Wissenschaftsbereichen manchmal nah beieinander.
Inwiefern dieser Fortschritt für Aleph Alpha nun auch einen Wettbewerbsvorteil darstellt, ist nicht eindeutig zu beantworten. Klar ist, dass derzeit kein Wettbewerber ein so leistungsfähiges Sprachmodell anbieten kann wie OpenAI mit GPT-4, in das Microsoft zweistellige Milliardenbeträge investiert. Deshalb geht es auch um Fokussierung.
>> Lesen Sie jetzt auch: Wie ChatGPT und Sam Altman Ihr Leben beeinflussen werden
Zwar sind sich die Experten einig, dass OpenAI in Sachen Erklärbarkeit ihres Modells – zumindest theoretisch – schnell nachziehen könnte. „Wenn OpenAI Quellenverweise einführen wollte, könnte es das sicherlich“, sagt Matthias Bethge. Die Frage sei aber, ob Wettbewerber den gleichen Schwerpunkt setzen und Geld und Zeit in Erklärbarkeit investieren wollten. Deshalb bescheinigt er Aleph Alpha: „Es ist eine kluge Strategie, sich als deutsches Start-up mit Erklärbarkeit zu positionieren.“ Chancen für Aleph Alpha sieht er auch darin, dass das Unternehmen verstanden habe, wie sensibel Datenverarbeitungsfragen für Unternehmenskunden sind.
Jonas Andrulis redet nicht drumherum, wenn es um die mächtige und finanzstarke Konkurrenz geht. „Jeder, den ich kenne, der im Bereich KI unterwegs ist, ist aktuell enorm unter Druck“, sagt er. Der frühere Manager von Apple ist auch in der US-Tech-Szene gut vernetzt.
Aus der Konkurrenz zu Microsoft und OpenAI zieht er aber auch etwas Positives, etwa bei der Suche nach neuen Mitarbeitern, die aus der ganzen Welt nach Heidelberg kämen. „Wir legen uns mit dem größten Monopolisten der Welt an, der sicherlich auch dafür bekannt ist, eher aggressiv vorzugehen“, sagt er. Diese „Mission“ inspiriere Menschen, die „etwas Besonderes tun wollen und können“, zu Aleph Alpha zu kommen.
Derzeit gilt es allerdings vor allem, auch Investoren von dieser Mission zu überzeugen. Für die Weiterentwicklung von Luminous braucht Andrulis Geld. Bisher sind 28 Millionen Euro in die Firma geflossen – ein Bruchteil von den Mitteln bei OpenAI. Ziel einer anstehenden Finanzierungsrunde soll wohl ein dreistelliger Millionenbetrag sein.