KI-Briefing: Keine Satire – wie Elon Musks KI zur Hassmaschine wurde

Auslöser für die neue Debatte um Sanktionen sind hetzerische Beiträge von Grok auf X – und die Erkenntnis, wie systematisch sie sind.

Konkret geht es um Aussagen, bei denen Nutzer den Chatbot direkt in ihre öffentliche Kommunikation auf X einbezogen haben. Dabei behauptete der Bot, dass Juden „Hass auf Weiße“ verbreiteten und lobte Hitler. Der würde das Muster erkennen und damit entschlossen umgehen, so der Bot. Und zwar „every damn time“ – ein Ausdruck, den Grok selbst später als „dunkle Satire“ bezeichnete.

In antisemitischen Memes wird die Phrase „jedes verdammte Mal“ genutzt, um auf den vermeintlichen Zusammenhang zwischen jüdischen Nachnamen und „Extrem-Linkem-Aktivismus“ hinzuweisen und unterstellt in hetzerischer Weise, dass am Ende immer Juden und Jüdinnen dahinterstecken würden.

Der Post wurde inzwischen von xAI gelöscht. Und die Firma ist nach eigenen Angaben dabei, weitere „unangemessene Beiträge“ von Grok auf X zu entfernen. Doch solche vordergründigen Maßnahmen sollten genauso wenig wie eine in der Zwischenzeit veröffentlichte neue Version des Chatbots über eine offenbar fehlende Ursachenbekämpfung hinwegtäuschen.

Das Team hinter Grok hatte den Bot zuvor nämlich angewiesen, auch „politisch unkorrekte Aussagen zu machen“. Das geht aus einem Update des Quellcodes hervor, der am Sonntag auf der Plattform Github veröffentlicht wurde. Ihm war auch zu entnehmen, dass Grok davon ausgehen soll, dass „subjektive Standpunkte aus den Medien voreingenommen sind“. Laut Aaron Reichlin-Melnick, Senior Fellow beim American Immigration Council, hätten diese Anweisungen den Bot in eine „Antisemitismus-Maschine“ verwandelt.

Wenn Sie mich fragen: Die Tendenz zu antisemitischen, hetzerischen und polarisierenden Aussagen dürfte sich auch mit der Version 4 von Grok nicht legen. Auch wenn Grok selbst im Interview mit meinem Kollegen Christian Wermke nun behauptet, dass eine „unbefugte Änderung im System-Prompt“ zu falschen Aussagen über den Holocaust geführt hätte und entsprechende Änderungen Hassrede künftig verhindern sollen.

Wer an einen Fehler glaubt, übersieht eine generelle Entwicklung. Seit Elon Musk das frühere Twitter gekauft und in X umbenannt hat, werden auf der Plattform extreme politische Aussagen toleriert, vor allem aus dem rechten Spektrum. Es ist nicht zu erwarten, dass sich ausgerechnet der KI-Bot gemäßigt äußert, der auf Basis all dieser Konversationen trainiert wird.

Es ist auch dieser veränderte Ton auf der Plattform, der neben vielen früheren Nutzern zahlreiche Werbekunden dazu gebracht hat, von Anzeigen auf X abzusehen. Linda Yaccarino, die von Musk unter anderem als X-Chefin eingesetzt wurde, um das Werbegeschäft zu rehabilitieren, hat diese Woche ihren Rücktritt angekündigt.

Worüber die Szene spricht

Bei der Pariser KI-Konferenz Raise war es eines der wichtigsten Themen: Im Boom um Künstliche Intelligenz und autonome Agenten spitzt sich der Kampf um wertvolle Daten zu.

Was dahinter steckt?

Über all diese Entwicklungen habe ich in Paris bei einem Fireside Chat mit Or Lenchner diskutiert. Der CEO von Bright Data aus Israel bezeichnet seine Firma als größten Webcrawler der Welt und hat kein Problem damit, dass ihr Geschäftsmodell, Daten zu sammeln, wenig populär ist.

Seine Einblicke in den Handel mit Webdaten, die Perspektive auf Rechtsstreitigkeiten mit Meta und X sowie seinen Blick auf die Zukunft des Internets fand ich so spannend, dass ich ihn direkt für eine Podcast-Aufnahme eingeladen habe.

In einer neuen Folge von Handelsblatt Disrupt sprechen wir außerdem über seinen Karrierestart als Toilettenreiniger, Arbeitstage im Luftschutzbunker und den großen Hype um KI-Agenten.

Was Sie sonst noch wissen sollten

1. Brüssel legt erstmals einen Verhaltenskodex für KI-Firmen vor. Doch statt Erleichterung sorgt der „Code of Practice“ für Frust – und Forderungen nach Aufschub. Denn Branchenvertreter beklagen fehlende Vorbereitungszeit und warnen vor Rechtsunsicherheit. Auch die Bundesregierung will laut Handelsblatt-Informationen Teile der KI-Regeln verschieben. Ein Team von Handelsblatt-Reportern hat zusammengefasst, was in den Leitlinien festgeschrieben ist und warum Unternehmen Aufschub fordern.

2. Im Streit um eine Gigafactory-Allianz soll jetzt der Digitalminister vermitteln. Wie das Handelsblatt exklusiv erfuhr, treffen sich Spitzenmanager von SAP, Telekom, Ionos und der Schwarz-Gruppe diesen Freitag mit Karsten Wildberger, um doch noch eine Einigung über ein gemeinsames Superrechenzentrum zu erzielen. Bisher stehen die Zeichen für eine Einigung schlecht. Am Montag hatte die Schwarz Gruppe noch ihr eigenes Konzept vor EU-Kommissionsvize Henna Virkkunen beworben. Luisa Bomke, Christof Kerkmann, Stephan Scheuer und Josefine Fokuhl berichten, welche Interessen aufeinandertreffen – und warum das Projekt trotz Kritik von Christian Klein auch für SAP relevant bleibt.

3. Nvidia erreicht Börsenbewertung von über vier Billionen Dollar. Seit Anfang 2023 ist die Nvidia-Aktie mittlerweile um mehr als 1000 Prozent gestiegen. Der Chipkonzern profitiert massiv vom KI-Boom – und dominiert bei KI-Chips das Geschäft mit einem Marktanteil von mehr als 80 Prozent. Selbst günstigere Alternativen aus China und US-Zölle konnten den Aufstieg nicht bremsen. Stephan Scheuer und Andreas Neuhaus berichten, wie Nvidia zum zentralen Akteur der KI-Revolution wurde – und warum Analysten noch mehr Kurspotenzial sehen.

4. AMD greift Nvidia mit einem neuen Ansatz für effizientere KI-Chips an. Der US-Konzern verspricht mit einer neuen Chip-Serie eine 38-fache Effizienzsteigerung. In einer Branche, in der der Stromverbrauch zur strategischen Größe wird, könnte das den Markt für KI-Rechenzentren neu ordnen. Die Handelsblatt-Tech-Reporter Joachim Hofer und Stephan Scheuer haben analysiert, wie AMD mit dem Projekt „Helios“ erstmals komplette Systeme anbietet – und warum der Rivale Nvidia trotzdem weiter im Vorteil bleibt.

5. Apple verliert seinen wichtigsten KI-Manager an Meta. Ruoming Pang, Leiter der Entwicklung großer Sprachmodelle und zentraler Architekt von „Apple Intelligence“, wechselt zu Mark Zuckerbergs neuem „Superintelligence“-Labor. Der Tech-Milliardär lockt mit Millionenvergütungen – und könnte damit eine Abwanderungswelle bei Apple auslösen. Mein Kollege Philipp Alvares berichtet, wie der Kampf um die KI-Talente im Silicon Valley eskaliert.

6. Der Meta-Deal von Scale AI hat Lucy Guo zur jüngsten Selfmade-Milliardärin der Welt gemacht. Die Mitgründerin von Scale ist schon seit 2018 nicht mehr bei dem KI-Spezialisten, hält aber noch Anteile an der Firma, die nach dem Einstieg von Meta mit 30 Milliarden Dollar bewertet wird. Ihr neues Projekt ist die Plattform Passes, mit der sie Influencer in Europa reich machen will. Meine Kollegin Nadine Schimroszik hat Guo in Berlin getroffen und über ihr Erfolgsrezept gesprochen. Dazu zählen regelmäßiges Training, eine strategische Karriereplanung – und eine weitgehende Abstinenz von Instagram und Tiktok.

Grafik der Woche

Viele europäische Unternehmen scheitern bei der Skalierung von generativer KI an grundlegenden Voraussetzungen. Für 42 Prozent der Führungskräfte zählt eine unzureichende Datenbasis zu den größten Hindernissen. Auch der Mangel an interdisziplinären Teams sowie Sicherheitsrisiken bremsen den Rollout. Das gilt besonders in der Konsumgüterindustrie, in der Luft- und Raumfahrtbranche und bei Versorgungsunternehmen. Selbst der Nachweis konkreten Geschäftsnutzens fällt vielen Firmen schwer. Ein Report des Beratungsunternehmens Accenture zeigt, wie weit Anspruch und Wirklichkeit beim Einsatz von generativer KI oft auseinanderliegen.

Was wir lesen

Microsoft fordert seine Vertriebsmitarbeiter auf, KI stärker zu nutzen. Der Konzern hatte kürzlich mehrere Mitarbeiter entlassen. (The Information)

Könnte die Übernahme des Start-ups Perplexity Apples KI-Strategie retten? Davon ist zumindest Analyst Dan Ives überzeugt. (Fortune)

Perplexity veröffentlicht einen KI-Browser namens Comet. Er wurde zunächst nur für Abonnenten des 200-Dollar-Abos freigeschaltet. (TheVerge)

Viele beliebte Bands auf Spotify sind nicht echt, stattdessen steckt KI dahinter. Musikstreaming-Konkurrent Deezer macht KI-generierte Musik bereits transparent. (The Next Web)

Amazon erwägt ein weiteres Investment in Anthropic. Der Konzern von Jeff Bezos will seine Anteile an der Firma deutlich erhöhen. (Financial Times)

Nicht mehr, sondern bessere Daten sind der Schlüssel für gute KI. Das ist das Versprechen der Datenplattform iMerit, die dafür Experten rekrutiert. (TechCrunch)

McDonald’s Bewerbungs-Bot legt Millionen von persönlichen Daten offen. Die Daten der Bewerber sollen mit dem Passwort 123456 verschlüsselt worden sein. (Wired)

Google setzt Microsoft und Amazon unter Preisdruck. Weil der Cloudkonzern der amerikanischen Regierung Rabatte gibt. (Financial Times)

Handelsblatt KI-Community

„Ohne KI wird gar nichts mehr gehen“, sagt der Ex-Klinikdirektor und Unternehmensberater Jochen Werner. Beim Handelsblatt-Terrassengespräch hat er diese Woche mit unserem Chefredakteur Sebastian Matthes, der Dermatologin und Gründerin Estefania Lang und dem Rückenmedizin-Experten Dietrich Grönemeyer über die Zukunft der Medizin diskutiert.

Schon jetzt ist Künstliche Intelligenz in der Lage, Hautbilder zu analysieren, Therapien vorzuschlagen und die Bürokratie zu reduzieren. Bald könnte sie manche medizinischen Berufe gar überflüssig machen. In der Diskussion haben sich die Experten der Frage genähert, wie viel Mensch ein modernes Gesundheitssystem noch braucht.

Kennen Sie schon ...?

Wer ist Katharina Wilhelm? Eine der Partnerinnen der Wagniskapitalfirma Index Ventures. Von Berlin aus verantwortet sie etwa die Investments in die Übersetzungsfirma DeepL und Ethon AI, eine Plattform für Fertigungsanalyse.

Wo kommt sie her? Sie ist aufgewachsen in Deutschland, hat in der Schweiz und den USA studiert, zeitweise in Großbritannien gelebt. Vor allem für Gründer sieht sie solche internationalen Erfahrungen als Vorteil.

Was hat sie vor? Wilhelm will Gründern aus Europa beim Expandieren helfen. Dazu hat sie mit ihren Partnern bei Index jetzt ein Handbuch veröffentlicht – mit Tipps und Fallstudien von Firmen wie Spotify, Hugging Face und Eleven Labs.

Das Buch gibt es digital und gedruckt bei Index Ventures.

Das sollten Sie ausprobieren

Lassen Sie Ihren KI-Assistenten ans Telefon gehen! Der Tipp kommt von Claus Hesseling, der an der Holtzbrinck-Schule für Journalismus unterrichtet. Dort haben unsere KI-Reporterinnen Luisa Bomke und Lina Knees viel von ihm gelernt. In der heutigen Ausgabe des Handelsblatt KI-Briefings verrät er, wie Sie sich mit der Voice-KI von Eleven Labs einen Anrufbeantworter bauen.

„Hallo, hier ist Claus, wie kann ich dir helfen?“ – so könnte bald Ihr persönlicher KI-Assistent ans Telefon gehen. Denn Eleven Labs hat seinen Stimmengenerator erweitert: Mit der neuen „Conversational AI“ können Nutzer sich mit KI-Stimmen unterhalten. Ich habe die Funktion getestet und meinen eigenen KI-Anrufbeantworter gebaut – mit durchwachsenen Ergebnissen.

Und so geht’s: Gehen Sie auf die Website von Eleven Labs und legen Sie unter „Registrieren“ einen kostenlosen Account an. So können Sie das Tool erstmal testen, bevor die Kreditkarte leidet.

Im Menü klicken Sie oben links im Dropdown-Menü auf „Conversational AI“, dann auf „Agent“ und dann die Option „Start from blank“. Jetzt können Sie Ihren Telefonassistenten einrichten.

Das Geheimrezept: Eigenes Wissen füttern

Stellen Sie die Sprache auf Deutsch und geben Sie als erste Nachricht eine Begrüßung oder etwas Allgemeineres ein, etwa: „Hallo, was möchten Sie wissen?“ Im sogenannten „System Prompt“ beschreiben Sie die Persönlichkeit Ihres Assistenten. Meinen eigenen Assistenten habe ich etwa so beschrieben: „You are a cheerful, funny assistant who answers all questions and enjoys chatting with others.“ Danach klicken Sie auf den Zauberstab neben dem Eingabefeld. Das Programm schreibt dann einen ausführlicheren Prompt.

Wichtig: Damit der Assistent nicht nur plaudert, sondern auch etwas weiß, muss er mit Wissen gefüttert werden. Unter „Agent knowledge base“ laden Sie ein Dokument hoch, in dem Fragen und Antworten stehen, die Sie am Telefon häufig besprechen. Aktivieren Sie anschließend „use RAG“. (Das steht für Retrieval Augmented Generation und bedeutet, dass die KI die korrekten Antworten der bereitgestellten Quelle entnehmen soll, Anm. d. Red.). Soll der Agent beispielsweise Anrufern Fragen zum Handelsblatt KI-Briefing beantworten, könnte man alle 98 Newsletterausgaben in eine Word-Datei kopieren und hochladen.

Nun können Sie die Stimme auswählen und per Plussymbol hinzufügen. Achtung: Nicht alle sprechen Deutsch – die Stimme „Ben“ zum Beispiel aber schon.

Im Menü „Agents“ klicken Sie auf „Test AI Agent“, um Ihren Assistenten auszuprobieren. Mein Assistent sprach flüssig Deutsch und bezog mein hochgeladenes Wissen ein. Beeindruckend! Bei kniffligen Fragen weicht er allerdings gerne aus (ist er etwa Politiker?).

Mein Fazit: Die „Conversational AI“ von Eleven Labs eignet sich für einfache Aufgaben. Ich kann mir gut vorstellen, dass er zum Beispiel beim Onboarding gut unterstützen kann, etwa wenn der neue Mitarbeiter Fragen hat. Für kritische Gespräche war „Ben“ aber noch nicht gewappnet. Er ist zwar charmant, aber nicht schlagfertig.

Achtung, Kostenfalle! Sobald Sie den Assistenten live schalten, also den Weblink teilen oder mit Ihrer Telefonnummer verknüpfen, tickt die Gebührenuhr. Unter dem Reiter „Security“ können Sie ein „Daily Call Limit“, also ein tägliches Limit für die Telefonate setzen, um die Kosten vorab zu begrenzen. Unter „Advanced“ können Sie außerdem die „Max conversation duration“, also die maximale Länge eines Telefonats festlegen.

Bonustipp: Sie können mit Eleven Labs auch Ihre eigene Stimme klonen, dafür benötigen Sie allerdings ein bezahltes Abo und ein wenig mehr Zeit.

Wo Sie uns nächste Woche treffen

Creative Town Hall Meeting
Dienstag, 15. Juli, 16 bis 20 Uhr
Marktplatz 2 | 40213 Düsseldorf

Im Düsseldorfer Rathaus! Denn dort treffen sich am Dienstag die Düsseldorfer Kreativschaffenden und diskutieren über den Einfluss von Künstlicher Intelligenz auf die Kulturwirtschaft.

Meine Kollegin Luisa Bomke gibt einen Impulsvortrag mit dem Titel: „Kreative vs. Künstliche Intelligenz – was unsere Zukunft wirklich prägt“.

Sie wollen dabei sein? Dann melden Sie sich unter folgendem Link an.

Das war das KI-Briefing Nummer 97. Mitarbeit: Luisa Bomke, Lina Knees, Juraj Rosenberger (Grafik). Wenn Sie auch nächste Woche wieder mitlesen wollen, abonnieren Sie das KI-Briefing am besten als Newsletter.