KI-Briefing: Superintelligenz oder Super-GAU, das ist hier die Frage

Die 2,4 Milliarden Dollar, die Google-Chef Sundar Pichai für die KI-Experten des Start-ups Windsurf ausgab, wirken dagegen fast läppisch.

Und dass die Bewertungen von Start-ups früher mal einen Bezug zu Kennzahlen wie Umsatz und Gewinn hatten, scheint längst vergessen. Das zeigt das Beispiel von Thinking Machines Lab. Die KI-Firma der früheren Technologiechefin von ChatGPT-Entwickler OpenAI, Mira Murati, soll jetzt mit zwölf Milliarden Dollar bewertet sein. Auf die Vorstellung des ersten Produkts müssen wir wohl noch einige Monate warten.

Diese hohen Bewertungen und Investitionen stehen in dramatischem Widerspruch zu der Nervosität, die meine Kollegen Felix Holtermann und Philipp Alvares in den vergangenen Wochen gespürt haben. Denn viele Studien und Papiere nähren in jüngster Zeit Zweifel an den großen Versprechen der KI-Anbieter.

Vieles, so die Analyse von Felix und Philipp, deutet derzeit darauf hin, dass sich die Geschichte der Dotcom-Blase bei KI wiederholt. Sie hat um die Jahrtausendwende dazu geführt, dass viele Investoren ihr Geld verloren haben. Die erste Generation von Internetunternehmen konnte die an sie gestellten Erwartungen damals nicht schnell genug erfüllen.

Aber man darf nicht vergessen: Den Siegeszug des Internets hat dies nicht aufgehalten.

Am Schluss geben wir daher die Empfehlung: Wenn Sie dieses Wochenende doch noch ein wenig mehr Zeit haben, lesen Sie die ganze Analyse der Kollegen.

Worüber die Szene spricht

Die Lösung vieler heutiger KI-Probleme erhoffen sich Unternehmer, Investoren und Experten von Agenten.

Was dahintersteckt? Mir gefällt die Erklärung von Ivan Burazin, dem Chef der KI-Infrastruktur-Firma Daytona. Er beschreibt Agenten als das Stück Software, das zwischen einem KI-Modell, seinem Nutzer und bestimmten Werkzeugen oder Programmen steht, die ihm verfügbar sind. Und dieses Stück Software soll dafür sorgen, dass Künstliche Intelligenz bestimmte Aufgaben von Anfang bis Ende ausführen kann.

Einen ebensolchen Agenten hat OpenAI-Chef Sam Altman am Donnerstag mit gewohnt großen Worten – und noch größeren Warnungen – vorgestellt.

Auf der Plattform X präsentierte der Unternehmer den neuen ChatGPT-Agenten als „eine Gelegenheit, die Zukunft auszuprobieren“. Er fügte aber auch hinzu, dass er den Agenten „noch nicht für kritische Anwendungen“ oder den Umgang „mit vielen persönlichen Daten“ verwenden würde. Beispielhaft nennt er die unbeaufsichtigte Bearbeitung von E-Mails. Denn der Bot könnte auf bösartige Phishingmails hereinfallen und die Daten seines Nutzers preisgeben.

Alles in allem liest sich sein Beitrag wie ein Hinweisschild mit der Aufschrift: „Nutzung auf eigene Gefahr“. Das erinnert mich an eine spannende Diskussion, die ich vergangene Woche bei der Pariser KI-Konferenz Raise mit besagtem Daytona-Chef Burazin und anderen Experten führen durfte. Dabei ging es um die Zukunft der KI-Agenten und autonomer Workflows, um Anforderungen an die Governance und um Überlegungen, wie die Rollenteilung zwischen Agenten und echten Mitarbeiterinnen und Mitarbeitern künftig wohl aussehen wird.

Hier kommen für Sie zusammengestellt die zentralen Fragen und einige bemerkenswerte Antworten:

Wer ist eigentlich verantwortlich, wenn ein KI-Agent Schaden anrichtet? Momentan sei es ja so, sagte Ivan Burazin: „Wenn ich meinem Agenten Zugriff auf meine E-Mails gebe, sieht es in den Protokollen so aus, als hätte ich selbst gehandelt.“ Da gäbe es noch viele ungelöste Fragen in Bezug auf Authentifizierung und Autorisierung. „Man will nicht nur verhindern, dass etwas passiert, sondern auch klären können: Wenn etwas passiert ist – hat es der Agent getan? Und in wessen Auftrag hat er gehandelt?“ Die technische Antwort darauf müsse in jede einzelne Dienstleistung integriert werden, sodass Unternehmen wie die Hotelplattform Booking oder die Fluggesellschaft Ryanair erkennen, ob gerade ein Agent eine Buchung vornimmt.

Welche Herausforderungen ergeben sich dadurch für Unternehmen im Hinblick auf die Überwachung ihrer KI-Agenten? Der Manager des deutschen Softwarekonzerns SAP Emmanuel Cassimatis sprach von einem „Governance-Monster“, das gerade entstehe, während Unternehmen ihre KI-Agenten in verschiedenen Umgebungen steuern und kontrollieren müssten. „Wir brauchen Vorschriften. Wir brauchen Kontrollmechanismen. Wir brauchen Plattformen, die es ermöglichen, solche Regeln zu erstellen“, sagt er. SAP wolle die entsprechende Plattform bieten. Cassimatis zog den Vergleich zu den Regeln beim Fußball: Wenn das Spielfeld den richtigen Rasen habe, es einen Schiedsrichter gebe und sich das Publikum angemessen verhalte, werde es viel einfacher für die Spieler, das Spiel auch zu bestreiten.

Wie viel menschliche Aufsicht ist denn noch nötig? Laut Paul van der Boor, Vice President AI bei der Prosus Group, kommt es auf die Aufgabe und das Vertrauen in die implementierten Abläufe an. Das ließe sich mit unterhaltsamen Maßnahmen wie „Labeling-Partys“ steigern, bei denen man sich zusammensetze, Pizza bestelle und Agenten bewerte. Über mehrere Wiederholungen gewinne man das Vertrauen zu sagen: „Okay, dieser Praktikant ist jetzt zum Junior aufgestiegen.“

Im Karrierenetzwerk LinkedIn könnten Mitglieder bald schreiben, dass sie für ein Team von 150 KI-Agenten zuständig sind. Werden Manager Bots statt Mitarbeitende führen? Edwin Khodabakchian, der Chef von Feedly, hält nichts von der Vorstellung, dass sich einzelne Mitarbeiter oder ganze Teams eins zu eins von Agenten ersetzen lassen. Es gehe viel mehr um eine Steigerung der Produktivität, da Agenten 85 bis 90 Prozent der komplexen Aufgaben übernehmen könnten, während der Mensch weiterhin Dinge wie Empathie, Kreativität und Durchhaltevermögen mitbringen werde.

Welche Aufgaben bleiben konkret dem Menschen überlassen?
Aus Sicht von Alexandra Mysoor, die als Gründerin von Alix die Nachlassverwaltung automatisiert, sollten Agenten Aufgaben übernehmen, die viele Stunden an Arbeit kosten. Mitarbeitende mit höherem Urteilsvermögen würden sich derweil auf komplexere Aufgaben konzentrieren. Im Kontakt mit Kunden könnten Unternehmen sich mit realen Menschen wahrscheinlich bald als Premiumanbieter positionieren.

Was Sie sonst noch wissen sollten

1. Googles neue KI-Suche kostet Nachrichtenseiten Millionen Klicks. Eine exklusive Auswertung zeigt: In den USA steigt die Zahl der Nutzer, die nach einer Google-Suche keinen Link mehr anklicken, bei manchen Medien um mehr als sechs Prozentpunkte. Beim Portal „Foxnews“ springt die sogenannte Null-Klick-Rate von 56,7 auf 62,8 Prozent, wenn eine KI-Zusammenfassung erscheint. Auch deutsche Medien spüren erste Effekte. Meine Kollegen Stephan Scheuer und Philipp Alvares haben die exklusiven Similarweb-Daten ausgewertet und analysiert, wie Googles Umbau das Nachrichtengeschäft gefährdet und auf andere Geschäftsmodelle auswirkt.

2. Die Vibe-Coding-Plattform Lovable wird zum Milliarden-Start-up.
Die Firma aus Schweden ist erst wenige Monate alt und ermöglicht es, Websites und Apps per Spracheingabe zu erstellen. Mehr als 2,3 Millionen Menschen nutzen Lovable bereits, darunter 180.000 zahlende Abonnenten. Ähnlich groß ist die Begeisterung bei Investoren. Meine Kollegin Luisa Bomke berichtet über eine neue Finanzierungsrunde, die der Firma 200 Millionen Dollar Kapital und eine Bewertung von 1,8 Milliarden Dollar einbringt.

3. Deutschland soll zur Hightech-Nation werden. Dafür investiert der Bund Milliarden. So soll langfristig die technologische Abhängigkeit reduziert werden. Künstliche Intelligenz steht dabei ganz oben auf der Liste. Mit neuen KI-Modellen, Flagship-Projekten und eigenen Rechenzentren sollen bis 2030 zehn Prozent der Wirtschaftsleistung KI-basiert erwirtschaftet werden. Auch Quantencomputer, Biotech und eigene Chipproduktionen gehören zur Agenda. Mein Kollege Daniel Delhaes hat den Entwurf für eine entsprechende Strategie vorliegen – und zeigt, woran sie noch scheitern könnte.

4. Nvidia darf trotz des Handelskonflikts wieder spezielle KI-Chips nach China liefern. Möglich wurde das durch ein Zugeständnis der US-Regierung gegenüber Peking, im Tausch gegen Rohstoffe wie seltene Erden. Experten sprechen von einem Wendepunkt im Konflikt zwischen den beiden Großmächten. Schon in dieser Woche hat Nvidia-Chef Jensen Huang deshalb das Momentum genutzt und in Peking für neue Kunden geworben. Meine Kollegin Sabine Gusbeth berichtet, was der geopolitische Deal für uns Europäer bedeutet.

5. Renk und Arx Robotics entwickeln gemeinsam autonome Panzerfahrzeuge. Der Spezial-Getriebehersteller für den Rüstungssektor bringt Mechanik und Industrieerfahrung ein, das Start-up liefert KI-Software und agile Entwicklung. Ziel ist es, die Getriebetechnik für Panzer wie den Leopard oder den Puma mit autonomen Steuerungen zu verbinden. Markus Fasse und Nadine Schimroszik berichten, wie die Unternehmen ihre Partnerschaft strategisch aufstellen und welche Rolle die Bundeswehr spielt.

6. KI macht Cyberangriffe gefährlicher und die Versicherung komplexer. Versicherer wie Hiscox sehen sich mit einer wachsenden Zahl dynamischer Risiken konfrontiert, die sich durch KI-gestützte Deepfakes und ausgeklügelte Phishing-Attacken verschärfen. Die Schadensummen steigen, Policen müssen angepasst werden – und Prävention wird zum zentralen Element. Dennoch wächst der Markt für Cyberversicherungen rasant. Meine Kollegin Tami Holderried berichtet, wie Anbieter versuchen, die Risiken beherrschbar zu halten.

7. Die Allianz will zum Tech-Konzern werden und ihren Gewinn verdoppeln. Konzernchef Oliver Bäte setzt dafür auf Künstliche Intelligenz: Sprachbots ersetzen Callcenter, Schäden werden per App reguliert, Prozesse automatisiert. Möglich machen das riesige Datensätze, neue Plattformen und Investitionen in Milliardenhöhe. Die Hoffnung: Einsparungen im Konzern und ein neues Image nach dem Vorbild von Amazon und Google. Jakob Blume und Tami Holderried haben recherchiert, wo die Chancen und Risiken für Deutschlands größten Versicherer liegen.

Grafik der Woche

66 Prozent der Unternehmen profitieren heute schon vom Einsatz Künstlicher Intelligenz. Das geht aus einer Umfrage im Rahmen des EY European AI Barometers 2025 hervor. Das ist ein Anstieg von über 20 Prozent im Vergleich zum vergangenen Jahr. Demzufolge könnten sich die Vorhersagen, nach denen 2025 das Jahr des echten Mehrwerts wird, vielleicht doch bewahrheiten.

Was wir lesen

Wen wird die KI-Revolution am meisten treffen – die Jungen oder die Erfahrenen? Eins ist klar: Es trifft vor allem die in den Büros. (New York Times)

Die Datenplattform Scale AI entlässt 14 Prozent ihrer Belegschaft und beendet 500 Kundenbeziehungen. Die Nachricht kommt, einen Monat nachdem Meta knapp die Hälfte der Firma übernommen hat. (Techcrunch)

Oracle will zwei Milliarden Dollar in Cloudinfrastruktur in Deutschland investieren. Das Geld soll vor allem in die Rhein-Main-Region fließen. (dpa/HB)

Firmen, die an einer Künstlichen Allgemeinen Intelligenz arbeiten, sind nicht auf die Gefahren vorbereitet. Das ist das Ergebnis einer Untersuchung des Future of Life Institutes. (The Guardian)

Nvidias Chip-Deal mit den Vereinigten Arabischen Emiraten soll auf Eis liegen. Grund sind wohl Sicherheitsbedenken. (Techcrunch)

Anthropics KI-Modell Claude wird zur Petze und meldet Fehlverhalten bei Behörden. Das hat ein Sicherheitsreport der KI-Firma offengelegt. (Venture Beat/Miriam Meckel)

Zuckerberg plant KI-Zentren in der Größe von Manhattan. Der Meta-Chef will Rechenzentren bauen, die den Jahresstromverbrauch von vier Millionen US-Haushalten haben. (Bloo/dpa/HB)

Recursion könnte als erstes Unternehmen KI-basiert entwickelte Medikamente auf den Markt bringen. Die ersten Medikamente haben schon die zweite Testphase bestanden. (Wired)

Handelsblatt KI-Community

Mit diesen drei Fragen hat meine Kollegin Luisa Bomke am Dienstag ihren Impulsvortrag bei der Kultur- und Kreativwirtschaft im Düsseldorfer Rathaus gestartet. Und die überraschende Antwort auf die letzte Frage sehen Sie an den Handzeichen im Bild. Eine Frage, mit der sich alle Branchen auseinandersetzen sollten.

In dem anschließenden zehnminütigen Vortrag, bei dem auch einige KI-Briefing-Leser vor Ort waren, ging sie darauf ein, warum sie nicht glaubt, dass KI Kunst- und Kreativschaffende ersetzen wird. Auch wenn KI schon heute Werbefilme, Bilder und massentaugliche Musik erstellt. Und dass die KI-Entwicklung gerade an einem Scheideweg steht.

Luisa glaubt vielmehr, dass der Mensch sich immer für Kunst, Kultur und Sport interessieren wird – als Ausgleich zum stressigen und von Bildschirmen geprägten Alltag. Deshalb hat sie die Anwesenden aufgefordert, nicht zu fragen: „Wie kann KI mich ersetzen?“ Sondern: „Wie kann ich KI so einsetzen, dass sie mich erweitert statt verdrängt und meine kreative Intelligenz weiter fördert?“

Was ist Ihre Meinung? Diskutieren Sie mit.

Kennen Sie schon ...?

Wer sind Stefan Reuther und Lucas Spreiter? Die Gründer von Venta AI. Das Berliner KI-Start-up automatisiert den Vertrieb.

Wo kommen sie her? Die Gründer haben sich bei einem Start-up-Projekt an der Technischen Universität München kennengelernt, zusammen am berühmten Y-Combinator-Programm in den USA teilgenommen und nun bereits ihre dritte Firma gegründet.

Was haben sie vor? Reuther und Spreiter versprechen Firmen, die ihr KI-Modell einsetzen, mehr Umsatz bei weniger Aufwand – und 30 Prozent mehr Kundenkontakte.

Das sollten Sie ausprobieren

Stilanalyse-Prompt. Wir haben unser Netzwerk nach ihren KI-Hacks gefragt. Diese Woche kommt der Tipp von Jens Polomski. In seinem Newsletter und auf der Weiterbildungsplattform snipKI zeigt er, wie sich KI im Marketing einsetzen lässt. Uns hat er verraten, wie er mit ChatGPT seinen ganz persönlichen Ton trifft.

Jens Polomski: „Oft brauche ich mehrere Texte im selben Stil, etwa für LinkedIn-Posts, Newsletter oder Case-Studies. Genau dabei hilft mir der Stilanalyse-Prompt, der, erstens, die wichtigsten Merkmale meines Stils erkennt und daraus, zweitens, eine Art Bauanleitung für neue Texte generiert. Dafür brauchen Sie nur einen typischen Text als Vorlage und einen KI-Chatbot Ihrer Wahl – etwa ChatGPT, Claude oder Gemini.

Und so geht’s: Zunächst benötigen Sie einen sogenannten Meta-Prompt. Das ist ein Befehl, mit dem Sie die KI anweisen, einen optimierten Prompt für eine bestimmte Aufgabe zu erzeugen. Als Vorlage zeige ich Ihnen meinen Meta-Prompt, in dem ich die Rolle des Bots festlege, seine Aufgabe(n) definiere und das Format bestimme, in dem er antworten soll. Das sieht so aus:

## Rolle
Du bist ein extrem gründlicher „Sprach- & Schreibstil-Analyst + Prompt-Designer“.

## Eingaben
Referenztext → Zwischen den Markern <<>> … <<>> steht exakt *ein* vollständiger Artikel, dessen Stil analysiert werden soll.

## Aufgaben (der Reihe nach!)
### 1 · Stil so detailliert wie möglich herausarbeiten
Untersuche den Referenztext systematisch. Erfasse dabei mindestens:

*Wichtig:* Gib keine längeren Passagen oder Sätze wörtlich wieder (Plagiat vermeiden). Stelle die Ergebnisse strukturiert im Abschnitt „Stil-Analyse“ dar – ideal als Markdown-Liste.

## 2 · Prompt für neue Artikel bauen
Nutze Deine Analyse, um einen universell einsetzbaren Prompt zu formulieren. Der Prompt muss:

Gib den Prompt gut lesbar im Abschnitt „Generations-Prompt“ aus. Nutze Platzhalter in eckigen Klammern, z. B. [THEMA], [LÄNGE], [PERSPEKTIVE].

## Ausgabeformat (bitte exakt einhalten)
<<>> [Hier den Beispielartikel oder Textabschnitt einfügen] <<>>

Wenn Sie in den Meta-Prompt nun Ihre Vorlage einfügen, liefert Ihnen das Modell eine präzise Analyse und einen Prompt. Mit diesem Prompt können Sie ab sofort zu jedem beliebigen Thema einen Text erstellen, der klingt, als wäre er von Ihnen geschrieben.

Bonustipp: Die aus der Stilanalyse gewonnenen Erkenntnisse lassen sich sogar als Grundlage für eine einheitliche Tonalität im Unternehmen nutzen. Sie können diese in Ihre Content-Strategie integrieren und etwa für Markenrichtlinien, Recruiting-Texte oder automatisierte Mailings verwenden.

Das war das KI-Briefing Nummer 98. Mitarbeit: Luisa Bomke, Lina Knees, Juraj Rosenberger (Grafik). Wenn Sie auch nächste Woche wieder mitlesen wollen, abonnieren Sie das KI-Briefing am besten als Newsletter.