KI-Briefing: So verdient der Facebook-Konzern Meta an Deepfakes
Wenn Sie nur wenig Zeit haben, liebe Leserinnen und Leser,
dann sollten Sie zumindest von diesem erschreckenden Trend gehört haben: Influencern werden immer häufiger Stimme und Identität geklaut, um sie für Werbezwecke einzusetzen. Und viele Betroffene bekommen das nicht einmal mit.
Warum das wichtig ist? Es ist, wie der Name sagt: Influencer haben Einfluss. Oft befassen Sie sich über lange Zeit mit einem Thema und bauen dadurch eine Marke auf. Menschen vertrauen dann darauf, dass das, was Influencer sagen, glaubwürdig ist. Und genau dieses Vertrauen machen sich Betrüger zunutze, um für ihre eigenen Zwecke zu werben.
Als ich vor einigen Wochen zum ersten Mal von einem solchen Identitätsklau hörte, hielt ich Vera Bauer für einen Einzelfall. Die Influencerin ist im Netz als „TechLikeVera“ bekannt und hat in einem Video den Onlinetrend um einen Starter-Pack kritisiert.
Wer viel in den sozialen Medien unterwegs ist, hat es mitbekommen: Über Wochen waren die Netzwerke voll von Leuten, die sich selbst als KI-generierte Actionfigur samt persönlicher Grundausstattung gezeigt haben. Bei mir wären das übrigens: Laptop, Yoga-Matte und Kaffeetasse (Ich fand den Trend ziemlich nervig, aber ein Beispielbild gehört hier wohl zur journalistischen Sorgfaltspflicht).
Vera Bauer fand den Trend auch nicht so lustig. Sie wies in ihrem Video darauf hin, wie viele Ressourcen durch das Generieren der unnützen Bilder verbraucht würden. Und jetzt kommt’s: Kurz darauf schickte ihr jemand ein Video, in dem sie selbst erklärte, wie Nutzer bei diesem Trend mitmachen konnten. Nur hatte Bauer dieses Video nie erstellt. Es handelte sich um ein Deepfake, eine täuschend echt wirkende Fälschung.
Am Ende meiner Recherche habe ich große Zweifel, dass Nutzerinnen und Nutzer, Unternehmen und auch die großen Plattformen auf diese neue Onlinerealität vorbereitet sind. Denn drei Dinge wurden mir deutlich:
Erstens kann es jeden treffen. Vermutlich haben auch Sie schon einmal ein Bild, ein Video oder eine Tonaufnahme von sich ins Netz gestellt. Wie leicht sich daraus ein Deepfake-Video erzeugen lässt, zeigt Creati AI – jene App, für die das gefälschte Video von Vera Bauer wirbt. Nutzer können dort etwa Fotos von zwei Personen hochladen und dann Videos generieren, auf denen sich diese Personen zum Beispiel küssen oder tanzen.
Zweitens sind solche Deepfakes eine echte Gefahr für Personen und Unternehmen, die auf Vertrauen angewiesen sind. Jamal Fischer, der ebenfalls Technolgie-Influencer und auch schon Opfer des Trends geworden ist, sagte mir: Wenn ein Produkt unerlaubt mit seinem Gesicht beworben werde, könne das in seiner Community eine vertrauensschädigende Wirkung haben. Eine Analyse des Marktforschungsunternehmens Forrester kommt gar zu dem Schluss: „Die nachhaltigen Auswirkungen von Deepfakes auf die Markenwahrnehmung und den Umsatz werden tiefgreifend sein.“
Drittens scheinen große Plattformen kaum oder nur sehr langsam gegen falsche Clips vorzugehen – womöglich auch, weil sie daran verdienen. Allein Creati AI hat bereits 27.000 Werbeanzeigen über die Plattformen von Meta ausspielen lassen. Der Konzern hinter Facebook und Instagram macht laut Statista Research 98 Prozent seines Umsatzes mit Werbung.
So verdient der Facebook-Konzern Meta an Deepfakes
Nach Unternehmensangaben wird bei Meta zwar jede Anzeige automatisiert vor Veröffentlichung geprüft. Und nach dem Digital Services Act müssen Plattformen ihren Nutzern Verfahren anbieten, um beispielsweise Deepfakes zu melden. Das verhindert gefälschte Werbung wie die von Creati AI jedoch offensichtlich nicht. Und Vera Bauer berichtete, dass das Deepfake mit ihrem Gesicht erst vier Tage nach der Beschwerde verschwand. In Metas Werbearchiv sind die Videos noch immer zu finden. Eine Antwort erhielt Bauer bis heute nicht.
In meinem Text für unsere Wochenend-Ausgabe können Sie nachlesen, wie andere Plattformen mit Deepfakes umgehen, was Sie als Betroffene tun können und wer hinter Creati AI steckt.
Worüber die Szene spricht
Über das Start-up Terra Quantum, das nach eigenen Angaben an einem bahnbrechenden KI-Chip arbeitet. Allerdings steht die Firma gerade nicht wegen einer revolutionären Technologie im Fokus, sondern weil dort ein Streit mit Investoren herrscht, wie ihn die deutsche Start-up-Welt wohl noch nicht erlebt hat. Gründer und Investoren beschimpfen sich dabei als kriminell und verräterisch.
Was dahinter steckt? Die Antwort darauf suchen meine Kollegen Larissa Holzki und Sönke Iwersen gerade in zahlreichen Dokumenten, die dem Handelsblatt zugespielt wurden. Aber erste Rechercheergebnisse hat Larissa schon einmal für Sie zusammengefasst:
- Die Eskalation begann am 15. April in einem Zoomcall, in dem Terra-Quantum-Chef Markus Pflitsch auf drei seiner Investoren traf: Klaus Hommels, Gründer des Risikokapitalfonds Lakestar, Lakestar-Partner Stephen Nundy und Wolfgang Essler, Geschäftsführer von Athos, der Beteiligungsfirma, hinter der die als Hexal-Gründer bekannt gewordenen Strüngmann-Brüder stehen. Die Investoren sollen den CEO an diesem Nachmittag vor die Wahl gestellt haben: Entweder er trete zurück – oder sie würden „bei der nächsten Verwaltungsratssitzung eine Abstimmung gegen die Fortführung des Unternehmens einleiten“. So jedenfalls steht es in persönlichen Notizen von Pflitsch, die inzwischen einem Schweizer Gericht vorliegen und dem Handelsblatt zugespielt wurden.
- Die Darstellung passt allerdings nicht zu einer Stellungnahme von Lakestar, wonach die Hommels-Firma den Anspruch habe, ihre „Beteiligungen aktiv und konstruktiv zu begleiten“ und dabei „stets im besten Interesse“ der Portfoliounternehmen, Gesellschafter und ihrer Investoren handle, um „nachhaltigen Unternehmenswert zu schaffen“. Seine eigenen Investoren hatte Lakestar in den vergangenen Tagen allerdings schon in einem als „vertraulich“ gekennzeichneten Schreiben vorgewarnt, dass es bei Terra Quantum in dieser Hinsicht derzeit nicht gut laufe. Darin wird Pflitsch als CEO beschrieben, der das Unternehmen mit „einseitigen Maßnahmen“ destabilisiert habe und Investoren und Verwaltungsräten Informationen über die Finanzlage verweigere.
- Klar ist inzwischen: Terra Quantum braucht dringend Geld. Bei dem Streit geht es um die Frage, unter welchen Bedingungen die Bestandsinvestoren Terra Quantum in einer wohl dringend benötigten neuen Finanzierungsrunde unterstützen – und um die Frage, wie sich das Potenzial der wohl sehr wertvollen Patente am besten ausschöpfen lässt.
Mehr Details lesen Sie im ersten Report zur Schlammschlacht von Larissa und Sönke. Es dürfte, danach sieht es momentan aus, wohl nicht der letzte gewesen sein.
Was Sie sonst noch wissen sollten
1. Investoren setzen zwei Milliarden Dollar auf Mira Murati. Die Ex-Technologiechefin von OpenAI hat für ihre erst wenige Monate alte Firma Thinking Machines Lab eine Finanzierungsrunde abgeschlossen, die ihresgleichen sucht. Dabei ist öffentlich bisher nicht einmal bekannt, woran genau die Firma eigentlich arbeitet. Klar ist lediglich, dass das Start-up Künstliche Intelligenz entwickeln will, die sich an ethischen Werten und menschlichen Bedürfnissen orientiert. Luisa Bomke berichtet, was hinter dem Glauben an Murati steckt.
2. Airbus Defence and Space und die Drohnen-Firma Quantum Systems wollen den Luftkampf vernetzen und automatisieren. Dazu haben der Rüstungskonzern und das Start-up eine Kooperation vereinbart. In einem Doppelinterview haben sie auf der Paris Air Show mit Technologie-Reporterin Nadine Schimroszik darüber gesprochen, wie bemannte und unbemannte Flugsysteme zusammenarbeiten sollen und was zu tun ist, damit Europa bei der Verteidigung seine Abhängigkeit von den USA reduziert – und was es dazu jetzt braucht.
3. Tech-Konzerne bieten Top-Entwicklern Millionen – und streichen zugleich IT-Jobs. Während sich der Kampf um begehrte KI-Experten zwischen Unternehmen wie OpenAI und Meta immer mehr zuspitzt, wächst im mittleren Qualifikationsbereich die Angst vor Entlassungen. Denn Konzerne wie Amazon und Microsoft setzen zunehmend auf Automatisierung durch sogenannte KI-Agenten, die viele Büroangestellte überflüssig machen könnten. Luisa Bomke und Felix Holtermann berichten, welche Verwerfungen mit der KI-Revolution auf dem Arbeitsmarkt drohen.
4. Zwei von drei Lehrern fühlen sich mit KI im Unterricht unsicher. Eine neue Studie zeigt: Die Mehrheit der Lehrkräfte nutzt Künstliche Intelligenz bislang kaum. Nur ein Drittel hat entsprechende Tools im vergangenen Jahr überhaupt eingesetzt. Meret Baumann, Sandra Louven und Helmut Steuer haben sich erste Pilotprojekte mit KI in europäischen Klassenzimmern angeschaut. Sie berichten, wo KI heute schon Schule macht und was Deutschland davon lernen könnte.
5. Ein Start-up aus Kassel will aus Kakerlaken ferngesteuerte Roboter machen. Solche KI-gesteuerten Insekten könnten in Zukunft in militärischen Einsätzen verwendet werden: bei Aufklärung und Spionage, aber auch bei der Suche nach Verschütteten. Was noch klingt wie Science-Fiction, zieht schon echtes Geld an: Die Firma Swarm Robotics hat zehn Millionen Euro eingesammelt, um Biologie und Robotik zu verschmelzen. Und Nadine Schimroszik berichtet, dass die Bundeswehr an Tests interessiert ist.
Grafik der Woche
Die ETH Zürich und die TU München dominieren bei Deep-Tech-Gründungen. Zwischen 2014 und 2024 wurden an den beiden Unis insgesamt 300 technologiegetriebene Start-ups gegründet. Das zeigt eine neue länderübergreifende Studie, die Hochschulen in Deutschland, Österreich und der Schweiz vergleicht. Tanja Kewes berichtet über die spannendsten Ergebnisse der Auswertung.
Was wir lesen
Wer braucht in einer KI-Welt noch Accenture? Die Beratung steht vor ihrem bisher schwierigsten Fall: Sie muss sich selbst neu erfinden. (The Economist)
KI-Agenten erhalten zunehmend die Kontrolle. Sind wir genug auf das vorbereitet, was als Nächstes kommt? (MIT Technology Review)
Neura Robotics und Vodafone bauen humanoiden Roboter für den Alltag. Mithilfe von 5G-Technologie sollen Sensordaten in Echtzeit ausgewertet werden können. (HB/DPA)
Anthropic macht Vibe-Coding-Plattform Lovable Konkurrenz. Apps können nun direkt im Chatbot Claude erstellt werden. (TheVerge)
Meta gewinnt im Urheberrechtsstreit gegen Buchautoren. Ein US-Richter hat entschieden, dass es zu wenig Beweise dafür gibt, dass die KI von Meta den Buchmarkt schädigt. (The Guardian)
Die Pflanze, die Sie kaufen wollen, gibt es gar nicht. Immer mehr Onlineshops werben mit erfundenen, KI-generierten Pflanzenbildern. (TheVerge)
Kennen Sie schon...?
Wer ist Hakob Astabatsyan? Der CEO und Co-Gründer von Synthflow. Mit der Berliner Plattform können Unternehmen eigene KI-Agenten bauen – ohne Programmierkenntnisse.
Wo kommt er her? Nach dem Studium arbeitete Astabatsyan zunächst als Berater, dann als Manager bei Rocket Internet. 2020 startete er seine erste Firma, 2023 gründete er zusammen mit seinem Bruder Albert Astabatsyan sowie mit Sassun Mirzakhan-Saky dann Synthflow.
Was hat er vor? Synthflow soll für Unternehmen die Einstiegshürden beim Einsatz von KI-Agenten senken. Über 1000 Firmen nutzen Synthflow bereits, das hat auch namhafte Investoren überzeugt. Nun will Astabatsyan expandieren.
Das sollten Sie ausprobieren
Deep Research, aber richtig! Wir haben unser Netzwerk nach KI-Tipps für den Alltag gefragt. Diese erste Empfehlung kommt von Christoph Magnussen, der mit seiner Firma Blackboat Unternehmen hilft, KI-Anwendungen einzusetzen. Viele würden die Spezialfunktionen, die von OpenAI und Google für Recherchezwecke angeboten werden, noch nicht genug nutzen, sagt er.
Für solche Entscheidungen braucht es mehr als Marketingbroschüren oder unübersichtliche Vergleichsportale. KI-Agenten durchforsten im Hintergrund – bei ChatGPT bis zu 30 Minuten lang – das Internet und liefern einen maßgeschneiderten Bericht. Das Ergebnis: eine individuell erstellte Entscheidungsvorlage.
Und so geht’s: Öffnen Sie ein leistungsfähiges KI-Modell mit „Reasoning“-Funktion, etwa GPT-4o, Gemini 1.5 Pro oder Claude 3 Opus.
Viele starten komplexe Recherchen mit einer zu einfachen Frage – das führt zu einem Ergebnis, das zu vage bleibt. Der entscheidende Trick: Lassen Sie die KI bereits vor der eigentlichen Recherche einen präzisen Prompt formulieren.
Geben Sie Deep Research nicht einfach den Befehl: „Vergleiche Slack und Teams.“ Sondern schreiben Sie etwa: „Ich benötige einen detaillierten Research-Prompt. Ziel ist eine umfassende Entscheidungsvorlage für ein Unternehmen mit 150 Mitarbeitern. Die Analyse soll Slack, Microsoft Teams und zwei passende Alternativen vergleichen. Wichtige Kriterien sind: Kosten, Integrationsfähigkeit in bestehende Systeme, Datenschutz nach DSGVO und Skalierbarkeit.“
Verfeinern Sie den Entwurf bei Bedarf. Sind Sie zufrieden, kopieren Sie den optimierten Prompt in die Deep-Research-Funktion. Die gesamte Recherchearbeit, die früher ein Team beschäftigt hätte, erledigt sich nun mit einem Knopfdruck. Das Warten lohnt sich – besonders bei kniffligen und vielschichtigen Aufgaben.
Achtung: Überprüfen Sie immer die von der KI angegebenen Quellen auf ihre Glaubwürdigkeit. Behandeln Sie den generierten Bericht als einen ersten Entwurf eines hochqualifizierten Assistenten, nicht als die unumstößliche Wahrheit. Wenn Sie die Funktion mit eigenen, sensiblen Dateien nutzen, prüfen Sie genau die Datenschutzbestimmungen des jeweiligen Anbieters.
Wo Sie uns nächste Woche treffen
In Oxford! Mari Sako, Management-Professorin an der Saïd Business School der britischen Oxford University, hat zum zweiten Mal zu ihrem „Future of Professionals“-Roundtable eingeladen.
Dort diskutiert sie mit Fachleuten wie Wirtschaftsprüfern, Beratern, Journalisten und Rechtsanwälten, wie Künstliche Intelligenz ihre Arbeit verändern wird und welche strategischen Antworten es darauf gibt. Larissa Holzki ist dabei und hat nächsten Freitag bestimmt von spannenden Diskussionen und Erkenntnissen zu berichten.
Das war das KI-Briefing Nummer 95. Mitarbeit: Luisa Bomke, Larissa Holzki, Hendrik Wünsche (Grafik). Wenn Sie auch nächste Woche wieder mitlesen wollen, abonnieren Sie das KI-Briefing am besten als Newsletter.