ChatGPT: Wenn die KI zum Betrüger wird – diese Maschen sollte man kennen
Generative KI macht den Betrug mit Textelementen leichter.
Foto: IMAGO/Panama PicturesBerlin. Handelt es sich bei der gerade im Posteingang eingetroffenen E-Mail um einen Cyberangriff? Der Chatbot ChatGPT erschwert die Beantwortung dieser Frage. Denn Betrüger können ihn bei der Erstellung sogenannter Phishingmails einsetzen, die darauf abzielen, persönliche Daten, Kreditkarteninformationen oder Passwörter von Nutzern zu ergattern.
Eine Studie des Cybersicherheitsanbieters Sosafe zeigt, dass jeder Fünfte mithilfe von Künstlicher Intelligenz erstellte Phishingmails anklickt. Deutlich mehr noch – nämlich 78 Prozent – entlarven die Phishingmail demnach nicht auf Anhieb. Und die Gefahr nimmt zu: Denn der Erhebung zufolge können generative Sprachmodelle wie ChatGPT Hackern dabei helfen, Phishingmails deutlich schneller zu verfassen.
Denn ChatGPT erleichtert Betrügereien in Textform. „Wo früher Betrüger teilweise noch an der sprachlichen Hürde gescheitert sind, weil die Texte grammatikalisch zu schlecht waren oder sie nicht genug Kapazitäten hatten, Texte in großem Umfang zu schreiben, nimmt ChatGPT den Betrügern diese Arbeit ab beziehungsweise macht sie ihnen leichter“, sagt Textforensikerin Inna Vogel vom Fraunhofer SIT.
ChatGPT hilft auch bei Fälschung von Bots
Dabei sind mithilfe von ChatGPT erstellte Phishingmails längst nicht die einzige Betrugsmasche, die mit Künstlicher Intelligenz leichter geworden ist. Betrüger könnten auch gefälschte Kundenbots einsetzen, um Kunden vorzutäuschen, dass sie mit dem offiziellen Support einer Seite kommunizieren, warnt Vogel.
„Auf diese Weise können sie versuchen, Zahlungen für nicht existente Dienstleistungen zu erhalten oder Nutzer dazu zu bringen, eine Schadsoftware herunterzuladen“, schildert Vogel mögliche Szenarien.
>> Lesen Sie dazu: So schützen Sie in der KI Ihre privaten Daten
ChatGPT kann auch dabei helfen, mit entsprechenden Tools gefälschte Nachrichtenseiten zu erstellen. Betrüger, die beispielsweise durch Werbeeinnahmen Geld verdienen wollen, können sich Texte zu diversen Themen von ChatGPT generieren lassen. „Text-zu-Bild-KI-Modelle wie Stable Diffusion können genutzt werden, um Fake-Bilder zu generieren“, sagt Vogel. Bis das erkannt werde, könne viel Zeit vergehen – in der diese Bilder in den sozialen Medien viel Reichweite bekommen.
Generative KI kann auch dabei helfen, den Schreibstil eines Nutzers zu imitieren – eine Betrugsmasche, die nur schwer zu entlarven ist. „Es kann zu Rufschädigung kommen, wenn Nachrichten verbreitet werden, die den eigenen Ansichten, Überzeugungen oder Standards widersprechen“, erklärt Vogel. So könnten beispielsweise einem Politiker gefälschte Zitate zugeschrieben werden – mit erheblichen Folgen für dessen politische Karriere oder sogar das Privatleben.
Wie kann man sich vor Betrügereien schützen?
Bislang gibt es keine Anwendung, die vor den KI-generierten Betrugsmaschen wirksam schützen kann. „Deshalb ist in erster Linie gesunder Menschenverstand und Vorsicht geboten – vor allem wenn es um persönliche und vertrauliche Informationen oder um Geld geht“, sagt Vogel. Es gelte, immer die Authentizität der Kommunikation zu überprüfen, insbesondere wenn sie verdächtig erscheine oder ungewöhnliche Anfragen enthalte.
Nutzer sollten auf verdächtige Links besser nicht klicken und Dateien aus unbekannten Quellen nicht herunterladen. Wer selbst recherchiere, schütze sich am wirksamsten, rät Vogel. Stimme der Inhalte nicht mit Berichten unabhängiger Quellen überein, könne es sich um eine Falschmeldung handeln.