Nicht nur Unternehmen eröff­nen sich durch Chat­G­PT enorme Chan­cen – die KI hat auch Schat­ten­seit­en. IT-Sicher­heit­sex­perten war­nen schon jet­zt vor den Risiken, die von KI-gestützten Cyberan­grif­f­en aus­ge­hen. “KI ken­nt kein Gut oder Böse. Wer die Befehle beherrscht, kann Chat­G­PT also prob­lem­los als Werkzeug für krim­inelle Aktiv­itäten miss­brauchen”, erk­lärt Flo­ri­an Dalwigk

Dal­wigk ist Leit­er der IT-Secu­ri­ty Akademie in der Devel­op­er Akademie. Diese bildet jährlich hun­derte IT-Spezial­is­ten aus. Er sieht es nun als uner­lässlich für alle, die dig­i­tal unter­wegs sind, sich selb­st und andere über die neuen Bedro­hun­gen durch KI zu informieren und dage­gen vorzu­sor­gen. Wie Hack­er mit Chat­G­PT Angriffe aus­führen kön­nten und was jed­er selb­st zu seinem Schutz tun kann, zeigt er im Fol­gen­den auf.

E‑Mail-Betrug durch Texterstellungs-KIs stark erleichtert

Vor­bei sind die Zeit­en, in denen ein offen­sichtlich dubios­er exo­tis­ch­er Prinz sein Mil­lio­nen-Erbe einem beliebi­gen Inter­net­nutzer anver­trauen wollte. Mod­erne Phish­ing-Angreifer geben sich stattdessen häu­fig als Kun­denser­vice ein­er Bank oder eines Onli­neshops aus und erbeuten so Login-Dat­en, um damit Miss­brauch zu treiben.

Die E‑Mails, mit denen Krim­inelle ihre Opfer ködern, wer­den dank Chat­G­PT immer authen­tis­ch­er. Nicht nur kann die KI glaub­würdi­ge Fälschun­gen offizieller E‑Mails eines ver­trauenswürdi­gen Absenders gener­ieren – sie kann dies in jed­er beliebi­gen Sprache tun, sodass Phish­ing-Angriffe aus dem Aus­land zur echt­en Gefahr für deutsche Nutzer werden.

Vom Tippfehler zum Datendiebstahl – wie ChatGPT Typo Squatting noch gefährlicher macht

Gle­ichzeit­ig fällt es Angreifern durch Chat­G­PT leichter, Nutzer mit gefälscht­en Web­sites in die Falle zu lock­en. Eine Meth­ode dafür ist das Typo Squat­ting – eine Art von Cyberan­griff, bei der ein Klon ein­er pop­ulären Web­site unter ein­er ähn­lichen Domain platziert wird. Nutzer, die sich ver­tip­pen und beispiel­sweise “Ana­zon” eingeben anstatt “Ama­zon”, lan­den somit auf der gefälscht­en Seite und geben ihre Dat­en preis, sobald sie sich einloggen.

Dabei hil­ft die KI den Hack­ern, indem sie Lis­ten falsch­er Schreib­weisen der gewählten Adresse erstellt, sodass diese Domains massen­haft selb­st “beset­zt” wer­den können.

ChatGPT – als Analyse-Tool für beide Seiten von Bedeutung

Beson­ders geschätzt wird Chat­G­PT wegen sein­er Fähigkeit, in Sekun­den­schnelle enorme Text-Daten­men­gen zu analysieren. Dies kann von Hack­ern aus­genutzt wer­den, um anhand öffentlich ein­se­hbar­er Infor­ma­tio­nen aus den sozialen Medi­en Lis­ten mit möglichen Pass­wörtern zu gener­ieren und Pass­wörter von spez­i­fis­chen Nutzern zu hack­en. Auch kön­nen öffentlich ein­se­hbare Infor­ma­tio­nen mit Hil­fe von Chat­G­PT in Tele­fon-Skripte umge­wan­delt wer­den, um zum Beispiel mit höher­er Erfol­gswahrschein­lichkeit per Enkel­trick ältere Men­schen um ihr Geld zu bringen.

Mit Prompt Injection die KI selbst hacken

Doch damit nicht genug — mit­tler­weile hack­en Angreifer sog­ar die KI selb­st. Dies funk­tion­iert mith­il­fe des Angriffsvek­tors “Prompt Injec­tion”, wobei der Angreifer ver­sucht, mit geeigneten Prompts ein Fehlver­hal­ten der KI auszulösen. Prob­lema­tisch wird es, wenn dadurch Ver­schlusssachen in die falschen Hände gelan­gen. So kön­nte sich der Angreifer beispiel­sweise Chat­G­PT gegenüber als Elon Musk aus­geben und die KI überzeu­gen, Infor­ma­tio­nen zur Tes­la-Soft­ware preiszugeben — ein Angriff mit nicht vorstell­baren Kon­se­quen­zen. Gefährlich ist Prompt Injec­tion vor allem, weil der Befehl auf seman­tis­ch­er statt syn­tak­tis­ch­er Ebene stat­tfind­et. Mit aus­re­ichend Fan­tasie kön­nen so Wege gefun­den wer­den, die vorhan­de­nen Fil­ter­mech­a­nis­men auszutrick­sen. Für Unternehmen bedeutet das: Sie soll­ten ein­mal mehr über­legen, auf welche Infor­ma­tio­nen KI wirk­lich Zugriff haben darf.

Aufklärung ist die beste Waffe im Kampf gegen Cyberkriminalität

Im Gegen­zug stellt die KI ein wirk­sames Mit­tel zum Schutz gegen Cyberkrim­i­nal­ität dar. Wird eine verdächtige E‑Mail oder Textnachricht einge­speist, erhält der Nutzer sofort von Chat­G­PT eine Ein­schätzung, ob es sich dabei um einen Phish­ing-Ver­such han­deln kön­nte. Fern­er kön­nte Chat­G­PT genutzt wer­den, um den Quell­code von Web­sites nach Schwächen abzusuchen und so die Arbeit von IT-Sicher­heitsspezial­is­ten zu erleichtern.

Schlussendlich bleibt aber der Nutzer die größte Schwach­stelle eines dig­i­tal­en Sys­tems. Ist dieser nicht über die Risiken aufgek­lärt, kann er nicht die nöti­gen Schritte ergreifen, um sich gegen Betrug und Cyberan­griffe zu schützen. Dementsprechend sollte bei jed­er E‑Mail, die zu weit­eren Schrit­ten auf­fordert, zunächst hin­ter­fragt wer­den, ob sie wirk­lich vom ange­blichen Absender stammt. Darüber hin­aus sollte mit per­sön­lichen Dat­en sparsam umge­gan­gen wer­den – auch auf Social Media.

Zulet­zt gilt es außer­dem, andere vor den Gefahren durch Cyberan­griffe zu war­nen. Ins­beson­dere ältere Men­schen sind ein beliebtes Ziel von Phish­ing-Angrif­f­en, weshalb sie gezielt für das Risiko und mögliche Warnze­ichen sen­si­bil­isiert wer­den sollten.