Hey KI, bei dir piept's doch! Über Halluzinationen der LLMs.
KIs halluzionieren, erzählen Unsinn. Was tun?

Warum KI-Kompetenz im Marketing immer wichtiger wird

Künst­li­che Intel­li­genz kann uns enorm ent­las­ten. Aber nur, wenn wir wis­sen, wie sie funk­tio­niert. Doch genau hier liegt die Her­aus­for­de­rung: KI-Sys­te­me sind nicht unfehl­bar. Sie hal­lu­zi­nie­ren.
Und wer das nicht erkennt, pro­du­ziert im bes­ten Fall Murks, im schlimms­ten Fall wird das Ver­trau­en in Kom­pe­tenz und Glaub­wür­dig­keit aufs Spiel gesetzt.

KI ist keine allwissende Kreativmaschine, sondern ein Werkzeug

Gro­ße Sprach­mo­del­le wie ChatGPT lie­fern beein­dru­cken­de Tex­te. Doch sie erzeu­gen Inhal­te auf Basis von Wahr­schein­lich­kei­ten, nicht auf Basis von Wahr­heit.
Je nach Fach­ge­biet sind bis zu 80% der Inhal­te schlicht falsch oder so feh­ler­haft zusam­men­ge­fasst, dass es wirk­lich hei­kel ist, sich dar­auf zu ver­las­sen. (Quel­le: Vahid Garou­si, 2025) 

Was heißt “halluzinieren” eigentlich?

Im KI-Kon­text bedeu­tet Hal­lu­zi­na­ti­on: Die KI “erfin­det” Inhal­te.
Sie nennt Quel­len, die es nicht gibt, oder beschreibt Sach­ver­hal­te falsch.

Nicht aus Bös­wil­lig­keit, son­dern weil ihr Ver­ständ­nis rein sta­tis­tisch ist. Ohne Kon­text­kom­pe­tenz. Ohne Fak­ten­prü­fung.

Diese Halluzination hat mich (fast) erwischt

Für einen Kun­den mit einem wirk­lich wun­der­schö­nen Pro­dukt erstel­le ich Con­tent für die Web­site, den Blog und natür­lich auch Social Media.
Wie für jeden Kun­den muss ich mir dafür eini­ges an Pro­dukt­wis­sen (und Ver­ständ­nis für die Unter­neh­mens­phi­lo­so­phie, den Markt, den Wettbewerb…you name it) erar­bei­ten.

Längst habe ich einen Cus­tom GPT mit Pro­dukt­wis­sen Brand­voice, Per­so­na-Descri­pi­tons und einer stets aus­ge­reif­te­ren Wis­sens­da­ten­bank gefüt­tert, der mir den Schritt von der Idee zum ers­ten Text­ent­wurf abnimmt. 😎

Und was soll ich sagen: Beim hun­dert­dr­ölf­zigs­ten Post­text behaup­te­te mein Cus­tom GPT plötz­lich völ­li­gen Blöd­sinn. 🤯😨😤

Kurz gesagt: Chat­ty hat ein wesent­li­ches Fea­ture einer Pro­dukt­va­ri­an­te, über das oft kom­mu­ni­ziert wird, ein­fach mal allen Pro­dukt­va­ri­an­ten zuge­spro­chen. 

Und ich hät­te es fast über­le­sen. 😫🤐

Weil der Rest ja sooo nett klang und wir sowas ähn­li­ches ja auch wirk­lich oft in der Kom­mu­ni­ka­ti­on haben… nur halt nicht in die­ser spe­zi­el­len Kom­bi­na­ti­on. (Und weil ich müde war und ein­fach fer­tig wer­den woll­te. Sch****)
Das wäre mega pein­lich gewor­den! 🤔😖

KI-Kompetenz im Marketing: Was dazugehört

Ob Blog­text, Kam­pa­gnen­cla­im oder Markt­ana­ly­se – wenn wir KI ein­set­zen, müs­sen wir beur­tei­len kön­nen, ob das Ergeb­nis fach­lich kor­rekt, stra­te­gisch sinn­voll und ver­trau­ens­wür­dig ist. Genau hier muss Mar­ke­ting-Kom­pe­tenz mit KI-Kom­pe­tenz zusam­men­wir­ken.

KI-Kom­pe­tenz bedeu­tet nicht, selbst pro­gram­mie­ren zu kön­nen. Es bedeu­tet:

  • die Funk­ti­ons­wei­se von KI grund­le­gend zu ver­ste­hen,
  • typi­sche Feh­ler­quel­len zu erken­nen,
  • Inhal­te kri­tisch zu hin­ter­fra­gen,
  • Ergeb­nis­se ein­ord­nen und gege­be­nen­falls ver­bes­sern zu kön­nen.

Quellen verifizieren: So geht’s richtig

Wenn Chat GPT, Gemi­ni und Co. Stu­di­en zitie­ren oder Fak­ten nen­nen, gilt: Kon­trol­le ist Pflicht.

Bit­te kein Copy/Paste, weil es beim schnel­len Drü­ber­le­sen so nett klingt.
Auf­merk­sa­mes Redi­gie­ren eines jeden Tex­tes ist wirk­lich, wirk­lich wich­tig!

Gibt es die genann­te Quel­le tat­säch­lich?

Sis­trix hat raus­ge­fun­den, das bei Gemi­ni im bes­ten Fall 42% der Quel­len direkt erreich­bar sind. Da kann man sich bes­ser auf den Zufall ver­las­sen – der trifft zu 50% zu! 🙊

Rich­tig hin­gu­cken!

Stim­men die genann­ten Zah­len oder Inhal­te mit den Ori­gi­na­len über­ein? Manch­mal ver­steht die KI den Quell­text ein­fach falsch. Pas­siert den Bes­ten…

😎 Das ist auch gut, wenn sowas auf­fällt. Ich habe schon Blog­tex­te umfor­mu­liert, weil mir durch die „fal­sche“ KI Inter­pre­ta­ti­on klar wur­de, dass der Inhalt nicht so glas­klar rüber kam, wie gedacht. 🤷‍♀️

Ist die Quel­le seri­ös und aktu­ell?

Gera­de die Aktua­li­tät ist bei eini­gen KIs ein Pro­blem, weil älte­re Inhal­te ein­fach häu­fi­ger vor­kom­men und damit sta­tis­tisch gese­hen „wah­rer“ sind. Wenn also z.B. bei Gesetz­ten eine Ver­än­de­rung noch neu und damit wenig im Netz „bespro­chen“ ist, wird die KI die ver­mut­lich noch nicht als rele­vant iden­ti­fi­zie­ren.

Fazit: KI mit Kompetenz statt nur für die Geschwindigkeit

KI kann viel, aber nicht alles. Ohne fach­kom­pe­ten­te Kon­trol­le ent­ste­hen Feh­ler, die dem Ver­trau­en in ein Unter­neh­men oder eine Mar­ke scha­den kön­nen. Des­halb ist “KI-Kom­pe­tenz im Mar­ke­ting” kein nice-to-have, son­dern ein Muss für alle, die KI nut­zen wol­len.

Und Mar­ke­ting-Kom­pe­tenz kannst du dir nicht bei Chat GPT & Co abho­len.
Dafür aber jeder­zeit bei mir. 😘

Aktuelle Beiträge

SEO und KI Workshop mit Kathrin Dielmann und Carolin Besting

SEO und KI für Solo-Selbständige

SEO und KI — Klar­heit, Stra­te­gie und Effi­zi­enz für Solo-Selb­stän­di­ge.
6 Wochen bis zu hand­fes­tem Out­put für dei­ne Sicht­bar­keit.

KI Training mit meinen Daten?

KI Trainingsdaten

Meta will mit dei­nen Daten die KI trai­nie­ren. Das ist nicht unpro­ble­ma­tisch!

Website Frühjahrsputz: Aus für die OS-Plattform

OS-Plattform

Im Dschun­gel der Vor­schrif­ten gibt es end­lich mal gute Nach­rich­ten: Eine läs­ti­ge Pflicht ver­schwin­det! Die OS-Platt­form wird im Juli 2025 abge­schal­tet. Was bedeu­ted das für dei­ne Web­site?

Eine Frau hält ein Handy in die Kamera. Darauf ist der QR Code zum LinkedIn Profil von Kathrin Dielmann zu sehen. Text. LinkedIn für Einsteiger. Workshop.

LinkedIn für Anfänger

Du hast ein Pro­fil, aber irgend­wie kommst du nicht so rich­tig in Fahrt?
Doch wer die Platt­form rich­tig nutzt, gewinnt nicht nur Sicht­bar­keit, son­dern auch neue Kun­den und wert­vol­le Kon­tak­te.