Hey KI, bei dir piept's doch! Über Halluzinationen der LLMs.
KIs halluzionieren, erzählen Unsinn. Was tun?

Warum KI-Kompetenz im Marketing immer wichtiger wird

Künst­li­che Intel­li­genz kann uns enorm ent­las­ten. Aber nur, wenn wir wis­sen, wie sie funk­tio­niert. Doch genau hier liegt die Her­aus­for­de­rung: KI-Sys­te­me sind nicht unfehl­bar. Sie hal­lu­zi­nie­ren.
Und wer das nicht erkennt, pro­du­ziert im bes­ten Fall Murks, im schlimms­ten Fall wird das Ver­trau­en in Kom­pe­tenz und Glaub­wür­dig­keit aufs Spiel gesetzt.

KI ist keine allwissende Kreativmaschine, sondern ein Werkzeug

Gro­ße Sprach­mo­del­le wie ChatGPT lie­fern beein­dru­cken­de Tex­te. Doch sie erzeu­gen Inhal­te auf Basis von Wahr­schein­lich­kei­ten, nicht auf Basis von Wahr­heit.
Je nach Fach­ge­biet sind bis zu 80% der Inhal­te schlicht falsch oder so feh­ler­haft zusam­men­ge­fasst, dass es wirk­lich hei­kel ist, sich dar­auf zu ver­las­sen. (Quel­le: Vahid Garou­si, 2025) 

Was heißt “halluzinieren” eigentlich?

Im KI-Kon­text bedeu­tet Hal­lu­zi­na­ti­on: Die KI “erfin­det” Inhal­te.
Sie nennt Quel­len, die es nicht gibt, oder beschreibt Sach­ver­hal­te falsch.

Nicht aus Bös­wil­lig­keit, son­dern weil ihr Ver­ständ­nis rein sta­tis­tisch ist. Ohne Kon­text­kom­pe­tenz. Ohne Fak­ten­prü­fung.

Diese Halluzination hat mich (fast) erwischt

Für einen Kun­den mit einem wirk­lich wun­der­schö­nen Pro­dukt erstel­le ich Con­tent für die Web­site, den Blog und natür­lich auch Social Media.
Wie für jeden Kun­den muss ich mir dafür eini­ges an Pro­dukt­wis­sen (und Ver­ständ­nis für die Unter­neh­mens­phi­lo­so­phie, den Markt, den Wettbewerb…you name it) erar­bei­ten.

Längst habe ich einen Cus­tom GPT mit Pro­dukt­wis­sen Brand­voice, Per­so­na-Descri­pi­tons und einer stets aus­ge­reif­te­ren Wis­sens­da­ten­bank gefüt­tert, der mir den Schritt von der Idee zum ers­ten Text­ent­wurf abnimmt. 😎

Und was soll ich sagen: Beim hun­dert­dr­ölf­zigs­ten Post­text behaup­te­te mein Cus­tom GPT plötz­lich völ­li­gen Blöd­sinn. 🤯😨😤

Kurz gesagt: Chat­ty hat ein wesent­li­ches Fea­ture einer Pro­dukt­va­ri­an­te, über das oft kom­mu­ni­ziert wird, ein­fach mal allen Pro­dukt­va­ri­an­ten zuge­spro­chen. 

Und ich hät­te es fast über­le­sen. 😫🤐

Weil der Rest ja sooo nett klang und wir sowas ähn­li­ches ja auch wirk­lich oft in der Kom­mu­ni­ka­ti­on haben… nur halt nicht in die­ser spe­zi­el­len Kom­bi­na­ti­on. (Und weil ich müde war und ein­fach fer­tig wer­den woll­te. Sch****)
Das wäre mega pein­lich gewor­den! 🤔😖

KI-Kompetenz im Marketing: Was dazugehört

Ob Blog­text, Kam­pa­gnen­cla­im oder Markt­ana­ly­se – wenn wir KI ein­set­zen, müs­sen wir beur­tei­len kön­nen, ob das Ergeb­nis fach­lich kor­rekt, stra­te­gisch sinn­voll und ver­trau­ens­wür­dig ist. Genau hier muss Mar­ke­ting-Kom­pe­tenz mit KI-Kom­pe­tenz zusam­men­wir­ken.

KI-Kom­pe­tenz bedeu­tet nicht, selbst pro­gram­mie­ren zu kön­nen. Es bedeu­tet:

  • die Funk­ti­ons­wei­se von KI grund­le­gend zu ver­ste­hen,
  • typi­sche Feh­ler­quel­len zu erken­nen,
  • Inhal­te kri­tisch zu hin­ter­fra­gen,
  • Ergeb­nis­se ein­ord­nen und gege­be­nen­falls ver­bes­sern zu kön­nen.

Quellen verifizieren: So geht’s richtig

Wenn Chat GPT, Gemi­ni und Co. Stu­di­en zitie­ren oder Fak­ten nen­nen, gilt: Kon­trol­le ist Pflicht.

Bit­te kein Copy/Paste, weil es beim schnel­len Drü­ber­le­sen so nett klingt.
Auf­merk­sa­mes Redi­gie­ren eines jeden Tex­tes ist wirk­lich, wirk­lich wich­tig!

Gibt es die genann­te Quel­le tat­säch­lich?

Sis­trix hat raus­ge­fun­den, das bei Gemi­ni im bes­ten Fall 42% der Quel­len direkt erreich­bar sind. Da kann man sich bes­ser auf den Zufall ver­las­sen – der trifft zu 50% zu! 🙊

Rich­tig hin­gu­cken!

Stim­men die genann­ten Zah­len oder Inhal­te mit den Ori­gi­na­len über­ein? Manch­mal ver­steht die KI den Quell­text ein­fach falsch. Pas­siert den Bes­ten…

😎 Das ist auch gut, wenn sowas auf­fällt. Ich habe schon Blog­tex­te umfor­mu­liert, weil mir durch die „fal­sche“ KI Inter­pre­ta­ti­on klar wur­de, dass der Inhalt nicht so glas­klar rüber kam, wie gedacht. 🤷‍♀️

Ist die Quel­le seri­ös und aktu­ell?

Gera­de die Aktua­li­tät ist bei eini­gen KIs ein Pro­blem, weil älte­re Inhal­te ein­fach häu­fi­ger vor­kom­men und damit sta­tis­tisch gese­hen „wah­rer“ sind. Wenn also z.B. bei Gesetz­ten eine Ver­än­de­rung noch neu und damit wenig im Netz „bespro­chen“ ist, wird die KI die ver­mut­lich noch nicht als rele­vant iden­ti­fi­zie­ren.

Fazit: KI mit Kompetenz statt nur für die Geschwindigkeit

KI kann viel, aber nicht alles. Ohne fach­kom­pe­ten­te Kon­trol­le ent­ste­hen Feh­ler, die dem Ver­trau­en in ein Unter­neh­men oder eine Mar­ke scha­den kön­nen. Des­halb ist “KI-Kom­pe­tenz im Mar­ke­ting” kein nice-to-have, son­dern ein Muss für alle, die KI nut­zen wol­len.

Und Mar­ke­ting-Kom­pe­tenz kannst du dir nicht bei Chat GPT & Co abho­len.
Dafür aber jeder­zeit bei mir. 😘

Aktuelle Beiträge

Wertschätzung

Wert­schät­zung im Com­mu­ni­ty Manage­ment. Nicht nur zum “Tag der Kom­pli­men­te”.

Curatierter Content

Büh­ne frei für Inter­es­san­tes von ande­ren! So wird Dein Redak­ti­ons­plan noch attrak­ti­ver für Dei­ne Kun­den.

Clubhouse

“Kath­rin, was ist das da mit die­ser neu­en Dis­ko – App?“
Kur­ze Irri­ta­ti­on. „Just Dance“ für die Play­sta­ti­on meint mein Gegen­über sicher nicht. 🙈
Nein, es geht um die­se neue Social – Audio-App, die seit kur­zem durch frag­wür­di­ge Poli­ti­ker-Auf­trit­te in aller Mun­de ist.