Halluzinationen bei Fachthemen: warum Faktentreue im B2B zum Risiko wird

Warum ein Sprachmodell nie sagt, dass es etwas nicht weiss

Ein Sprachmodell weiss nichts. Es sagt das nur nicht. Es formuliert jede Aussage mit derselben ruhigen Souveränität, ob sie stimmt oder frei erfunden ist. Bei alltäglichen Themen fällt das kaum auf, weil das Modell dort auf viel Material zurückgreift. Bei spezifischen Fachthemen aber, genau dort, wo B2B-Unternehmen ihre Kompetenz zeigen wollen, wird diese Selbstsicherheit zum Problem. Denn je nischiger das Thema, desto dünner die Datenbasis, und desto wahrscheinlicher erfindet das Modell etwas, das plausibel klingt und schlicht falsch ist.

Diese erfundenen Aussagen nennt man Halluzinationen. Im B2B sind sie kein kosmetischer Makel, sondern ein Risiko für Glaubwürdigkeit, Kundenbeziehung und im Zweifel für die Haftung.

Warum gerade Fachnischen so anfällig sind

Ein Sprachmodell ist so gut wie die Daten, aus denen es gelernt hat. Über breite Allgemeinthemen existieren Millionen Texte, das Modell kann Aussagen quer abgleichen und liegt meist richtig. Über ein enges Fachgebiet, eine spezielle Norm, ein Branchendetail oder ein regionales Regelwerk existiert im Trainingsmaterial oft wenig bis nichts.

In dieser Leere füllt das Modell die Lücke mit dem, was am wahrscheinlichsten aussieht. Es kombiniert Fragmente zu einer Aussage, die sprachlich einwandfrei und inhaltlich frei erfunden ist. Es nennt Normen, die es nicht gibt, schreibt Studien zu, die niemand verfasst hat, oder überträgt eine Regel aus einem Nachbarbereich, wo sie nicht gilt. Das Tückische: Je spezialisierter das Thema, desto weniger Leser erkennen den Fehler auf Anhieb. Was den generischen Leser sonst schützt, ist Fachkompetenz, und genau die fehlt ihm hier.

Plausibler Unsinn ist gefährlicher als offener Fehler

Ein grob falscher Satz fällt auf und wird korrigiert. Die eigentliche Gefahr geht von Aussagen aus, die stimmig klingen, sich sauber in den Text fügen und erst bei genauer Prüfung zerfallen. Sie rutschen durch die Redaktion, weil niemand bei jeder Zeile misstrauisch ist, und landen veröffentlicht auf deiner Seite.

Im B2B ist das besonders heikel. Deine Inhalte werden von Fachleuten gelesen, die dein Thema beherrschen. Ein erfundenes Detail, das dem generischen Leser entgeht, springt dem Experten sofort ins Auge. Und dieser Experte ist oft genau der Käufer, den du überzeugen willst. Ein einziger sachlicher Fehler an der falschen Stelle entwertet den ganzen Beitrag, weil er die Frage aufwirft, was sonst noch erfunden ist.

Wo aus Faktentreue ein echtes Risiko wird

Bei manchen Themen bleibt ein Fehler peinlich. Bei anderen wird er teuer. Wer zu regulatorischen Anforderungen, technischen Spezifikationen, steuerlichen oder rechtlichen Fragen publiziert, bewegt sich in einem Feld, in dem falsche Aussagen konkrete Folgen haben. Ein Kunde, der sich auf eine falsche Angabe verlässt, erleidet einen Schaden, und die Verantwortung liegt bei dir als Herausgeber, nicht beim Modell.

Dazu kommt der Vertrauensschaden, der bleibt, auch wenn nie jemand klagt. Content ist im B2B ein Kompetenznachweis. Wer bei den Fakten patzt, widerlegt genau die Kompetenz, die er zeigen wollte. Suchmaschinen verstärken den Effekt: Dünne, fehleranfällige Massenware wird abgewertet, wie der Beitrag zum Helpful Content Update zeigt. Faktentreue ist damit nicht nur eine Frage der Sorgfalt, sondern der Sichtbarkeit.

So sicherst du dich konkret ab

Halluzinationen lassen sich nicht wegwünschen, aber sie lassen sich mit Prozess einfangen. Drei Bausteine, die zusammen wirken.

Erstens Quellenpflicht. Jede belastbare Aussage, jede Zahl, jede Norm, jedes Zitat braucht eine überprüfbare Quelle, die ein Mensch tatsächlich geöffnet hat. Nicht die Quelle, die das Modell nennt, sondern die, die real existiert und die Aussage stützt. Verlangt der Prozess das konsequent, fällt ein grosser Teil der Erfindungen von selbst raus.

Zweitens Fachreview. Jeder Beitrag zu einem heiklen Thema wird von jemandem gegengelesen, der das Thema beherrscht. Kein Sprachlektorat, sondern eine fachliche Prüfung durch einen Menschen, der einen falschen Fachbegriff erkennt. Genau diesen Schritt spart die automatisierte Massenproduktion ein, und genau daran scheitert sie. Der Unterschied zwischen sorgfältiger Produktion und Bulk-Pipeline ist im Beitrag manuelle Big-5-Produktion gegen die AI-Bulk-Pipeline ausgeführt.

Drittens ein klarer Prozess. Lege fest, welche Themen überhaupt KI-gestützt entstehen dürfen und welche zwingend menschlich, wer prüft, wer verantwortet und wo Quellen dokumentiert werden. Ein Modell, das Rohmaterial liefert, ist nützlich. Ein Modell, dessen Output ungeprüft online geht, ist eine Zeitbombe.

KI nutzen, ohne die Fakten zu verspielen

Nichts davon spricht gegen den Einsatz von KI. Es spricht gegen den unkritischen Einsatz. Sinnvoll bleibt das Modell dort, wo ein Mensch die Fakten kontrolliert: als Recherchehilfe, deren Ergebnisse verifiziert werden, als Strukturgeber, als Lieferant von Rohfassungen, die inhaltlich geprüft werden. Der Wert entsteht aus der Kombination, nicht aus der Delegation.

Je fachlicher und je folgenreicher dein Thema, desto höher muss der menschliche Anteil an der Faktenkontrolle sein. Diese Regel ist einfach, und sie hält in der Praxis. Wer sie beachtet, nutzt die Geschwindigkeit der Werkzeuge, ohne die Substanz zu riskieren, die im B2B den Ausschlag gibt.

Wenn du klären willst, wo bei dir das Halluzinationsrisiko real ist und welcher Prüfprozess zu deinen Themen passt, ist eine Standortbestimmung der konkrete Einstieg. Wir sehen uns deine Themen und deinen Produktionsweg an und benennen unverblümt, wo du absichern musst.