Risiko von KI-Halluzinationen bei B2B-Fachthemen senken

Wenn ein Sprachmodell Unsicherheit nicht erkennen lässt

Ein Sprachmodell erzeugt Text anhand statistischer Wahrscheinlichkeiten. Es kann eine richtige und eine erfundene Aussage im selben sicheren Ton formulieren. Bei spezifischen Fachthemen ist das besonders problematisch, weil im Trainingsmaterial weniger passende Informationen vorhanden sein können. Das Modell ergänzt Lücken dann mit Formulierungen, die plausibel klingen, aber sachlich falsch sind.

Solche erfundenen Angaben werden als Halluzinationen bezeichnet. Im B2B können sie Glaubwürdigkeit und Kundenbeziehungen beeinträchtigen. Je nach Thema kommen auch Haftungsfragen hinzu.

Weshalb Fachnischen anfällig sind

Zu allgemeinen Themen existieren Millionen von Texten. Das Modell kann Angaben dort eher abgleichen und liegt häufig richtig. Bei einem engen Fachgebiet, einer bestimmten Norm, einem Branchendetail oder einem regionalen Regelwerk ist die Datenlage oft dünn oder ungleich verteilt.

Fehlt dem Modell eine belastbare Grundlage, kann es Fragmente zu einer falschen Aussage zusammensetzen. So entstehen nicht existierende Normen, falsch zugeschriebene Studien oder Regeln, die aus einem benachbarten Bereich übertragen werden, obwohl sie hier nicht gelten. Fachfremde Leser erkennen solche Fehler nicht immer sofort. Ein Experte aus dem jeweiligen Gebiet dagegen schon.

Warum plausible Fehler besonders gefährlich sind

Ein offensichtlich falscher Satz wird meist schnell entdeckt. Schwieriger sind Angaben, die stimmig wirken und sich sprachlich unauffällig in den Text einfügen. Ohne gezielte Prüfung können sie die Redaktion passieren und auf der Website landen.

B2B-Fachartikel richten sich oft genau an Personen, die das Thema beherrschen. Ein erfundenes Detail kann deshalb den gesamten Beitrag unglaubwürdig machen. Der Leser weiss anschliessend nicht, welche weiteren Aussagen ebenfalls ungeprüft sind.

Wann Fehler konkrete Folgen haben können

Bei manchen Themen ist eine falsche Aussage vor allem peinlich. Bei regulatorischen Anforderungen, technischen Spezifikationen sowie steuerlichen oder rechtlichen Fragen kann sie dagegen einen Schaden auslösen. Verlässt sich ein Kunde darauf, liegt die Verantwortung für den veröffentlichten Inhalt beim Herausgeber und nicht beim verwendeten Modell.

Auch ohne Rechtsstreit bleibt ein Vertrauensproblem. Ein B2B-Fachartikel soll Kompetenz belegen. Sachliche Fehler bewirken das Gegenteil. Hinzu kommt die Sichtbarkeit in Suchmaschinen: Der Beitrag zum Helpful Content Update beschreibt, weshalb dünne und fehleranfällige Masseninhalte an Sichtbarkeit verlieren können.

Drei Schutzmassnahmen für die Redaktion

Quellenpflicht

Jede Zahl, Norm, jedes Zitat und jede andere überprüfbare Fachangabe braucht eine Quelle, die ein Mensch geöffnet und gelesen hat. Es reicht nicht, dass das Modell eine Quelle nennt. Sie muss existieren und die konkrete Aussage tatsächlich stützen. Eine konsequente Quellenpflicht deckt viele erfundene Angaben bereits vor der Publikation auf.

Fachreview

Texte zu heiklen Themen sollten von einer Person geprüft werden, die das Fachgebiet kennt. Dabei geht es nicht um Sprache, sondern um Inhalt: Stimmen Begriffe, Regeln, Zahlen und Schlussfolgerungen? Genau diese Prüfung fehlt bei einer automatisierten Massenproduktion. Den Unterschied behandelt KI-Texter, Mensch und Hybrid im Vergleich.

Verbindlicher Prozess

Lege fest, welche Themen mit KI-Unterstützung bearbeitet werden dürfen, welche vollständig von Fachpersonen erstellt werden, wer den Inhalt prüft und verantwortet und wo die Quellen dokumentiert sind. Ein Modell kann Rohmaterial liefern. Ungeprüfter Output sollte dagegen nicht publiziert werden.

KI nutzen und Fakten kontrollieren

Diese Vorsicht spricht nicht gegen KI im Redaktionsprozess. Sprachmodelle können Recherche vorbereiten, Material strukturieren oder eine Rohfassung aus bereits geprüften Angaben erstellen. Ihre Ergebnisse müssen jedoch verifiziert werden.

Je spezialisierter ein Thema und je grösser die Folgen eines Fehlers, desto umfangreicher sollte die menschliche Faktenkontrolle sein. So lässt sich die Geschwindigkeit der Werkzeuge nutzen, ohne die fachliche Substanz aus der Hand zu geben.

In einer Standortbestimmung können wir deine Themen und deinen Produktionsprozess daraufhin prüfen, an welchen Stellen Quellenpflicht und Fachreview notwendig sind.