Herausforderungen

Herausforderungen: Mehrsprachigkeit, Ambiguität, Halluzination, Bias

Begriffe vorab

• Domänenwechsel: ein Modell wird in einem anderen Fachgebiet eingesetzt als dem, in dem es trainiert wurde.
• Grounding: Antworten an überprüfbare Quellen binden.
• Code-Switching: das Wechseln zwischen Sprachen innerhalb eines Textes.

Mehrsprachigkeit

Die meisten frühen NLP-Fortschritte konzentrierten sich auf Englisch; für Sprachen mit weniger digital verfügbaren Trainingsdaten (Low-Resource-Sprachen) fällt die Qualität oft deutlich ab. Mehrsprachige Modelle, die viele Sprachen gemeinsam trainieren, verringern diese Lücke teilweise, beheben sie aber nicht vollständig.

Ambiguität

Sprache ist von Natur aus mehrdeutig. Lexikalische Ambiguität („Der Schlüssel liegt auf dem Tisch“ – Werkzeug oder Lösung?) und syntaktische Ambiguität (wer tut in einem Satz mit mehreren möglichen Lesarten eigentlich was?) müssen durch Kontext aufgelöst werden – für Menschen meist mühelos, für Systeme eine ständige Fehlerquelle.

Halluzination

Generative Sprachmodelle können sprachlich flüssige, aber sachlich falsche oder erfundene Aussagen produzieren – etwa nicht existierende Quellenangaben oder falsche Zahlen. Das Modell optimiert primär plausibel wirkenden Text, nicht garantiert wahre Aussagen; Faktizität ist kein eingebautes Ziel des Trainingsverfahrens.

Bias in Sprachmodellen

Trainingsdaten spiegeln gesellschaftliche Verzerrungen wider. Bekannt geworden sind etwa Studien zu Geschlechter-Stereotypen in Word Embeddings (z. B. Assoziationen zwischen bestimmten Berufen und einem Geschlecht) und zu rassistischen oder diskriminierenden Mustern in generierten Texten. Solcher Bias entsteht nicht durch böswillige Absicht, sondern spiegelt die Häufigkeitsverteilungen in den Trainingsdaten.

Ein praktischer Umgang mit Halluzinationen: Sprachmodelle wo möglich mit tatsächlichen Quellen verknüpfen (Retrieval-Augmented Generation), Aussagen gegenprüfen lassen und Nutzende explizit darauf hinweisen, Fakten zu verifizieren, statt Modellaussagen blind zu vertrauen.

Ein Beispiel für Ambiguität

„Ich sah den Mann mit dem Fernglas“ kann heißen, dass ich ein Fernglas benutzte oder dass der Mann eines hatte. Menschen nutzen Kontext und Weltwissen; Systeme müssen beides erst lernen. Je weniger Kontext, desto größer das Risiko einer Fehldeutung.

Domänenwechsel

Ein Modell, das an Nachrichtentexten gelernt hat, versteht medizinische Fachsprache oder Jugendsprache schlechter. Für kritische Anwendungen lohnt sich Test und Nachtraining mit Texten der tatsächlichen Anwendungsdomäne.

Umgang mit Unsicherheit

• Antworten mit Quellen belegen, wo Faktentreue zählt.
• Das System darf offen sagen, wenn es eine Frage nicht zuverlässig beantworten kann.
• Kritische Ausgaben werden von Menschen geprüft.
• Vor dem Einsatz auf Bias und Fairness testen, insbesondere bei Entscheidungen über Personen.

Zum Selbermachen: Grenzen testen

1. Gib einem Sprachmodell einen mehrdeutigen Satz und bitte um die möglichen Deutungen.
2. Stelle dieselbe Frage in zwei Sprachen und vergleiche die Qualität.
3. Frage nach einer Quelle zu einer Behauptung und prüfe sie.
4. Teste, ob das Modell bei fehlenden Informationen nachfragt oder rät.

Prüfstatus: Belegt (Stand 1. Oktober 2026): Jahreszahlen, Zahlen, Namen und Quellenangaben dieser Lektion, soweit die Quellenliste sie nennt, wurden gegen Primärquellen geprüft. Nicht einzeln belegt: erklärende Darstellung nach Lehrbuchstand und Quellen, die in der Liste als „allgemeine Referenz“ markiert sind.

Quellen

• Dan Jurafsky, James H. Martin – „Speech and Language Processing“, Kapitel zu Bias und Fairness in NLP (allgemeine Referenz, nicht Zeile für Zeile geprüft)
• Bolukbasi et al. – „Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings“ (NeurIPS, 2016)