Lemmatization
Lemmatisierung ist der sprachliche Prozess, ein Wort auf sein Wörterbuch-Lemma zurückzuführen (z. B. better → good); sie ist genauer als Stemming.
Zweck
Führt Wortformen anhand von Wörterbüchern und Wortarten zu kanonischen Lemmata zurück und gewährleistet sprachliche Korrektheit.
Mechanismus
Bestimmt das Lemma durch Wörterbuchnachschlag plus Wortart-Tagging. Beispielsweise better (Komparativ) → good; running (Partizip Präsens) → run. Erfordert POS-Tagging und Wörterbuchunterstützung; langsamer als Stemming, aber genauer. Wird von spaCy und NLTK bereitgestellt.
Anwendungsfälle
- Präzise NLP-Analyse
- Semantisches Matching in Frage-Antwort-Systemen
- Vorverarbeitung maschineller Übersetzung
- Wortsinn-Disambiguierung
Beispiele
- Eingabe
better → goodOutputLemma goodRequires part-of-speech tagging
Häufige Fehler
- Missing part-of-speech tagging leads to wrong lemmas
- Use a POS-aware lemmatizer
Verwandte Begriffe
Stemming
Stemming ist ein heuristischer Prozess, der Wörter auf ihren Stamm reduziert (z. B. running → run), sodass Flexionsvarianten das Retrieval-Matching nicht beeinträchtigen. GLOSSAR
Tokenization
Tokenisierung zerlegt Text in eine Folge semantischer Einheiten (Wörter, Subwörter, Zeichen); sie ist ein grundlegender Schritt in NLP und Suchmaschinen. GLOSSAR