Kontextrepräsentationen

Kontextrepräsentationen bezeichnen formale Darstellungen jener Informationen, die das Verständnis, die Interpretation oder Generierung von Sprache und Wahrnehmung beeinflussen. Sie fassen Faktoren zusammen, die über isolierte Zeichen oder Aussagen hinausgehen und den Sinn von Äußerungen bestimmen.

In der Linguistik umfassen Kontextgrößen den sprachlichen Kontext (Ko-Text), den situativen Kontext (Zeit, Ort, Sprecher, soziale Merkmale) sowie den Diskurskontext (Thema, Absicht, vorhergehende Aussagen). Kontextrepräsentationen dienen der Wortdeutung, der Auflösung von Mehrdeutigkeiten und der Referenzauflösung.

In der computerlinguistischen Praxis und KI werden Kontextrepräsentationen als Zustände oder Vektoren modelliert, die Modelle bei Vorhersagen informieren. Typen sind lokale Kontextvektoren, globale Kontexte, diskursbasierte Zustände sowie Welt- und Benutzerkontext. Techniken umfassen symbolische Attribute und Speicherstrukturen sowie verteilte Darstellungen wie kontextuelle Embeddings und Aufmerksamkeitsmechanismen.

Kontext kann statisch oder dynamisch sein: In Dialogsystemen wird der Kontext fortlaufend aktualisiert (Memory, Dialogzustände). Kontextrepräsentationen können explizit (Slots, Attribute) oder implizit (Verteilungen, Vektorraum) sein.

Anwendungsbeispiele reichen von der Wortdeutung in der maschinellen Übersetzung über Coreference-Resolution bis hin zu Frage-Antwort-Systemen und bild-sprachlicher Inferenz.

Herausforderungen umfassen die Skalierung hochdimensionaler Kontextinformationen, Datenschutz und Personalisierung, Kontextwechsel und valide Evaluation der Kontextqualität. Forschungsfragen betreffen robuste Repräsentationen, effiziente Updating-Mechanismen und die Integration unterschiedlicher Kontexttypen.