ZURÜCK

5.3.1: Imaging

Um die Konsistenzprobleme, die sich bei einer strengen logischen Interpretation ergeben, anzugehen kann man eine probabilistische Inferenz einführen. Sie schätzt die Wahrscheinlichkeit p(d->q) , dass eine Folgerung gilt - hier: dass die Anfrage q aus dem Dokument d gefolgert werden kann - , ab. Dazu kann man zunächst jedes Dokument als eine " mögliche Welt" ( possible World) betrachten, also als eine Menge von Aussagen mit zugehörigen Wahrheitswerten. Das Prinzip der unsicheren oder probabilistischen Inferenz ist nun folgendes: Es seien zwei Aussagen x und y gegeben. Als Maß der Unsicherheit der Aussage y->x bezüglich einer gegebenen Datenbasis kann der Umfang der kleinsten Informationsmenge gewählt werden, die zu der Datenbasis hinzugefügt werden muss, damit die Aussage y->x gültig ist.

Aus dieser eher vagen Beschreibung leitet van Rijsbergen schrittweise konkreter werdend einen Algorithums ab, mit dem Dokumente in eine Rangfolge bezüglich einer Anfrage gebracht werden können. Dazu benötigt man eine Ähnlichkeitsfunktion zwischen den "möglichen Welten" wW und eine Wahrscheinlichkeitsfunktion p auf dem Grundraum W .

Im Laufe dieser Ableitung wird sich zeigen, dass sich das System dabei im wesentlichen auf ein gewichtetes Vektorraummodell reduziert, bei dem aus dem Korpus gewonnene Ähnlichkeiten zwischen Termen bei der Gewichtung berücksichtigt werden.

Seien nun wieder x und y zwei Aussagen und wW eine "mögliche Welt". Mit

(w,y)

wird die Welt bezeichnet, die am ähnlichsten zu w ist und in der y gilt. Man sagt dann, dass y->x gilt, wenn x in (w,y) gilt. Bezeichne

die Indikatorfunktion (charakteristische Funktion) dafür, dass eine Aussage in einer Welt gilt, dann folgt:

(w,y->x)=((w,y),x)

Die Wahrscheinlichkeit p(y->x) wird nun folgendermaßen definiert:

p(y->x)=wWp(w)(w,y->x)=wWp(w)((w,y),x)

d. h. um die globale Wahrscheinlichkeit des Schlusses y->x zu bestimmen, wird zu jeder Welt w die ähnlichste Welt gesucht, in der die Aussage y gilt, und nachgesehen, ob dort auch x gilt. Ist das der Fall, wird die Wahrscheinlichkeit der Welt w zur globalen Wahrscheinlichkeit addiert. Der Übergang zur ähnlichsten Welt, in der y gültig ist, wird Imaging genannt. Durch Imaging und den Mittelungsprozeß soll die Informationsmenge geschätzt werden, die im Mittel fehlt, damit y->x gültig ist.

Man kann die Imagingtechnik auf Dokumente als "mögliche Welten" anwenden. Dabei ergibt sich aber das Problem, dass auch die Aussage y ein Dokument ist. Nimmt man an, dass ein Dokument in einem anderen Dokument nur dann "gültig" ist, wenn es eine Teilmenge des letzteren ist, könnten beim Imaging nur solche Dokumente verwendet werden, bei denen das eine im anderen enthalten ist. Solche Dokumente sind aber vermutlich selten.

Crestani und van Rijsbergen (1995 [->]) wählen deshalb eine Menge T von Termen als "mögliche Welten". Die Wahrscheinlichkeit der Inferenz von einem Dokument d auf eine Anfrage q ergibt sich dann als

p(d->q)=tTp(t)((t,d),q)

Inhaltlich kann ein Term im einfachsten Fall als durch die Menge der Dokumente repräsentiert angesehen werden, in denen er auftritt. D. h. ein Dokument bzw. eine Anfrage ist in einem Term "gültig", wenn der Term darin auftaucht. Hat man zusätzlich eine Ähnlichkeitsfunktion zwischen Termen, so wird beim Imaging die Wahrscheinlichkeit eines Terms, der nicht in einem Dokument auftaucht, auf den nächstgelegenen Term aus dem Dokument übertragen.

Die globale Wahrscheinlichkeit p(d->q) für ein Dokument dT und eine Anfrage qT kann folgendermaßen berechnet werden:

Diese Summe wird als Wahrscheinlichkeit, dass sich die Anfrage q aus dem Dokument d folgern lässt, interpretiert. Die Dokumente werden in der Rangfolge, die sich aus diesen Werten ergibt, ausgegeben.

ZUGANGAbb. 72: Imaging

Entscheidend für diese Bewertung sind die Wahrscheinlichkeiten der Terme und das Ähnlichkeitsmaß zwischen den Termen. Da sie lediglich an einer Rangordnung der Dokumente interessiert sind, wählen Crestani und van Rijsbergen (1995 [->]) anstelle einer Wahrscheinlichkeit das IDF-Maß

IDF(ti)=-log((ni)/(N))

wobei ni die Anzahl der Dokumente in der Sammlung angibt, in denen der Term ti vorkommt, und N die Gesamtzahl der Dokumente. (In diesem IDF Mass ist (ni)/(N)<=1 , damit ist der Logarithmus negativ, das IDF Maß also positiv. Qualitativ verhält es sich wie die anderen in _3.4.3_ besprochenen IDF Maße: für seltene Terme ist es groß, für häufige klein.)

Als Ähnlichkeitsmaß wählen Crestani und van Rijsbergen das EMIM Maß:

Dabei sind p(ti) bzw. p(tj) die Wahrscheinlichkeitsverteilungen für die Gültigkeit des Terms ti bzw. des Terms tj , also seines Auftretens in einem Dokument. p(ti,tj) ist die Wahrscheinlichkeitverteilung des gemeinsamen Auftretens von ti und tj . In der Summe wird also über die vier Auftrentensmöglichkeiten - keiner der Terme, nur ti , nur tj und beide Terme - summiert.

Mit den Daten aus der Cranfield Collection wurden Versuche gemacht, wobei zwei Läufe verglichen wurden, einer mit Imaging und einer, in dem lediglich die IDF Werte als Gewichtungen verwendet wurden. Die Ergebnisse zeigen leicht bessere Ergebnisse für Imaging. Der Unterschied ist aber statistisch nicht signifikant.

ZUGANGAbb. 73: Probleme des Imaging


ZURÜCK

© 2000 / HTML-Version 14. 1. 2000: R. Ferber