1.1.9: Kategorisierung mit einem Data-Mining-System

Carter und Catlett (1987) [->] beschreiben ein Machine-Learning-Programm, das Entscheidungen darüber trifft, ob ein Antrag auf eine Kreditkarte bewilligt werden soll oder nicht. Traditionell können diese Entscheidungen von den Mitarbeitenden des jeweiligen Instituts aufgrund ihrer Erfahrungen und anhand von Richtlinien getroffen werden; oder es werden Bewertungstabellen, so genannte Scoring Tables (siehe Abbildung 4 ), verwendet.

Abbildung 4: Scoring Table

Mit diesen Tabellen werden für bestimmte Attribute - wie Höhe des Einkommens, Höhe des Bankguthabens oder Grundbesitz - Punkte vergeben. Wenn die Summe der Punkte einen Schwellwert übersteigt, wird eine Kreditkarte vergeben, sonst nicht. Anstelle dieses einfachen Summationsverfahrens kann auf der Basis von Fallbeispielen mit Machine-Learning-Verfahren ein Entscheidungsbaum erzeugt werden (siehe Abbildung 6 ).

Abbildung 5: Eine kleine Trainingsmenge

Abbildung 6: Entscheidungsbaum

Carter und Catlett machen leider keine genaueren Angaben über die verwendeten Attribute (vermutlich, weil das System tatsächlich angewendet wurde), sondern geben nur hypothetische Beispiele. So ist in Abbildung 4 eine Scoring-Tabelle dargestellt und in Abbildung 5 eine Trainingsmenge. Abbildung 6 zeigt einen Entscheidungsbaum, der die Beispiele aus der Trainingsmenge aus Abbildung 5 richtig kategorisiert. Man beachte, dass (in diesem hypothetischen Beispiel) nur zwei der vier Attribute verwendet werden.

Andere Beispiele für Regeln sind Regelmäßigkeiten im Kaufverhalten von Konsumenten, oder die Analyse von Verbindungsdaten von Funktelefonen, um den Missbrauch von Kennungen festzustellen (siehe Kapitel 2.6 ). Häufig werden auch (anonymisierte) Patientendaten verwendet, um ärztliche Diagnosen aus den verschiedenen Labor- und Testwerten vorherzusagen.

Diese Beispiele zeigen auch die Problematik des Ansatzes. Es gehört nicht viel Phantasie dazu sich vorzustellen, wie die Verfahren z.B. bei der Vergabe von Arbeitsplätzen, dem Abschluss von Versicherungsverträgen oder der polizeilichen (Raster-)Fahndung angewendet werden können. Dabei besteht natürlich die Gefahr, dass aufgrund allgemeiner Regeln im Einzelfall falsche Schlüsse auf die individuellen Fähigkeiten, Verhaltensweisen, Eigenschaften und Risiken einer Person gezogen werden.

Aber auch wenn die Regeln und Schlüsse richtig sein sollten, wird sich eine Gesellschaft grundlegend verändern, wenn ihre Bürgerinnen und Bürger durch die Anwendung der Regeln auf allgemein zugängliche oder leicht zu erhebende Daten sehr genau eingeordnet werden können.

Schließlich kann allein der Glaube von Entscheidungsträgern an die Vorhersagen eines Systems bei Ermessensentscheidungen ausschlaggebend sein und zur Diskriminierung ganzer Gruppen führen.