(Teil-)Automatisierte Entscheidungsfindung

In unserer zunehmend von digitalen Werkzeugen geprägten Welt kommen zunehmend Mechanismen zur (teil-)auotmatisierten Entscheidungsfindung zum Einsatz. Das Umfasst sowohl „klassische“ Algorithmen, als auch selbstlernende Systeme wie beispielsweise neuronale Netze.

Als ein wesentliches Problem stellt sich vor allem die Intransparenz dar, in der diese Systeme zum Einsatz kommen. Häufig haben Menschen, deren Leben von solchen Systemen beeinflusst oder gar eingeschränkt werden keine Möglichkeit, die Ursachen der Beschränkungen zu bemerken. Gegenwehr ist deswegen vollkommen unmöglich.

Selbstlernende System müssen „trainiert“ werden - es liegt auf der Hand, dass ein falsches Training unerwünschte „Lernerfolge“ haben kann. So müssen beispielsweise Spamfiler1) Oft ein Bayesscher Filter sowohl mit Mails trainiert werden, die der Benutzer als Spam betrachtet als auch mit „normalen“ Mails („ham“). Trainiert man einen solchen Filter falsch, wird er als unerwünschtes Ergebnis Spam-Nachrichten in der Inbox ablegen, wohingegen wichtige Mails im Spamordner landen.

Bei Entscheidungstechniken, die auf Big-Data Analysen basieren werden große (wirklich große) Datenmengen auf Muster analysiert, um anschließend beispielsweise eine neue Situation anhand von Merkmalen in ein solches Muster einzufügen.

So soll der Arbeitmarktservice in Österreich ab 2020 Arbeitssuchende anhand von derart in der Vergangenheit gefundenen Mustern in die drei Kategorien „Hohe Chancen“, „mittlere Chancen“, „niedrige Chancen“ (für eine Vermittlung in ein neues Arbeitsverhältnis) einordnen2)https://netzpolitik.org/2018/oesterreichs-jobcenter-richten-kuenftig-mit-hilfe-von-software-ueber-arbeitslose/. Die Kriterien, anhand der diese Verteilung erfolgt, sind nicht nachvollziehbar. Wenn in der Software ein selbstlernendes System zum Einsatz kommt, ist es unter Umständen nicht einmal für die Programmierer der Software möglich, die Einordung einer Person nachzuvollziehen.

Die Beurteilung solcher Methoden ist ausgesprochen schwer, auch weil unsere Psyche dazu tendiert, bei Entscheidungen, die über unser Schicksal getroffen werden intuitiv anderen Menschen mehr zu vertrauen, obwohl die Entscheidung eines menschlichen Gegenübers nicht unbedingt „fairer“ oder „besser“ sein muss, als die Entscheidung eines Algorithmus - Menschen sind natürlich von Vorurteilen geprägt und machen Fehler.