Dies ist eine alte Version des Dokuments!
(Teil-)Automatisierte Entscheidungsfindung
In unserer zunehmend von digitalen Werkzeugen geprägten Welt kommen zunehmend Mechanismen zur (teil-)auotmatisierten Entscheidungsfindung zum Einsatz. Das Umfasst sowohl „klassische“ Algorithmen, als auch selbstlernende Systeme wie beispielsweise neuronale Netze.
Als ein wesentliches Problem stellt sich vor allem die Intransparenz dar, in der diese Systeme zum Einsatz kommen. Häufig haben Menschen, deren Leben von solchen Systemen beeinflusst oder gar eingeschränkt werden keine Möglichkeit, die Ursachen der Beschränkungen zu bemerken. Gegenwehr ist deswegen vollkommen unmöglich.
Auch bei selbstlernenden System stellt eine Art „Intransparenz“ ein Problem dar: Selbstlernende System müssen „trainiert“ werden - es liegt auf der Hand, dass ein falsches Training unerwünschte „Lernerfolge“ haben kann. So müssen beispielsweise Spamfiler1) sowohl mit Mails trainiert werden, die der Benutzer als Spam betrachtet als auch mit „normalen“ Mails („ham“). Trainiert man einen solchen Filter falsch, wird er als unerwünschtes Ergebnis Spam-Nachrichten in der Inbox ablegen, wohingegen wichtige Mails im Spamordner landen.