Guter, böser Algorithmus
Algorithmen bestimmen immer mehr unser Leben. Sind sie Hilfe oder Gefahr? Deutschlands Top-Informatikerin erklärt es.
Frau Professor Zweig, Sie arbeiten im Bereich der Sozioinformatik und setzen sich mit Algorithmen auseinander. Könnten Sie uns kurz erklären, was Algorithmen überhaupt sind?
Algorithmen sind allgemeine Handlungsanweisungen, um Probleme zu lösen. Ein gutes Beispiel dafür ist die schriftliche Multiplikation: Ihre Lehrerin hat Ihnen dafür erklärt, wie man ganz grundsätzlich vorgeht, unabhängig davon, welche Zahlen genau multipliziert werden sollen oder wie lang diese sind. Diese Generalität kennzeichnet einen guten Algorithmus.
Wo ist der Einsatz von Algorithmen nützlich und sinnvoll?
Das, was heute unter einem „Algorithmus“ verstanden wird, ist meistens gar keiner. Algorithmen an sich sind sehr nützlich und sinnvoll, da sie immer bewiesenermaßen eine Lösung finden. Diese Garantie gehört zur Definition eines Algorithmus dazu. Heute meint man aber meistens Verfahren des maschinellen Lernens, wenn man von „Algorithmus“ spricht. Diese Verfahren suchen mit Hilfe von Statistik in Daten nach Mustern und machen daraus Entscheidungsregeln. Etwa so: Wenn viele erfolgreich eingestellte Bewerberinnen und Bewerber zwischen 25 und 30 sind, dann mache diese Information zu einem der Entscheidungskriterien bei der nächsten Einstellung.
Es ist kein Problem des Entscheidungssystems, sondern der Art und Weise wie es eingesetzt wird.
Wann wird der Einsatz von Algorithmen problematisch?
Man sieht schon an dem Beispiel aus der Arbeitswelt, dass die genannte Regel die Gefahr der Diskriminierung birgt. Wo dies eine Gefahr darstellt – also insbesondere bei Zugängen zu staatlichen Leistungen oder in der Arbeitswelt –, sollten solche Entscheidungssysteme, die aus Daten gelernt haben, auf mögliche Diskriminierungen untersucht werden. Dazu muss man übrigens den Code nicht kennen. Es reicht aus, sich die Ergebnisse für Personen mit unterschiedlichen Eigenschaften wie Alter oder Religionszugehörigkeit anzusehen. Es ist übrigens auch nicht unbedingt ein Problem des Entscheidungssystems, sondern der Art und Weise, wie es eingesetzt wird. Genauso gut könnte man die gefundenen Muster auch dazu verwenden, Ungerechtigkeiten auszugleichen.
Mit Ihrem aktuellen Buch „Ein Algorithmus hat kein Taktgefühl“ wollen Sie Laien befähigen, „die Kontrolle zu behalten“. Kann das funktionieren?
Ja, ich traue das jedem zu – denn die technologische Umsetzung, die können wir Informatikerinnen und Informatiker leisten. Aber die Frage danach, welche Muster ein Algorithmus in welchen Daten suchen soll und was dabei optimiert werden soll – diese Frage können wir nicht allein beantworten. Wenn also ein System in Planung ist, dass vorhersagen soll, ob eine kriminelle Person wieder rückfällig wird, muss die Gesellschaft entscheiden, ob sie das wirklich will. Und wenn ja, ob man das System lieber so baut, dass es fast alle rückfälligen Kriminellen entdeckt oder lieber möglichst wenige resozialisierte fälschlich verdächtigt. Dazu braucht sie eine grobe Orientierung, wie solche Verfahren des maschinellen Lernens funktionieren – und eine große Portion gesunden Menschenverstand. Und den haben alle Menschen, die mit wachen Augen durch die Welt laufen.
Prof. Dr. Katharina Zweig ist Leiterin des Lehrstuhls „Graphentheorie und Analyse komplexer Netzwerke“ an der TU Kaiserslautern und hat federführend den Studiengang „Sozioinformatik“ gestaltet, der sich mit den Auswirkungen der Informatik auf die Gesellschaft beschäftigt. Sie wurde unter anderem mit dem Communicator Preis für Wissenschaftskommunikation und mit der Theodor-Heuss-Medaille ausgezeichnet.
Interview: Martin Orth
Du möchtest regelmäßig Informationen über Deutschland bekommen? Hier geht’s zur Anmeldung:
