Stage 7
-
English
Live Translation
Discussion
Everyone
From Bias to Best Practice – How to build the algorithms we want?

Short thesis

Algorithmen werden von Menschen programmiert, entwickelt und trainiert. Wenn sie Auswahlentscheidungen treffen, transportieren sie die Einstellungen und Perspektiven ihrer Entwicklerinnen und Entwickler und auch deren Vorurteile. Wichtig ist, die Diskriminierungsfreiheit der Auswahl sicherzustellen. Ein Blick hinter die Kulissen der Entstehung von Algorithmen.

Description

„Der Algorithmus hat das so entschieden.“ ist eine beliebte Antwort, wenn es darum geht, nachzuvollziehen, wieso Technologien bestimmte Entscheidungen getroffen haben. Algorithmen sind jedoch nicht gottgegeben, sie wurden programmiert, entwickelt und trainiert. Menschen haben sie nach ihrem Bild erschaffen und genau an dieser Stelle wird es spannend: Denn Algorithmen transportieren – teilweise forcieren sie sogar – die Perspektive ihrer Entwicklerinnen und Entwickler. Hier gilt es anzusetzen. Vorurteile – Biase – multiplizieren sich, wenn Algorithmen sie auf Millionen Fälle anwenden. Die Entstehung von Algorithmen muss also genauso Teil der Betrachtung sein, wie die Konsequenzen der Algorithmen und die Kontrolle der Perspektive und die Sicherstellung der Diskriminierungsfreiheit des Ergebnisses.

__________

From Bias to Best Practice – How to build the algorithms we want?
“That’s what the algorithm determined” is a common answer if we want to understand how technologies make decisions. But algorithms are not god given, they are never neutral but they were programmed in a certain way and trained with a selection of data sets. That is where it gets interesting: Because algorithms often transport bias – and sometimes even determine technological consequences, influenced by the process of their development and the worldviews of their developers. This view gains influence when algorithms are applied in the use of millions of use cases.

What biases are inherent exactly and can be made visible afterwards, is the first question we want to answer in this session. The second question is directed towards the development process of algorithms: If we want to avoid discrimination or other unwanted consequences in algorithms, what improvements do we need in their creation and their monitoring?

__________