Algorithmen – Das GIGO Prinzip

Auch wenn Algorithmen teilweise keine korrespondierende Erklärung in der abgebildeten Welt haben, beziehen sie sich auf diese Welt. Beim maschinellen Lernen versucht das System, die Muster (Bilder – darauf abgebildete Gegenstände) aus einem Satz von Lehrdaten zu „verstehen“, also es versucht, seine Millionen Parameter so zu setzen, dass sein Algorithmus möglichst oft ein Bild dem darauf abgebildeten Gegenstand zugeordnet wird.

Wenn nun ein solches System zur Bewerberauswahl (oder -vorauswahl) eingesetzt wird, dann werden ihm auch vorhandene Datensätze „gelehrt“ – also Paare von Bewerberprofilen und den Entschedungen zu diesen Bewerbern.

Das System wird daraufhin optimiert, möglichst oft so zu entscheiden, wie bei den Lehrdatensätzen entschieden wurde. Und dann ist es so , wie immer in der Datenverarbeitung: Die Qualität der Eingangsdaten (hier die Lehrdatensätze) bestimmt die Ergebnisse massgeblich – oder anders fomuliert: „Müll rein“ produziert auch nur wieder Müll („Garbage in – Garbage out“ : GIGO).

Wenn man sich nun vor Augen führt, dass

a) dem Algortithmus beim maschinellen Lernen keine Kausalketten der modellierten Welt zuzuordnen sind (er also „nicht erklärbar ist“)

b) Lehrdatensätze aus der realen Welt stammen, die bekanntlich nicht immer richtig ist

sieht man leicht, dass solche Systeme die Fehler, die man früher schon machte, ebenfalls lernen. Ein sehr deutliches Beispiel zeigt das System zur automatisierten Personalauswahl bei Amazon.

Das System wurde anhand früherer Personalauswahlentscheidungen trainiert und hatte dann die Entscheidungskriterien aus diesen früheren Entscheidungen mit Hilfe mathematischer Modelle herausgearbeitet. Dabei werden alle zur Verfügung stehenden Kriterien genutzt. Bspw. Zeugnisnoten, Soziales Engagement, Alter und Geschlecht. Im konkreten Fall bei Amazon stellte sich heraus, dass Frauen in der Vergangenheit im Bewerbungsprozeß benachteiligt wurden und deshalb wurde dieser Aspekt vom System auch so gelernt. (Das System ist rein datenbasiert und nimmt keinerlei moralische Wertung der gelernten Daten vor. Das geschlcht ist ein weiteres Kriterium wie Noten oder Softskills.) Als dieser Umstand offensichtlich wurde, hat man die Nutzung des Systems gestoppt.

Wegen des GIGO Prinzips gilt es, den Lehrdatensätzen beim Maschinelles Lernen noch mehr Bedeutung zuzumessen. Oder anderherum gesagt: Mit dieser Art Maschinen kann man die Fehler der Vergangenheit viel leichter wiederholen.

China update

In Ergänzung zum Post zu den „Sozialen Netzen“ in China:

In einigen Schulen werden die Schüler nun mithilfe von Jacken-Chips (sogenannte wearables) überwacht. Neben der Bezahlfunktion in der Mensa können damit auch Anwesenheit und Aufmerksamkeit geprüft werden, da das System die Bewegungs- und Biodaten erfasst. So wird bspw. ein Alarm ausgelöst, wenn der Schüler einschläft.

Das Ganze nennt sich dann Smart Campus mithilfe von intelligenten Uniformen .

PS: Die Jacken halten Temeraturen bis 150 Grad stand und sollen 500 Waschgänge überstehen.

Zu schlechter Letzt

Das MIT Review stellt jährlich die (ihrer Meinung nach) größten Technologiefehler des Jahres vor.

Auf die vier ersten Plätze haben es dieses Jahr geschafft:

Der Chinese, der ein Zwillingspärchen mit manipulierte Genen geschaffen hatte
Facebook mit der (Plattform-)Unterstützung der ethischen Säuberungen in Myanmar
Google mit den zensierten Suchalgorithmen für das chinesische Angebot
Das Startup, das das Hochladen des Gehirninhalts anbietet (was allerdings zwingend zum Gehirntod führt)

Details auf der Website (in englisch, aber der Übersetzer ist ja im Browser…)

Das MIT (Massachusetts Institute for Technology) ist eine renomierte Forschungseinrichtung und setzt sich richtigerweise mit den Folgen der eigenen Arbeiten auseinander. Es geht darum, nicht alles pauschal zu verteufeln, sondern auf dem Weg nach vorne zu reflektieren. So wird auch zugegeben, dass mit dem Startup (4. Spiegelstrich) eine Forschungskooperation bestand, die gekündigt wurde.

Mal was Leichtes zur Abwechslung (7. Türchen)

Ok, in den letzten Tage waren es immer sehr komplexe Themen; dann jetzt zur Abwechslung mal etwas leichtere Kost – insbesondere für diejenigen, die mit den digitalen Themen nicht ganz so vertraut sind.

Mit dem Begriff Digitalisierung tun sich viele etwas schwer, und auch so typische moderne Ansätze – wie Blogs oder so – sind auch nicht jedermanns Sache.

Da aber häufig die papiergestützte Kommunikation immer noch vorherrschend ist, sollte man natürlich auch überlegen, wie man die modernen Konzepte, wie das „Like“ der digitalen Welt, wieder zurückführen kann in die „alte“ Welt. Hier eignet sich dann der Like- und der Dislike- Stempel sehr gut.

Dieser Blog hier hat auch schon ein „Like“ (digital) bekommen – gleich am Anfang, ich hoffe nicht, dass sich jemand da vertippt hat… Falls also noch jemand sein Gefallen/Missfallen dokumentieren möchte: Die betreffende Blogseite einfach ausdrucken und dann anschließend entsprechend stempeln…

Das soll für heute reichen. Also jetzt raus aus den Betten und das siebte Türchen öffnen.

PS: Man kann diese Stempel (und andere Dinge) tatsächlich hier finden.

Güterabwägung II (6. Türchen)

Im ersten Beitrag zur Güterabwägung war die Lösung am Ende relativ einfach: Die Maschinen müssen Güterabwägungen vornehmen, und sie müssen dementsprechend programmiert werden. Aber wie genau muß hier programmiert werden? (Beim Programmieren muß alles immer ganz genau zu Ende gedacht werden. Das ist mir regelmäßig lästig!!)

Wie wird entschieden, ob ich den einen oder den anderen Verkehrsteilnehmer gefährde?

In einem Gedankenexperiment hat man versucht, die generellen Kriterien für solche Güterabwägungen zu ermitteln (das sog. Trolleyproblem: Man muß sich zwischen zwei Übeln entscheiden.)

Es hat sich gezeigt, dass in verschiedenen Kulturen auch verschiedene Massstäbe gebildet haben. So haben bspw. asiatische Kulturen mehr Respekt vor dem Alter und würden somit eher ältere Menschen zugunsten jüngerer schützen. In westlichen Kulturen ist das tendenziell umgekehrt. Und jetzt wird es spannend: Umfasst die Zulassung eines KFZ in einem Land dann zukünftig auch lokale Kriterien für die Güterabwägung? Haben Asiaten, die in westlichen Ländern Autos fahren, ein Anrecht auf eine Fahrzeugsteuerung, die nach asiatischen Massstäben Güterabwägung betreibt? …

Das war ein erster, sehr plakativer Aspekt. Man kann das sehr viel differenzierter betrachten und Interessierte finden in der kulturvergleichenden Sozialforschung jede Menge Lesestoff, insbesondere bei Hofstede.

Heute ist Nikolaus, da werden traditionell Stiefel über Nacht befüllt – zumindest hier in unserer christlich geprägten, westlichen Kultur. Also dann: Raus aus den Betten, die Stiefel leeren und das sechste Türchen öffnen.

Nachtrag für Filminteressierte:

Axel Prahl (also der, der im „wirklichen“ Leben Kommissar in Münster ist und fast immer Sankt Pauli T-Shirts trägt) spielt im Kurzfilm Sommersonntag eine tragische Rolle in der er das Leben seines Sohnes abwägen muß gegen die Leben der Insassen eines ganzen Zuges.