Nun, wenn die Zielfunktion definiert ist, kann das System ja lernen und dann wird es angewandt. Bei Poker und bei Schach und Go zeigen sich dann gute Ergebnisse, das System ist besser als die menschlichen Spieler.
Aber nach welchen Strategien und welchen Taktiken spielt das System und was können wir machen, um genauso gut zu spielen?
Jetzt kommt ein ganz großes und schwieriges Feld: Erklärung von KI.
Derzeit ist das, was man gemeinhin KI nennt, nur ein System, das gut darin ist, die Verknüpfung von Eingangs- mit Ausgangssignalen herzustellen. Die Systeme sind aber so angelegt, dass sie nicht nur gelernte Eingangsignale verarbeiten, sondern auch andere Eingangssignale zulassen. Und der Erfolg der Systeme zeigt sich dann darin, dass sie bei ungelernten Eingangssignalen gute Ergebnisse erzielen.
Das Problem ist nun aber, dass die Signale auf eine mathematische Art und Weise verknüpft werden, die sich nicht in logische formale Schritte zurückverfolgen lässt, sondern zunächst quasi eine Blackbox ist. Man legt Eingangssignale an (eine Position eines Brettspiels) und das System schlägt einen nächsten Zug vor. Man weiß aber nur, dass das System in „ähnlichen“ Situationen mit diesem Zug Erfolg hatte.
Die meisten der heute existierenden Systeme sind so aufgebaut, dass sie solche Parallelschlüsse ziehen, ohne das sie eine genauere Erklärung dazu abgeben können.
Das macht auch die „Magie“ der Technik aus (berechtigter Weise). Das Problem der mangelnden Erklärbarkeit ist sinnvoller Weise auch ein Hinderungsgrund für die Verbreitung der Technik. So hat Google sich selbst ein langsameres Tempo verordnet um die Erklärbarbeit sicherzustellen (Link).
Schöne(?) Neue Welt 