Es gibt – wie kürzlich beschrieben – Algorithmen, die schwerer nachvollziehbar sind als andere. Eine Art Königsdisziplin in dieser Hinsicht stellen evolutionäre Algorithmen dar. Bei diesen wird nicht beschrieben, wie genau ein (Teil-) Problem gelöst wird, sondern es wird nur definiert, wie vorhandene Problemlösungsalgorithmen kombiniert und modfiziert werden (änlich wie bei der biologischen Fortpflanzung ja auch die Erbmasse kombiniert und modifiziert wird). Das Ergebnis ist dann eine Überraschiung, dahingehend, das auch die Ersteller nicht vorhersagen können, zu welchen Ergebnissen die Algorithmen im Zuge der verschiedenen Generationen kommen.

Das hört sich erstmal komplex an, ist aber ganz gut beschrieben in einem Roman von William Hertling: SINGULARITY (2): A.I. APOCALYPSE.