Wenn man nur annähernd von der Idee ausgeht, dass neuronale Netzwerke in Ansätzen Strukturen nachbilden, die in humanen Gehirnen oder, weiter gefasst, in diversen Lebensformen präsent sind, dann sollte man ein besonderes Augenmerk auf die Fehler richten.
Kurz gesagt: Shit in, Shit out
Entsprechend aller Erfahrungen, die wir bis jetzt gemacht haben (Schildkröte oder Waffen, googelt es doch selbst), kann man davon ausgehen, ganz allgemein, dass das Training eines neuronalen Netzes zu blinden Flecken, wie auch zu Fehlinterpretationen führt, die spezifisch mit dem Training zusammenhängen.
Wenn wir diesen Gedanken erweitern, wir befinden uns in einem Gedankenspiel, keiner mathematischen Beweislage, dass Training impliziert, anfällig für bestimmte blinde Flecken wie auch Fehlinterpretationen zu sein und wenn wir unterstellen, dass auch wir Menschen zu den Lebewesen gehören, die neuronale Netze in wesentlich höherer Komplexität benutzen, dann mag es möglich sein, dass auch unsere „Wirklichkeit“ blinde Flecken und Fehlinterpretationen enthält.
Soweit, so schrecklich.
Wenn mehrere verschiedene neuronale Netze komplex vernetzt sind, dann gibt es einerseits die Möglichkeit, dass diese Netze sich gegenseitig kontrolllieren um Fehler zu nivellieren. Aber es ergibt sich auch die Möglichkeit des viel stärkeren Feedbacks, des Aufschaukelns eines Systems.
Und es gibt noch einen anderen schrecklichen Gedanken …
Wenn wir die Erfahrungen aus neuronalen Netzen auf unsere Konfiguration erweitern, dann bedeutet dies auch, möglicherweise, dass unsere Wirklichkeit nur vom Input geprägt ist, den wir erhalten haben. Dass diese Wirklichkeit möglicherweise ein funktionierendes Abbild der Realität in einer überschaubaren und bekannten Umgebung ist, aber keinesfalls ein tatsächliches Abbild der Realität.
Was, nur so nebenbei, viele Seltsamkeiten im Verhalten von Lebewesen erklären könnte. Wenn der Schwarzschildradius der eigenen Ereignishemissphäre nur auf wenige lokale Ereignisse und ihre Erkennung begrenzt ist, dann führt das dazu, dass man nur mit Lichtgeschwindigkeit diesen Horizont überwinden könnte. Wäre jetzt mal meine Annahme.
Noch so ein paar Splittergedanken.
KIs brauchen ihre Verarbeitungs- und Lernphasen mit Wiederholung.
Wir brauchen Schlaf – wo genau ist da der Unterschied?
KIs können nur das Erkennen, was sie gelernt haben.
Wir können nur das Erkennen, was wir gelernt haben, auch wenn es ungleich mehr und vielfältiger ist – wo genau, im Prinzip, ist da der Unterschied?
KIs tun sich schwer mit Diversität, wenn es Kategorien betrifft.
Wir tun uns schwer, wenn wir unser Verhalten ändern wollen – wo genau ist da der Unterschied?
Sicher, einerseits könnten diese Gedanken endlos fortgesetzt werden, andererseits bestehen durchaus gewaltige Unterschiede. KIs sind isolierte neuronale Netzwerke, während wir Lebewesen, die durch das evolutionäre Sieb gepresst wurden, erprobte Modelle von Zusammenarbeit zwischen verschiedenen Formen neuronaler Netzwerke sind.
Wenig verwunderlich, dass die Dichte der Neuronen rund um Verdauungsorgane dichter ist als in Gehirnen, so sie sich als nützlich erwiesen.
Klar, man kann es nicht vergleichen. Aber darum geht es doch nicht. Man kann auch nicht Äpfel mit Birnen vergleichen, sofern man sich in der Kategorie Äpfel oder Birnen bewegt. Bewegt man sich in der Kategorie Obst, dann zählen auf einmal andere Faktoren und ein Vergleichbarkeit ist gegeben.
Selbst wenn wir extrem optimistisch annehmen, dass unsere neuronalen Netze viel effektiver und optimierter sind, dann kommen wir trotzdem in die Verlegenheit, dass komplexe Systeme einfach anfälliger sind. Die Evolution mag durch Aussortieren eine Menge Mechanismen geschaffen haben, die einen Feedback verhindern.
Aber, mal ehrlich, wie gelang und gelingt es Wesen zu überleben, die fast oder überhaupt keine Ahnung von der Welt im Grossen und Ganzen haben, sondern nur ihr kleines, feines Umfeld soweit erkennen, dass ein Überleben möglich ist?
Deutet das nicht darauf hin, dass Wahrnehmung der Welt im Ganzen, vielleicht sogar Erkenntnis nur ein untergeordnete Rolle im Roulette des Lebens spielt?
Ich schweife ab, Erkenntnis mag hilfreich oder eine Bürde oder Beides sein. Und doch ist es mit dem Thema verwoben. Ich sprach gerade von Reichweite, und die mag sehr unterschiedlich sein.
Aber Erkenntnis an sich? Deutung der näheren und nahen Umwelt? Das ist ein Killerkriterium in diesem Spiel des Lebens. Neuronale Netze, wie wir sie so unvollkommen nachahmen, sind da ein wesentlicher Faktor.
Eine Möglichkeit zur Selbsterkenntnis,
Wenn man die Hybris mal kurz bei Seite lässt.