Eine KI wird auch heute als »Blackbox« mit einem Neuronalen Netz besschrieben, deren Erfindern die genaue Funktion unbekannt ist.
Ganz so schlimm ist es längst nicht mehr. Die Entwicklungen der letzten 10 Jahre erlauben es, nachträglich festzustellen, an welchen Details das Netz bestimmte Funktionen festmacht.

Das hat in einigen Fällen zum Schmunzeln Anlass gegeben. So wurde z.B. ein Neuronales Netz zur Bilderkennung darauf trainiert, zu entscheiden, ob ein beliebiges Bild eine Frau oder einen Mann zeigt. Trainiert wurde das Netz durch eine große Anzahl von Fotos zusammen mit der Info Mann oder Frau.

Es zeigte sich, dass Menschen in einer Küche als Frau interpretiert wurden. Die Trainingsbilder zeigten nämlich in Küchen fast ausschließlich Frauen. Das stellt den Nutzen einer KI natürlich infrage.