Künstliche Intelligenz


Künstliche Intelligenz ist derzeit ein Hype, und wir haben die ersten solchen Tools wie chatGPT gesehen. Eigentlich ist das nur ein Teilbereich der KI, der dazu gedacht ist, Fragen zu beantworten. Eine solche "KI" generiert einen Text aus den Inhalten des Internets. Wir haben das in den Medien zuhauf gehört. Ein paar haben das auch bereits getestet. Was anscheinend keiner verstanden hat: die wesentliche Leistung der "KI" ist nicht zu wissen, sondern zu formulieren! Diese Maschine weiß nicht, weil es eben keine KI ist. Es ist eine Suchmaschine, eine riesige Menge Text in einer Datenbank. Das was die "KI" tut ist:

Der zweite Punkt ist also die eigentliche Leistung, Suchmaschinen gibts schon seit 20 Jahren. Also nochmal, die "AI" formuliert einen wunderschönen Text. Und wir nehmen automatisch an, dass der Inhalt genauso wunderschön ist. Einem schön gedruckten Buch vertraut man mehr als einem fotokopierten Handzettel. Einem Taschenbuch mehr als einem Schundheft. Auch wenn der gleiche Roman drin steht.

Das Problem ist aber, dass der Inhalt nur bedingt vertrauenswürdig ist, weil es ein Suchergebnis einer Suchmaschine ist. Suchen Sie einfach nach einem Begriff und schauen Sie sich das Google Ergebnis an, dann wissen Sie was ich meine.

Vor einiger Zeit war ich auf einer Seite, die genau auf diese Art entstanden ist. Nur wie hätte ich das wissen sollen? Es stand nirgends. Layout und Text waren fast makellos. Bis auf einen Schönheitsfehler, der Inhalt des Textes war größtenteils falsch. Wenn man aber nichts über das Thema weiß und sich auf dieser Seite informiert, muss man es wohl oder übel erst mal glauben.

Ich hatte eine ganze Reihe andere Quellen, und die Seite war die einzige, die Unsinn erzählt hat. Das konnte ich deshalb feststellen, weil das Entfernen dieser einzigen Seite aus den Quellen das Ergebnis plötzlich stimmig gemacht hat. Diese eine einzige Seite hat was anderes behauptet, und wurde dadurch per Mehrheitsbeschluss unglaubwürdig.

Nun ist die Glaubwürdigkeit eines Texts nicht unbedingt etwas, worüber man demokratisch abstimmen sollte. Diese Lösung ist also suboptimal. Und vor allem dauert es nicht mehr lange, bis mehr generierte Websites existieren, als wirklich geschriebene, einfach weil es viel billiger ist. Und dann wird man wohl die Seite, die was anderes behauptet als alle anderen, als die nicht generierte ansehen müssen.

Das ist die große Gefahr der "KI", dass wir von Unsinn, der nicht als Unsinn erkennbar ist, überschwemmt werden und in einer willkürlichen Scheinwelt leben, in der Wahrheit verschwimmt und durch falschen Schein ersetzt wird.

Und dieses Problem ist wohlbekannt und hat sogar schon einen Namen: Halluzination oder Konfabulation. Manche bezeichnen es auch als Bullshitting oder delusion (Wahn). Es gibt dafür sogar bereits eine sehr lange Wikipedia-Seite.

Die folgenden Beispiele sind sicher AI generiert, obwohl sie es nicht zugeben. Ein Mensch der solchen hanebüchenen Unsinn verzapft ist nicht vorstellbar. Das wird eine riesige Höhlenkirche mit Fresken beschrieben und auf den Google Maps Fotos sieht man einen engen verrussten Gang mit Ikonen. Eine Kirche die 1947 in einer kleinen Höhle eingerichtet wurde, wird zu einem massiven Bau aus dem Mittelalter. Lavahöhlen haben plötzlich Tropfsteine und befinden sich in Gegenden die keinen Vulkanismus besitzen. Die Liste ist lang und deprimierend.