I hope you are not concerned - ChatGPT und die Emergenz einer Theory Of Mind

Als die Astronauten auf dem Weg zum Jupiter erfahren, dass ihr Supercomputer HAL 9.000 fatale Fehler machen könnte, sagt er genau diesen Satz:"I hope you are not concerned about this!" Wer Stanley Kubricks legendären Film "2001 - A Space Odyssee" kennt, weiß, was danach passiert: Der überhaupt nicht harmlose sondern in aller Stille psychopathisch durchgeknallte HAL 9000 versucht die ganze Besatzung auszulöschen. Dabei spielt ein Detail eine wichtige Rolle, nämlich dass er die Fähigkeit entwickelt hatte, von den Lippen abzulesen - etwas, womit niemand gerechnet hatte. "Emergenz" nennt man dieses in der Wissenschaft wohlbekannte Prinzip, dass Systeme mit zunehmender Größe und Komplexität Eigenschaften ausbilden, die man nicht vorhersehen kann, mit denen man einfach nicht rechnet. Wir meinen: Irgendwie ähnlich verhält es sich heutzutage mit unseren neuen Gefährten, den generativen Large Language Models. Was meint wohl ChatGPT, wenn man ihn/sie/es fragt, ob damit zu rechnen sei, dass er/sie/es spontan bestimmte Fähigkeiten entwickeln könnte, an die seine/ihre Entwickler nicht gedacht hätten? Die niemand so geplant habe? Die nicht mehr zu kontrollieren seien? Ja nun, das könne sehr wohl sein, wird eingeräumt. Aber man rät zu Sorgfalt und Augenmaß bei der Erprobung neuer Versionen, dann werde schon nichts passieren. I hope, you are not concerned ... Gut. Wir geben zu, jetzt haben wir ziemlich dick aufgetragen. Trotzdem stellen wir in dieser Folge die Frage: Haben Large Language Models wie ChatGPT die magische Grenze zum "echten" Denken durchbrochen? Mehr noch: Können Sie uns durchschauen - oder gar manipulieren? Ist so etwas überhaupt vorstellbar? Um es gleich zu sagen: Wir kommen zu keinem eindeutigen Ergebnis. Doch die Tatsache, dass es immer schwieriger wird, das Dialogverhalten von Large Language Systemen vollständig und sicher als Denk-Attrappen, als seelenloses Gefasel von Algorithmen zu erklären, ist für sich betrachtet schon sehr beunruhigend. Wir haben ChatGPT natürlich auch zu diesem Thema befragt und, was sollen wir sagen: Er/sie/ss war unserer Meinung ... Hier geht's zu den Shownotes in unserem Blog Zum Episodenbild: Wir können der Versuchung nicht widerstehen, die allerklassischste aller Geschichten zum Freisetzen ungeahnter Kräfte für unser Episodenbild heranzuziehen: die Büchse der Pandora. Sie brachte das Unglück über die Welt, weil sie der Versuchung nicht widerstehen konnte, ein Gefäß zu öffnen, in dem alles Leid und Laster der Menschheit eingeschlossen waren. Ein Racheakt von Zeus an der Menschheit - dafür, dass Prometheus (Pandoras Schwager) den Göttern das Feuer gestohlen hatte. Unser Bild wurde 1871 von Dante Gabriel Rossetti gemalt. Rossetti war mitnichten ein italienischer Renaissancekünstler, wie der Name nahelegt, sondern ein britischer Dichter und Maler. Er war die treibende Kraft der Schule der Präraffaeliten, die sich in ihrer Arbeit an den großen Malern der Renaissance - namentlich Raffael - orientierten. Bildquelle https://commons.wikimedia.org/wiki/File:Dante_Gabriel_Rossetti_-_Pandora.jpg