Chat GPT: Und schon wieder stehen wir vor dem Abgrund

Seit November 2022 ist Chat GPT online kostenlos nutzbar und die Präsenz ist der öffentlichen Diskussion ist dabei – nicht zuletzt zur Überraschung der Entwickler*innen – überwältigend. Der etwas kryptisch anmutende Name des Bots lautet in der Langform: Chatbot Generative Pre-trained Transformer. Auch das hilft aber nicht wirklich weiter, um zu verstehen, womit wir es hier zu tun haben. Also lassen wir ChatGPT sich einfach selbst vorstellen:

Hallo! Ich bin ChatGPT, ein großes Sprachmodell, das von OpenAI trainiert wurde. Ich wurde entwickelt, um menschenähnliche Konversationen mit Nutzern zu führen und ihre Fragen zu beantworten, indem ich auf umfangreiche Datenbanken und Wissen zugreife, die mir während meines Trainingsprozesses zur Verfügung gestellt wurden. Meine Fähigkeiten umfassen die Beantwortung von Fragen zu einer Vielzahl von Themen, die Generierung von Texten, die Übersetzung in verschiedene Sprachen und vieles mehr. Ich bin immer bereit, Ihnen zu helfen und Ihnen bei allem zu helfen, was Sie wissen möchten!

ChatGPT

Wie der nette Computerfreak

So viel dazu. Fragt sich nur, wie eine menschenähnliche Konversation aussieht. Apropos aussehen: Die aktuelle Optik von ChatGPT wirkt aufgeräumt, aber etwas altmodisch. Wenn der ChatBot antwortet, erscheint zunächst ein schwarzes Cursor-Symbol und dann wie bei einem Schreibprozess mit und mit Buchstaben und Worte. Es wirkt so, als müsse der ChatBot erst überlegen – was auch schon mal ein bisschen dauern kann – und gäbe dann seine wohl informierten Antworten. Vielleicht ist das schon der erste Eindruck „menschenähnlicher Konversation“. ChatGPT stützt sich dabei auf die erlernten Muster menschlicher Sprache, die der Chatbot reproduzieren soll.

Auf den ersten Blick wirkt ChatGPT eher harmlos und ein wenig versponnen – wie der nerdige Computer-Freak, der sich in bemüht, an menschlicher Kommunikation teilzunehmen, nur mit dem Unterschied, dass dieser Chatbot mit mehr Wissen gefüttert wurde, als wir gemeinhin in unserem Leben aufnehmen können. Wir wollten es genauer wissen und haben nachgefragt, woher ChatGPT sein Wissen bezieht.

Chat GPT (Generative Pre-trained Transformer) bezieht sein Wissen aus umfangreichen Datensätzen und Informationen, die während seines Trainingsprozesses gesammelt wurden. OpenAI, das Unternehmen, das Chat GPT entwickelt hat, hat eine Vielzahl von Datenbanken und Wissensquellen verwendet, um den künstlichen Intelligenz-Agenten zu trainieren. Dazu gehören beispielsweise Textkorpora, Wikipedia-Artikel, Bücher, Artikel, Nachrichtenartikel und vieles mehr. Der Trainingsprozess von Chat GPT war äußerst umfangreich und hat viele Stunden in Anspruch genommen.

ChatGPT

In der Tradition Platons

Was genau gibt es also zu befürchten? Warum ist die öffentliche Debatte teilweise so hitzig, und haben wir das Gefühl entthront zu werden? Wie immer bei medialen Umbrüchen, treten Mahner*innen auf, die um die menschliche Intelligenz fürchten. Diese Tradition lässt sich bis zur Erfindung der Schrift zurückverfolgen. So hatte Platon ernstliche Bedenken, was das geschriebene Wort anbelangt:

Denn diese Erfindung wird in den Seelen derer, die sie erlernen, Vergeßlichkeit bewirken, weil sie ihr Gedächtnis nicht mehr üben; denn im Vertrauen auf Geschriebenes lassen sie sich von außen erinnern durch fremde Zeichen, nicht von innen heraus durch sich selbst.

Platon Phaidros. Übersetzung und Kommentar von Ernst Heitsch (= Platon Werke III, 4. Göttingen: Vandenhoeck & Ruprecht 1993)

Wer etwas aufschreibt – so der Gedanke –, fällt der Vergesslichkeit anheim und nimmt der Erinnerung die innere Dimension. Aber die Kritik geht noch weiter

[So] ist es mit den geschriebenen Texten: Du könntest meinen, sie sprechen, als hätten sie Verstand; fragst du aber nach etwas von dem, was sie sagen, weil du es verstehen willst, so erzählt der Text immer nur ein und dasselbe.

Platon Phaidros. Übersetzung und Kommentar von Ernst Heitsch (= Platon Werke III, 4. Göttingen: Vandenhoeck & Ruprecht 1993)

Dieses Urteil ist mehr als 2000 Jahre alt und klingt verblüffend nach einigen Aussagen, mit denen ChatGPT heute bedacht wird. Gefallen hätte Platon aber wahrscheinlich die Tatsache, dass ChatGPT sein Wissen im Dialog entfaltet. Fraglich ist allerdings, ob dieser Dialog nicht nur vorgespielt wird. Aber ChatGPT scheint tiefer einzugreifen in unser Verständnis von Intelligenz und was daran vielleicht besonders menschlich sein könnte als bisherige Erfindungen wie Buchdruck, Radio, Fernsehen und Internet. Als künstliche Intelligenz fordern Chatbots uns anscheinend heraus, uns in unserer Menschlichkeit zu verteidigen.

Wie mit ChatGPT in der Bildung umgehen?

Auf der praktischen Ebene sind es aktuell vor allem die Bildungseinrichtungen, die sich fragen müssen, wie sie mit den Möglichkeiten, die plötzlich zugänglich sind, umgehen wollen. Während Schulen und Universitäten sich oft noch mit den Möglichkeiten befassen, Plagiate zu erkennen, können KI-Tools wie ChatGPT längst Texte neu kreieren, die nicht einfach ein Plagiat sind, sondern das Ergebnis von neu arrangiertem Wissen. Wer ein bisschen darin geübt ist, ChatGPT die richtigen Aufgabenstellungen zu geben, erhält verblüffende Ergebnisse, und die Versuchung ist natürlich groß, diese Texte einfach als die eigenen aus- und abzugeben. Vielleicht auch aus dem etwas beschämenden Gefühl heraus, dass ein eigener Text schwerlich besser wäre, als der von ChatGPT verfasste.

Die Diskussion ist nicht ganz neu, schon der erstaunlich gute Übersetzungsdienst Deep L hat uns vor die Herausforderung gestellt, die Kunst des Übersetzens an eine Maschine abzugeben. Taugten die holzschnittartigen automatischen Übersetzungen von früher eher für Komiker*innen, so klingt das heute oft schon ziemlich elegant und vor allem in fast allen Fällen sinnvoll.

Um die Demütigung durch Chatbots nicht zu groß werden zu lassen, hat sich eine Art Wettstreit entwickelt, wer ChatGPT am besten hinter das Licht führen kann. So machte in sozialen Netzwerken schnell die Runde, dass die künstliche Intelligenz davon überzeugt sei, ein Kilogramm Blei wiege mehr als ein Kilogramm Federn.

Allerdings handelt es sich um ein lernendes System und so antwortet ChatGPT mittlerweile auf die Frage sachlich korrekt:

1kg Federn und 1kg Blei wiegen beide gleich viel, nämlich 1 Kilogramm. Das Gewicht oder die Masse eines Gegenstands hängt nicht von seinem Material ab, sondern von der Menge an Materie, aus der er besteht. Ein Kilogramm ist eine Maßeinheit für die Masse eines Gegenstands, unabhängig davon, aus welchem Material er besteht.

ChatGPT

Der Tagesschau Podcast 11km hat die Herausforderung an ChatGPT konkretisiert und getestet, ob das System in der Lage ist, das bayrische Abitur zu bestehen. Das Ergebnis ist für’s Erste beruhigend, der Bot scheint im Moment noch kein allzu kompetente*r Schüler*in zu sein – aber auch hier müssen wir davon ausgehen, dass sich das schon bald ändern wird. Zumal ChatGPT in diesem Experiment eingestandenermaßen eher naiv bedient wurde.

ChatGPT als Kooperationspartner

Offensichtlich retten wir unser Selbstbewusstsein also nicht dadurch, dass wir ChatGPT Fallen stellen – vor allem nicht dann, wenn wir uns darüber anschließend online auslassen. Denn so kann der Chatbot mithören und lernen. Die aktuell zugänglichen Systeme werden sich mit Sicherheit ständig verbessern, die Entwicklung steht erst am Anfang. Wir können genauso sicher davon ausgehen, dass Lernende diese Angebote, die leicht und kostenfrei nutzbar sind, auch einsetzen werden. Es wird ebenso unmöglich sein, von Chatbots verfasste Texte aus Schulen fernzuhalten wie Handys von dort zu verbannen.

Allerdings müssen wir uns die Frage stellen, wie wir mit solchen Möglichkeiten umgehen wollen, und wie wir die Ergebnisse zukünftig bewerten wollen. Es wird nicht reichen, ChatGPT mit ähnlichen Fragen zu bearbeiten, um die Resultate dann zu vergleichen und eingereichte Arbeiten, die mit Hilfe des Chatbots erstellt wurden, im Zweifel wie ein Plagiat zu behandeln. Vielmehr wird es darum gehen, Chatbots als Kooperationspartner bei der Wissensaneignung und dem Verfassen von Texten zu verstehen. Die Rolle der Bots ist klar: Sie sind mit Wissen angereicherte Systeme, die in der Lage sind, dieses Wissen neu zu arrangieren und auf konkrete Fragestellungen zu beziehen. Sie sind zusätzlich dazu fähig, einen bestimmten Stil zu kopieren und kreativ zu wirken.

Wann ist Intelligenz menschlich?

Was aber ist dann die menschliche Rolle in dieser Kooperation? Der Anspruch an die Informiertheit von Texten wird wohl steigen, schließlich ist es mit den neuen Kooperationspartnern keine große Kunst mehr, Informationen zusammenzustellen. Ganz in diesem Sinne empfiehlt Chat GPT selbst: „Verwenden Sie ChatGPT als eine Informationsquelle, um Ihr Wissen und Verständnis in einem bestimmten Thema zu erweitern.“ Die Aufgaben des menschlichen Kooperationspartners müssen wir noch genauer definieren und uns dann auch entsprechend trainieren.

Es wird zunächst nötig sein zu lernen, die richtigen Fragen zu stellen, um präzise Antworten zu erhalten, und dann braucht es menschliche Urteilskraft, um zu einem überzeugenden Ergebnis zu kommen. Das umfasst auf der praktischen Ebene den Abgleich mit vertrauenswürdigen Quellen (auch eine Empfehlung von ChatGPT). Eine fundierte Urteilskraft beruht aber nicht nur auf Faktenwissen, sondern immer auf Erfahrungen und damit auch auf sozialen und kulturellen Einflüssen und nicht zuletzt auf einer emotionalen Komponente. Ebenso wie die Nutzung von sozialen Netzwerken nur funktionieren kann, wenn wir eine entsprechende Sozialkompetenz für diese spezielle Form der Kommunikation entwickeln, müssen wir einen kritisch-kreativen Umgang mit Chatbots und anderen Formen künstlicher Intelligenz lernen.

Vielleicht ist eine der größten Herausforderungen künstlicher Intelligenz, genauer zu verstehen, was spezifisch menschliche Intelligenz ausmacht. ChatGPT zeigt, dass es sicher nicht nur um reines Faktenwissen geht, sondern viele Facetten zusammenkommen, dafür braucht es vor allem – und damit sind wir auch wieder bei Platon – den menschlichen Dialog.

#bigdata #gesellschaft #lernen