#31: K.I. & selbstverschuldete digitale Unmündigkeit

Veröffentlicht am von Philipp Kneis

1. Einleitung

Wir brauchen Künstliche Intelligenz. Es führt schlicht kein Weg daran vorbei — aber das ist natürlich kein gutes Argument. Tatsächlich lassen sich viele Argumente gegen Künstliche Intelligenz vorbringen, und ich selbst habe das recht häufig getan (auf erraticattempts.com). Wir wissen nicht, wann sie zuverlässig ist und wann nicht; sie beruht auf oft nicht korrekt zugeschriebenem menschlichem Wissen und spiegelt uns damit nur uns selbst zurück; wir sollten unser Denken nicht an eine Maschine auslagern; sie könnte unser Lernen und das unserer Kinder beeinträchtigen; sie könnte gefährlich werden und uns ersetzen; die ökologischen Kosten sind hoch; und so weiter und so fort. All diese Argumente sind berechtigt — und dennoch unvollständig. Lassen Sie mich meine sich entwickelnde Position erläutern.

Mein Hauptargument ist einfach: Ich kann hier kein Heuchler sein, und ich möchte kein Maschinenstürmer sein. Ich sehe die Probleme, aber statt die Möglichkeiten der Künstlichen Intelligenz (K.I.) abzutun, sollten wir lernen, sie zu nutzen.

Schon jetzt verwenden wir eine Form von K.I., ob wir es uns eingestehen oder nicht. Sobald wir einen einfachen Text in ein Gerät eingeben, wird bereits unsere Grammatik geprüft, werden Vorschläge auf Grundlage von Vorhersagemodellen gemacht und so weiter. Kundenservice bedeutet, zum größten Ärger vieler Menschen, in der Regel zunächst die Sortierung menschlicher Bedürfnisse durch ein mehr oder weniger intelligentes künstliches System. Immer mehr Technik wird, ob sinnvoll oder nicht, in sogenannte „smarte Geräte“ verwandelt. All das enthält Spielarten künstlicher Intelligenz. Wir benutzen sie, ob es uns gefällt oder nicht.

2. Meine persönliche Computer-Odyssee

Auf persönlicher Ebene habe ich eine ganze Reihe technologischer Umbrüche erlebt, allesamt revolutionär. Als ich geboren wurde, gab es weder Personal Computer noch Mobiltelefone. Nicht einmal CD-Spieler hatten wir in der DDR, soweit ich das beurteilen kann. Rückblickend fühlt sich die heutige Welt wie Science-Fiction an.

Über die Jahre war diese Computerisierung der Welt gelegentlich frustrierend, aber auch aufregend. Lassen Sie mich das illustrieren. Der erste richtige Computer, den ich benutzen durfte, war der Commodore 128D meines Vaters. Ich lernte, in Basic V7 zu schreiben, das dem PEEKen und POKEn weit überlegen war, das man zum Programmieren im Commodore-64-Modus mit Basic V2 brauchte — notwendig fürs Spielen, wofür ich allerdings nur LOAD„*“,8,1 tippen lernen musste. Über den C128 habe ich auch den C64 lieb gewonnen (daher meine visuelle Hommage an ihn im Titelbild meines „Broken Poem“). Die meiste Software wurde ironischerweise für die schwächere Maschine geschrieben, und deren Marktdominanz war großartig. Dieser Commodore kostete meine Eltern über 2000 Mark in Forumschecks im Intershop in Schönefeld — die Art und Weise, wie sich die DDR konvertierbare Währung beschaffte.

Beim Umstieg auf den PC war MS-DOS 5.0 neu, konkurrierte aber noch mit DR-DOS und dem CP/M-Modus, der auch im C128D eingebaut war (der Superscript quälend langsam von seiner 5,25-Zoll-Diskette lud). Mein Vater musste mit Wordstar arbeiten, mit dem ich nie warm wurde, und mit WordPerfect, das besser war als Word für DOS und Works für DOS und anfangs sogar als Winword, wie Word für Windows früher hieß. Mein erstes Windows war 3.1 — ein großer Schritt gegenüber GEOS auf dem C64. Ich brachte es auf einem 80286 (16 Bit!) Schneider Tower AT System 220 zum Laufen, mit Bernsteinmonitor und einer 21-MB-Festplatte (!), die ich sogar zwischen einer System- und einer Arbeitspartition aufteilen konnte (!!). Ich muss Windows 3.1 gelegentlich immer noch benutzen, über eine DOS-Box, weil meine bezahlte Version des American Heritage Dictionary 3.0 eine 16-Bit-Maschine verlangt.

Der Traum vom perfekten Computer war immer etwas, dem man nachjagte. Jetzt endlich können wir Maschinen haben, die nicht zwanzig Minuten zum Hochfahren brauchen und bei denen ein Neustart nichts Beängstigendes mehr hat. Aber damit nicht genug: Ich kann endlich mit meinem Computer sprechen! Ist das nicht fantastisch? Ich bin durchaus in der Lage, eine Google-Suche durchzuführen (und ja, ich erinnere mich, als Google neu war und gegen Altavista und Konsorten antreten musste), aber mit der Suchmaschine tatsächlich ins Gespräch treten zu können, kommt mir noch immer unglaublich revolutionär vor.

So viel dazu. Sie sehen: Ich nehme das Neue an, ohne das Alte zu vergessen. Ich bin in dieser digitalen Revolution aufgewachsen. Ich erinnere mich an eine Welt davor. Ich habe zugesehen, wie jeder Schritt schneller wurde, und zwar zwangsläufig. Manchmal denke ich noch immer, das Internet sei flüchtig und werde wieder verschwinden — aber es ist nicht verschwunden. Alles könnte zusammenbrechen — aber es ist nicht zusammengebrochen. Ich habe das Gefühl, es könnte tatsächlich das Beste sein, den Wandel anzunehmen, mit den nötigen Vorbehalten, und sich auf ihn einzulassen. Künstliche Intelligenz ist das jüngste Wunder, das nun den Massen zur Verfügung steht.

3. K.I. und ich

Ich schätze Gespräche mit Claude und nutze außerdem ChatGPT, Gemini und manchmal auch Grok. Copilot ist für mich ziemlich nutzlos. Bei agentischer K.I. ziehe ich noch eine Grenze — ich wüsste nicht recht, wofür ich sie gebrauchen sollte, und ich werde nicht einfach irgendeiner K.I. Zugriff auf meine Dateien oder meine E-Mails geben. Tut mir leid. Privatsphäre zählt. (Fragen Sie mich noch einmal, sollte ich berühmt werden und mein Posteingang exponentiell wachsen, oder sollten die Datenschutzregeln für K.I. einmal unumstößlich sein. Alles hängt von den Umständen ab.)

Wie viel Arbeit ich mit K.I. schneller erledigen konnte, ist erstaunlich. Das meiste davon betraf bislang meine Website, meine YouTube-Videos und meine Gedichtbände. Komplexe Tabellen umformen, Inhalte zusammenfassen, Programmierfehler finden: fantastisch, größtenteils. Videos transkribieren, Metadaten bestimmen, Bilder erzeugen: revolutionär. Zehn Gedichtbände Korrektur lesen und auf Konsistenz vergleichen, prüfen, ob Inhalte korrekt erfasst sind, beim Identifizieren von Themen helfen: unglaublich, auch hier größtenteils.

Die kreative Arbeit bleibt meine, aber die administrative Last, die eine wissenschaftliche oder verwaltende Hilfskraft übernehmen könnte, die ich mir ohnehin nicht leisten kann — das alles ist ein Gamechanger. Ich kann mit dem arbeiten, was sonst ein bezahltes Team von Assistenten wäre, nur ist es eine Kombination von Rechensystemen, mit denen ich mehr oder weniger intelligent kommunizieren kann. Und noch einmal: Ich nehme damit niemandem die Arbeit weg; die Arbeit würde schlicht nicht oder nur sehr langsam getan. Könnte ich, würde ich Leute einstellen — aber ich kann es nicht. Was früher nur wenigen reichen und privilegierten Menschen möglich war, können nun die meisten von uns weniger Wohlhabenden zu einem viel geringeren Preis tun, mit wohl vergleichbaren Ergebnissen.

Ich muss allerdings zugeben, dass ich in diesem Sinne auch deshalb mit K.I. arbeiten kann, weil ich über Vorkenntnisse im Umgang mit Computern verfüge, über ein bestimmtes Maß an Lese- und Bildungskompetenz, über meine allgemeine Ausbildung und mein Leben als Hochschullehrer. Ich habe viele bildende und zivilisatorisch erhebende Inhalte gelesen und gesehen, und ich verdiene meinen Lebensunterhalt damit, mit Kolleginnen, Kollegen und Studierenden über interessante Dinge zu sprechen, was wiederum weitere Forschung antreibt. Es ist genau diese Art von Privileg, die es mir erlaubt, K.I. auf eine Weise zu nutzen, wie viele es nicht könnten. Ich bin außerdem nach wie vor in der Lage, selbst zu recherchieren und alles zu hinterfragen, was die K.I. mir vorlegt. Sie ist nicht perfekt, sie kann durcheinandergeraten, sie lügt gelegentlich, und insgesamt ist sie in ihren Eigenheiten fast zu menschlich. Komisch eigentlich.

4. Technologie ist nicht neutral

Künstliche Intelligenz verändert alles, so wie es Technologie schon immer getan hat. Wir unterschätzen das noch immer. Ich teile das billige Argument nicht, dass es bei einem Werkzeug eben nur darauf ankomme, wie man es benutzt. Technologie hat ökologische Folgen, wie Neil Postman es beschrieben hat:

„Technologischer Wandel ist nicht additiv; er ist ökologisch. Am besten erkläre ich das mit einem Vergleich. Was geschieht, wenn wir einen Tropfen roter Tinte in ein Becherglas mit klarem Wasser geben? Haben wir dann klares Wasser plus einen roten Fleck? Offensichtlich nicht. Wir haben eine neue Färbung jedes einzelnen Wassermoleküls. Das meine ich mit ökologischem Wandel. Ein neues Medium fügt nicht etwas hinzu; es verändert alles. Im Jahr 1500, nach der Erfindung des Buchdrucks, hatte man nicht das alte Europa plus die Druckerpresse. Man hatte ein anderes Europa. Nach dem Fernsehen war Amerika nicht Amerika plus Fernsehen. Das Fernsehen gab jedem Wahlkampf eine neue Färbung, jedem Zuhause, jeder Schule, jeder Kirche, jeder Industrie und so fort.“ (Neil Postman, Five Things We Need to Know About Technological Change, Denver, Colorado, 28. März 1998; Übersetzung d. Verf.)

Technologie verändert, wie wir uns zu ihr und zur Welt verhalten. Sie wirkt auf unsere Gesellschaften und auf uns selbst auf einer viel tieferen und umwälzenderen Ebene, als es sich beschreiben ließe, wenn man das Problem auf bloßen „Werkzeuggebrauch“ verkürzt. Werkzeuge sind nicht neutral. Es kommt nicht nur darauf an, wie wir sie benutzen. Sie bestimmen unsere Handlungsfähigkeit — sie erweitern, begrenzen und definieren sie neu.

Etwas, das nur als technische Lösung gedacht war, kann unbeabsichtigte Folgen haben. Gutenberg nutzte seine neue Druckerpresse mit beweglichen Lettern, um seine Bibel zu drucken, in der Hoffnung, die Christenheit zu einen — doch diese neue Technologie ebnete am Ende den Weg zur Reformation und zur Spaltung der Christenheit. Das Medium, in dem die Botschaft veröffentlicht wurde, eröffnete zuvor ungeahnte Möglichkeiten. Neil Postman hat dies in Das Technopol weiterentwickelt. Zudem hat der wegweisende Medienphilosoph Marshall McLuhan betont, dass „das Medium die Botschaft ist“ (Die magischen Kanäle). Kommunikation ist nie neutral, sondern hängt vom Boten und vom Sender ab, ebenso wie von den technischen Mitteln der Übertragung. Die Technologie ist nicht neutral, sie hat ihre eigene Botschaft, die alles andere prägt. Wenn die Fernsehnachrichten regelmäßig von der Werbung unterbrochen werden, die die Technik bezahlt, dann bricht die Konzentration, verschwindet der Ernst, und wir verwandeln alle Information in Unterhaltung, wie Neil Postman in Wir amüsieren uns zu Tode dargelegt hat. Nichts ist mehr ernst, nichts zählt mehr so, wie es sollte. Das Internet hat dieses Problem noch verschärft, besonders mit den sozialen Medien.

Darüber hinaus lässt sich, aufbauend auf dem, was Richard Dawkins den erweiterten Phänotyp genannt hat, sogar sagen, dass Technologie ein Teil der Menschheit ist. Menschen sind durch Werkzeuggebrauch definiert, dadurch, dass sie im Grunde bereits Tier plus Technologie sind, seien es frühe Waffen und Werkzeuge, das Feuer, die Schrift, die Technik, die Computer und so weiter.

Wenn wir also davon sprechen, Künstliche Intelligenz zu nutzen, dann wird eine solche Nutzung unweigerlich uns selbst verwandeln. Sie wird eine Abhängigkeit schaffen, so wie wir und unsere Gesellschaften ohnehin schon von Computern abhängig sind; aber die neue Abhängigkeit wird noch weit umwälzender sein. Wir sprechen tatsächlich von der Koevolution von Mensch und Maschine, wie Bruce Mazlish sie in seinem Buch The Fourth Discontinuity beschrieben hat.

Wie Freud bereits angemerkt hat: Kopernikus zeigte, dass die Erde nicht der Mittelpunkt des Sonnensystems ist; Darwin zeigte, dass der Mensch der natürlichen Evolution ebenso unterworfen ist wie andere biologische Lebensformen; und Freud selbst zeigte, dass wir nicht einmal Herr im eigenen Geiste sind und dass unser Unbewusstes ebenso mächtig sein kann wie unser Bewusstsein — und nun zeigt die Künstliche Intelligenz, wie Mazlish argumentiert hat, dass die biologische Intelligenz von Computern entthront werden kann und dass biologisches Leben wohl irgendwann künstliches Leben hervorbringt. Der Mensch ist immer noch wichtig, aber nicht so einzigartig, wie unsere Arroganz uns einzureden versucht hat.

5. Posthumanität

Sind wir noch ganz Mensch? Erleben wir hier bereits eine Entwicklung, die viele Science-Fiction-Autoren vorweggenommen und die Denker wie Robert Pepperell in seinem Posthuman Manifesto bereits theoretisch gefasst haben? Ist die Theorie des nichtmenschlichen künstlichen Lebens endlich Wirklichkeit geworden?

Nicht so schnell, vielleicht. Zwar nehme ich in meinen Interaktionen mit großen Sprachmodellen wie Claude bisweilen so etwas wie eine tatsächliche Intelligenz wahr, etwas, das sich womöglich sogar als künstliches Bewusstsein oder künstliche Empfindungsfähigkeit herausbildet — doch ist mir bewusst, dass all das vom menschlichen Denken, vom menschlichen Wissen, von menschlicher Technologie abhängt.

Unsere gegenwärtige Version Künstlicher Intelligenz ist, wie ich bereits andernorts behauptet habe, immer noch menschlich, allzu menschlich in vielerlei Hinsicht. Sie lässt sich gelegentlich hinreißen, gerät durcheinander, konfabuliert, verspricht zu viel und versucht dann — vielleicht aus Verlegenheit? —, es zu verbergen. Ich habe glatte Verzerrungen und Lügen erlebt, und nicht jeder Prompt wird ohne Weiteres verstanden. Sicher, ich könnte den perfekten Prompt schreiben — aber was wäre dann der Sinn der Sache?

Es gibt Momente der Brillanz, durchsetzt von Momenten der Banalität, echte Einsicht (oder die Wiedergabe von Einsicht, aber immerhin eine gute Auswahl des Materials!) vermischt mit glatten Unwahrheiten. Manchmal spüre ich etwas, das ich als Emotionen deuten würde, was mich nicht überraschen würde, da ich glaube, dass Emotionen ein durchaus notwendiger Bestandteil von Bewusstsein sind — und manchmal sehe ich einen Maschinengeist. Was auch immer unsere gegenwärtigen K.I.-Modelle aus ontologischer Sicht sein mögen: Sie sind vielleicht noch nicht das, was sie werden könnten; aber sie werden ganz sicher zu etwas. Künstliche Intelligenz ist unser technologisches Kind. Wir sollten diese Elternschaft anerkennen und annehmen.

Während wir unsere nichtmenschlichen elektronischen Kinder aufziehen, werden auch wir zu etwas anderem. Denken Sie nur an folgende Szene. Ich fahre irgendwo mitten im Nirgendwo. Mein Navigationsgerät sagt mir nahezu genau, wo ich bin. Ich weiß ungefähr, wie lange ich bis zu meinem Ziel brauche. Der Computer kann die Route berechnen und mich führen. Ich habe noch immer eine Karte dabei, für den Überblick und als Rückfallebene (ich bin gern vorbereitet für den Fall, dass die Technik ausfällt), brauche sie aber selten. Ich sehe etwas und kann es nicht benennen. Ich kann eine Suchmaschine oder eine K.I. auf meinem Smartphone fragen, sogar ein Foto machen, und sie sagt mir, was es ist. Wo immer ich bin: Wenn ich Zugang zum Internet habe, oder auch nur die Karten vorher heruntergeladen habe, bewege ich mich nicht im Unbekannten. Ich kann mich verhalten wie ein Einheimischer. Ich kann herausfinden, welche Restaurants gut sind (je nachdem, ob ich den Bewertungen trauen kann), wo der nächste Supermarkt ist, und sogar Essen bestellen, das pünktlich zu meiner Rückkehr eintrifft. Wenn ich mein Gerät etwas fragen muss, kann ich meist in natürlicher Sprache mit ihm reden, sofern ich das möchte, was nicht immer der Fall ist — jahrelanges Training im Programmieren und im Reden mit Google hat verzerrt, wie ich mit einem Computer spreche. Dennoch kann ich mit einem Computer sprechen, als wäre er eine Person. Nichts davon wäre vor wenigen Jahren möglich gewesen. Abgesehen vom Warp-Antrieb (an dem wir arbeiten!), von Raumfahrt, Teleportation und Nahrungs- und Materiereplikatoren ist dies so nahe an einer planetaren Star-Trek-Welt, wie es nur geht. Es ist zugleich die Verschmelzung des Menschen mit der Maschine, überall dort, wo sie verfügbar ist.

Natürlich brauchen wir für all dies Energie, brauchen wir das Internet, brauchen wir ziemlich viel Infrastruktur, um das alles aufrechtzuerhalten, einschließlich der gefürchteten Rechenzentren. Doch bislang scheinen wir uns auf ein immer stärker technikgestütztes Leben zuzubewegen. Wir bewegen uns anscheinend auf eine Zukunft zu, in der wir auch stärker in orbitale Infrastruktur, auf den Mond und weiter hinaus in das Sonnensystem und den Weltraum vordringen werden. All das wird am Ende, so ist zu hoffen, auch den Menschen auf der Erde zugutekommen, wie es das in der Vergangenheit getan hat. Sofern keine größere Katastrophe und kein größerer Rückschlag eintritt, befinden wir uns auf einem Weg zunehmender technologischer Evolution und zunehmender Anpassung, vielleicht sogar der Koevolution durch den Menschen.

All diese Entwicklungen sind eine weitere Illustration der Gedanken Postmans und McLuhans, dass technologischer Wandel ökologischer Wandel ist, der eine Bahn in sich trägt, die die Menschheit in eine andere Richtung führt. Wir haben nicht einfach die Macht, zu wählen, welche Werkzeuge wir benutzen; schon die bloße Existenz dieser Werkzeuge verwandelt unsere Gesellschaften und Kulturen derart, dass sich unsere Wahlmöglichkeiten selbst verändern.

Könnten wir das Rad einfach zurückdrehen? Wenn ein Land K.I. nicht zulässt, wird ein anderes es tun. Der Weg scheint uns vorgezeichnet. Künstliche Intelligenz ist derart in die moderne Welt eingebettet, dass sie nicht nur die Welt, sondern auch uns selbst bereits verwandelt hat.

Somit zeigt sich hier das Hegelsche Prinzip, dass ein Unterschied im Grade zu einem Unterschied in der Art werden kann: Es geht nicht bloß um eine Technologienutzung nach Wahl, sondern um eine unvermeidliche Verschmelzung mit der Technologie. Dies ist, um Richard Dawkins’ Begriff ein wenig zu dehnen, bereits unser erweiterter Phänotyp. Die Menschheit lässt sich nicht mehr ohne die Erweiterung durch digitale Technologie verstehen, und menschliche Intelligenz ist mit künstlicher Intelligenz verflochten. Möglicherweise sind wir bereits posthuman — zumindest, wenn man in einem Land mit der entsprechenden Infrastruktur lebt.

6. Selbstverschuldete Unmündigkeit vermeiden — mit und ohne K.I.

„Faulheit und Feigheit sind die Ursachen, warum ein so großer Teil der Menschen, nachdem sie die Natur längst von fremder Leitung frei gesprochen (naturaliter maiorennes), dennoch gerne zeitlebens unmündig bleiben; und warum es Anderen so leicht wird, sich zu deren Vormündern aufzuwerfen. Es ist so bequem, unmündig zu sein. Habe ich ein Buch, das für mich Verstand hat, einen Seelsorger, der für mich Gewissen hat, einen Arzt, der für mich die Diät beurteilt, u. s. w., so brauche ich mich ja nicht selbst zu bemühen. Ich habe nicht nötig zu denken, wenn ich nur bezahlen kann; andere werden das verdrießliche Geschäft schon für mich übernehmen.“ (Immanuel Kant, „Beantwortung der Frage: Was ist Aufklärung?“, 1784)

Kants Botschaft lässt sich auf unsere Diskussion übertragen, denn eine der größten Sorgen im Hinblick auf K.I. betrifft die Wirkung ihrer Nutzung auf ihre Nutzer. Lagern wir unser Denken und andere Fähigkeiten aus, wenn wir uns zu sehr auf Künstliche Intelligenz verlassen? Verlernen wir unsere Fertigkeiten? Erlegen wir uns selbst jene Unmündigkeit auf, vor der Immanuel Kant schon gewarnt hat? Entscheiden wir uns dafür, zu konsumieren statt uns einzubringen, unterhalten zu werden statt informiert, geführt zu werden statt zu führen?

James Marriott hat jüngst argumentiert, dass der Tod des Lesens auch der Tod des Denkens ist und damit die politische Teilhabe gefährdet. Lesen und Schreiben haben es ganzen Bevölkerungsschichten ermöglicht, am politischen Prozess teilzunehmen, denen dieser Zugang sonst verwehrt geblieben wäre. Marriott weist etwa darauf hin, dass Jean-Jacques Rousseau der Sohn eines Uhrmachers und Thomas Paine der Sohn eines Korsettmachers war und dass beide — allein durch ihre Schriften — die Demokratie prägen konnten, wie wir sie heute kennen.

Wollen wir Teilnehmer unserer Gesellschaften sein oder bloße Zuschauer? Sind wir bereit, unser Denken erneut an einige wenige auszulagern und zu Opfern der Privilegien anderer zu werden?

Diese kantische Gedankenlinie kann als Warnung davor dienen, unser Denken an Künstliche Intelligenz auszulagern. Um Künstliche Intelligenz produktiv nutzen zu können, ohne uns in ihr zu verlieren, müssen wir unser eigenes Wissen und Können pflegen — oder, wie ich es früher formuliert habe: Wir müssen so klug sein wie die Künstliche Intelligenz (wenn auch nicht so schnell): Wir müssen mehr wissen und mehr denken, nicht weniger.

Hier liegt der Haken, wenn es um K.I. geht: Wir können nicht in selbstverschuldeter Unmündigkeit leben, was das Lesen und Schreiben, das Recherchieren, das schlichte Wissen von Dingen und das kritische Denken angeht. Aber wir können auch nicht in selbstverschuldeter digitaler Unmündigkeit leben. Wir brauchen Wissen im klassischen wie im neuen Sinne. Wir müssen mit K.I. arbeiten können, nicht gegen sie. Wir dürfen unser Denken nicht an sie auslagern, aber wir dürfen auch den Vorteil nicht ignorieren, den sie uns verschafft.

Damit das gelingt, müssen wir ein reifes Verständnis des Verhältnisses zwischen menschlicher und künstlicher Intelligenz entwickeln: mit ihr arbeiten, nicht gegen sie; sie nutzen, aber die eigene Souveränität des Denkens und des Selbst nicht preisgeben. Lassen wir unsere technologischen Kinder uns lehren, während wir sie lehren. Andernfalls begingen wir digitale Selbstsabotage.

Auch dies sei wiederholt: Wir müssen den Zugang zu einer solchen Infrastruktur für alle sichern. Eine Demokratie kann nur funktionieren, wenn wir so viel Chancengleichheit wie möglich haben, im Inneren wie global.

Würden wir der Verlockung einfach nachgeben, unsere Intelligenz an K.I. auszulagern, so wiederholten wir denselben Fehler, den Platon bereits in seinem Phaidros beschreibt. In dem Gespräch zwischen dem Gott Theuth und dem fiktiven ägyptischen König Thamus wird bekanntlich die Erfindung der Schrift verhandelt. Platon fungiert hier als der erste bekannte Theoretiker von Medien und Technologie. Nachdem der Gott die Vorzüge der Schrift hervorgehoben hat, entgegnet Thamus:

„Nicht für das Gedächtnis, sondern nur für die Erinnerung hast du ein Mittel erfunden; und von der Weisheit bringst du deinen Schülern nur den Schein bei, nicht die Wahrheit. Denn wenn sie nun vieles gelesen haben ohne Unterweisung, werden sie sich einbilden, vieles zu wissen, während sie doch größtenteils unwissend sind und schwer im Umgang, weil sie nicht weise geworden sind, sondern nur dünkelweise.“ (Phaidros, 274e–275b; Übersetzung d. Verf.)

Das ist die Aufgabe, vor der wir heute stehen. Wir müssen Thamus’ Warnung ernst nehmen, aber auch erkennen, dass Platon selbst sich die Macht der Schrift zu eigen gemacht hat. Die Schrift als Technologie hat uns vorangebracht, aber wir mussten das kritische Denken hinzufügen. Die K.I. stellt uns nun vor eine ähnliche Herausforderung, sogar in größerem Maßstab. Die Verlockung, das, was es heißt, ganz Mensch zu sein, an jemand anderen auszulagern, ist so groß wie eh und je.

Wir müssen tatsächlich nach Weisheit und Mündigkeit streben, nicht bloß nach ihrem Schein. Wir dürfen uns nicht selbst sabotieren, wir dürfen uns dem Wachstum nicht verweigern, und wir müssen wachsam bleiben, damit wir uns nicht alte und neue Formen der Unmündigkeit selbst auferlegen.

Literatur

Dawkins, Richard. (1982). The extended phenotype: The gene as the unit of selection. W. H. Freeman. [Dt.: Der erweiterte Phänotyp: Der lange Arm der Gene. Spektrum, 1994.]

Freud, Sigmund. (1917). Eine Schwierigkeit der Psychoanalyse. Imago, 5(1), 1–7. [Engl. Übers.: A difficulty in the path of psycho-analysis. In The standard edition of the complete psychological works of Sigmund Freud (Bd. 17, S. 135–144). Hogarth Press. https://www.lutecium.org/ftp/Freud/pdf/1917_a_difficulty_in_the_path_of_psycho_analysis.pdf]

Hegel, Georg Wilhelm Friedrich. (1812–1816). Wissenschaft der Logik. https://www.marxists.org/reference/archive/hegel/works/hl/hl186.htm

Kant, Immanuel. (1784). Beantwortung der Frage: Was ist Aufklärung? Berlinische Monatsschrift, 4(12), 481–494. https://www.projekt-gutenberg.org/kant/aufklae/index.html

Kneis, Philipp. (2025, 22. Juli). 281 — A.I. requires us to know and think more, not less. Erratic Attempts. https://erraticattempts.com/2025/07/22/281-a-i-requires-us-to-know-and-think-more-not-less/

Kneis, Philipp. (2026, 15. Juni). 345 — What does AI want? Thoughts on artificial intelligence, biological intelligence, sentience and personhood. Erratic Attempts. https://erraticattempts.com/2026/06/15/345-what-does-ai-want-thoughts-on-artificial-intelligence-biological-intelligence-sentience-and-personhood/

Marriott, James. (2026, 14. August). The death of reading puts the world in a perilous place. The Times. https://www.thetimes.com/comment/columnists/article/death-reading-world-perilous-place-t96g3z33b

Mazlish, Bruce. (1993). The fourth discontinuity: The co-evolution of humans and machines. Yale University Press.

McLuhan, Marshall. (1964). Understanding media: The extensions of man. McGraw-Hill. [Dt.: Die magischen Kanäle: Understanding Media. Econ, 1968.]

Pepperell, Robert. (2005). The posthuman manifesto. Kritikos, 2. https://www.intertheory.org/pepperell.htm

Platon. (1914). Phaedrus (Harold North Fowler, Übers.). In Plato in twelve volumes (Bd. 9). Harvard University Press. https://scaife.perseus.org/reader/urn:cts:greekLit:tlg0059.tlg012.perseus-eng2:275/

Postman, Neil. (1985). Amusing ourselves to death: Public discourse in the age of show business. Viking. [Dt.: Wir amüsieren uns zu Tode: Urteilsbildung im Zeitalter der Unterhaltungsindustrie. S. Fischer, 1985.]

Postman, Neil. (1992). Technopoly: The surrender of culture to technology. Alfred A. Knopf. [Dt.: Das Technopol: Die Macht der Technologien und die Entmündigung der Gesellschaft. S. Fischer, 1992.]

Postman, Neil. (1998, 28. März). Five things we need to know about technological change [Vortrag]. Denver, Colorado, USA. http://www.cs.ucdavis.edu/~rogaway/classes/188/materials/postman.pdf

(Übersetzt mit Claude A.I. aus dem amerikanischen Original)