Automatisierte Hermeneutik

Für die Tagung des Forschungsschwerpunktes digitale_kultur der Fernuniversität Hagen mit dem Thema „Digitale Hermeneutik: Maschinen, Verfahren, Sinn“ 2022 wurde ein Twitter- und Mastodon¹-Bot namens HermeneuPy programmiert². Dieser Bot reagiert auf an ihn adressierte öffentliche Nachrichten mit einer durch Übersetzungsalgorithmen veränderten Version des jeweiligen Nachrichtentextes. Die Programmierung und Kontrolle des Mastodon-Bots wurde von mir übernommen.

Dieser Text nähert sich der Thematik meiner Promotion aus einem anderen Blickwinkel. Einerseits hat er mir ermöglicht, mich intensiv mit Alberto Romeles Konzeption artifizieller Kreativität auseinanderzusetzen, andererseits konnte ich mir einen Überblick darüber verschaffen, wie sich verschiedene Hermeneutik-Konzeptionen darauf auswirken, ob KI-Algorithmen Dinge erschaffen können, die ‚Bedeutung‘ haben können – also einer Deutung unterzogen werden können. Der Text entstand als Reflexion auf das Projekt und wurde als Prüfungsleistung an der Fernuniversität Hagen eingereicht.

Aufbau⌗

Ich werde hier der Frage nachgehen, ob und inwiefern diese automatisierte Textbearbeitung mit Hermeneutik in Verbindung gebracht werden kann. Dafür werde ich zunächst den technischen Aufbau und die Funktionsweise des Bots darlegen, dann den Begriff der Hermeneutik genauer betrachten und schließlich die sich daraus ergebenden Betrachtungsweisen auf den Bot anwenden. Dies wird aus zwei Blickwinkeln passieren: Einerseits werde ich erörtern, inwiefern Hermeneutik einen Zugang zu den Ergebnissen des Projektes gibt, andererseits werde ich Möglichkeiten darlegen, inwiefern der Bot selbst als Hermeneutik betreibend angesehen werden könnte.

Projektbeschreibung⌗

In einer Arbeitsgruppe, die größtenteils aus Studierenden des Moduls Digital Humanities zusammengesetzt war, wurde ein Social-Media-Bot entworfen und programmiert. Dieser Bot reagiert auf öffentliche Nachrichten, die ihm auf dem jeweiligen Medium zugesandt werden, indem er sie automatisiert in eine Reihe von Sprachen und schließlich in die Ausgangssprache zurück übersetzt und die ursprüngliche Nachricht mit dieser neuen Version beantwortet.

Die Konzeption und Funktionsweise wurde in der Arbeitsgruppe gemeinsam entwickelt; so wurde diskutiert, auf welche Art von Nachrichten der Bot reagieren soll, ob er ohne äußeren Anlass auch eigene Texte veröffentlichen soll und inwiefern das Urheberrecht zu beachten ist. Die Frage nach den Sprachrouten wurde besonders intensiv diskutiert: Inwiefern kann den Übersetzungen eine Bedeutung gegeben werden, indem die Übersetzung einer bestimmten Route folgt? Welche Routen bieten sich dafür an? Dies war auch abhängig von den Sprachen, die das Übersetzungsmodul beinhaltet hat. Die Entscheidung fiel auf zehn Routen, die sich teils auf den Biografien von berühmten Persönlichkeiten wie Josephine Baker oder Walter Benjamin, teils auf aktuelle Fluchtrouten in die EU, teils aber auch auf kulturelle Entwicklungen wie die Geschichte der abendländischen Philosophie oder die Gewinner*innen des European Song Contest der letzten 10 Jahre bezogen.

Für die Programmierung des Mastodon-Bots konnte auf zwei externe Bibliotheken³ zurückgegriffen werden: die Bibliothek deep-translator⁴ und die Bibliothek Mastodon.py⁵. Erstere stellt die Übersetzungsfunktionalität bereit, indem sie verschiedene Internet-Dienste zur Übersetzung einbinden kann. Im vorliegenden Fall wurde der Übersetzungsdienst von Google verwendet, weil dieser eine große Anzahl von Sprachen anbietet und kostenlos verfügbar ist.

Die Bibliothek Mastodon.py ermöglicht die Verbindung zum Mastodon-Server, auf dem der Account des Bots die jeweiligen Texte veröffentlicht⁶. Der Code des Bots wird einmal pro Minute ausgeführt. Dort wird überprüft, ob ein anderer Account den Handle des Bots (eine Art Adresse) in einem Post erwähnt hat. Diese Posts werden heruntergeladen und übersetzt; der Ergebnistext wird mit Mastodon.py hochgeladen und als Antwort auf den ursprünglichen Text veröffentlicht. An diesen Post wird zusätzlich ein weiterer, vorformulierter Post angehängt, der den Sprachweg der Übersetzungen erklärt.

Die Routen haben starke Auswirkungen auf den generierten Text: Unabhängig vom tatsächlichen Wortschatz und von der tatsächlichen Genauigkeit der jeweiligen Zielsprache jeder einzelnen Übersetzung kann das Modell, das der Übersetzungsalgorithmus von der Sprache hat, sehr klein und ungenau sein. Dies ist der Fall, wenn das Korpus, mit dem der Algorithmus trainiert wurde, klein oder fehlerhaft war, wenn also wenige Beispiel-Übersetzungen verwendet werden konnten. Unter diesen Umständen wird auch die Übersetzung ungenau sein; die Bedeutung verschiebt sich – teils auf amüsante Weise. Wenn mehrere solche Übersetzungen aneinandergereiht werden, kann sich die Bedeutung demnach stark verändern, so wird, mit einer Sprachroute über mehrere kleine Sprachen, aus „Das ist ein bisschen wenig, ich muss schon sagen." ein Text, der als Konter gelesen werden kann: „Es ist ein bisschen zu viel, würde ich sagen."⁷. Aber auch bei hochwertigen Übersetzungen entspricht das Ergebnis der Übersetzungsreihe nur sehr selten dem Ursprungstext.

Nachdem der Aufbau und die Funktionsweise des Bots dargelegt wurden, wird nun der Blick auf den Inhalt und den kulturwissenschaftlichen Hintergrund des Projektes gelenkt. Hier soll diskutiert werden, inwiefern HermeneuPy als Objekt von Hermeneutik zu fassen sein könnte, dann sollen Möglichkeiten betrachtet werden, wie der Bot als Subjekt von Hermeneutik gesehen werden kann. Doch bevor dies geschehen kann, sollte zunächst der Begriff der Hermeneutik genauer untersucht werden, was hier sehr knapp anhand von zwei Unterscheidungen geschehen soll.

Der Begriff ‚Hermeneutik'⌗

Zunächst kann Hermeneutik als Methodenlehre zur Auslegung von Texten unterschieden werden von philosophischen Hermeneutiken, „die Aspekte der menschlichen Welt- und Selbsterfahrung behandeln"⁸. Hermeneutik im ersteren Sinne reicht bis in die Antike zurück und wurde prominent unter anderem von Schleiermacher beschrieben; die philosophische Spielart ist eine neuere Entwicklung⁹, die vor allem mit dem Werk Gadamers verbunden wird.¹⁰

Die zweite Unterscheidung betrifft den Vorgang, der durch ‚Hermeneutik' beschrieben wird: Die altgriechische Wurzel wird mit “ausdrücken”, “auslegen” und “übersetzen” wiedergegeben¹¹. Zu diesen Übersetzungen tritt beim Begriff Hermeneutik im zwanzigsten Jahrhundert noch der Begriff “Verstehen”, eng verbunden mit der Erklären/Verstehen-Trennung Diltheys¹².

Eine Unterschiedlichkeit fällt auf: Die ersten drei Begriffe sind Tätigkeiten, bei denen ein Produkt hergestellt wird; beispielsweise eine Übersetzung, die anderen einen fremdsprachlichen Text zugänglich machen kann, oder eine Auslegung, die anderen das Verständnis eines Textes ermöglicht. In diesen Beispielen wird auf der Basis eines Textes ein weiterer Text hergestellt, der sich auf ersteren bezieht. Beim Verstehen hingegen liegt kein derart materielles Produkt vor: Es ist eine Tätigkeit, die eine Person – zumindest zunächst – für sich selbst ausführt: Verstehe ich einen Text, so muss das nach außen kein wahrnehmbares Ergebnis erzeugen; ich kann ihn zwar danach erklären oder auslegen, dies ist jedoch eine weitere, vom Verstehen unterschiedene Tätigkeit. Nun ließe sich einwenden, dass für eine Auslegung zunächst ein Verstehen notwendig ist – aber genau dieser Einwand basiert auf einer Trennung zwischen der Auslegungstätigkeit und einem vorhergehenden Verstehen.

Beide Begriffsfelder beschreiben eher die Herangehensweise an Texte, wären also in der ersten genannten Unterscheidung den Methodenlehren zuzuordnen. Dennoch lässt sich feststellen, dass das Begriffsfeld ‚Verstehen’ den philosophischen Hermeneutiken näher ist als jenes der Auslegung und Übersetzung.

HermeneuPy als Objekt von Hermeneutik⌗

Nun zur ersten der zentralen Fragen: inwiefern kann HermeneuPy Objekt von Hermeneutik sein? Diese Frage ist mit Absicht sehr vage, denn sie vereint mehrere Fragen: Wie kann das Kunstwerk ‚HermeneuPy’ gedeutet werden? Wie können die Posts gedeutet werden, die wir mit dem Werkzeug HermeneuPy schreiben? Wie können die Posts gedeutet werden, die HermeneuPy schreibt? Welche Hermeneutik-Konzeptionen könnten für die Betrachtung des HermeneuPy-Projekts fruchtbar gemacht werden?

In den ersten drei Fragen scheint bereits die zentrale Unklarheit des Projektes durch: Um zu entscheiden, welche dieser Fragen die hier ausschlaggebende ist, muss entschieden werden, wer hier Künstler*in und was das Werk ist. Die erste Frage geht davon aus, dass die Arbeitsgruppe um Helmut Hofbauer – oder auch die Verfasser*innen der Ausgangsnachrichten – als die Künstler*innen/Autor*innen betrachtet werden und HermeneuPy das Werk ist. Die zweite Frage sieht HermeneuPy als Werkzeug, mit dem die Arbeitsgruppe die Texte der Antwort-Texte erschafft. Dies entspricht beispielsweise der Verwendung von Tools wie Photoshop, die der Benutzer*in ebenfalls große Teile der Arbeit abnehmen und dadurch sehr autonom wirken können. Die dritte Option erkennt dem Bot die Fähigkeit zu, selbst Texte zu verfassen, und ist damit sicherlich die ontologisch fragilste. Im Folgenden sollen diese Fragen nicht direkt beantwortet werden, sondern eher erörtert werden, welche dieser Fragen die ausschlaggebende ist und besonders, wie die dritte Option – HermeneuPy als Autor zu fassen – zu stützen ist.

Autorkonzeptionen⌗

Zunächst soll eine Einschränkung aus dem Denken Diltheys genommen werden: Für ihn ist dem Verstehen nur dasjenige zugänglich, was vom Menschen gemacht wird¹³. Neben dem Verstehen ist ‚Nacherleben’ ein wichtiger Begriff in seiner Konzeption: Im Verstehen, in der hermeneutischen Tätigkeit, wird ein “Erlebniszusammenhang”¹⁴ nachvollzogen. Da HermeneuPy kein Mensch ist, sind die durch ihn erstellten Texte nur dann in Diltheys Sinne hermeneutisch zugänglich, wenn man die Arbeitsgruppe und nicht HermeneuPy selbst als Autor*innen fasst.

Dem kann jedoch eine andere Hermeneutik-Konzeption entgegengehalten werden: Für Schleiermacher ist das Ziel der Hermeneutik, “die Rede zuerst eben so gut und dann besser zu verstehen als ihr Urheber”¹⁵. Dieses ‚Besserverstehen’ könnte ausgelegt werden als eine Verselbstständigung des Werks gegenüber dem Autor (natürlich in deutlich geringerem Maße als es im zwanzigsten Jahrhundert geschehen ist), die die Hermeneutik aus den engen Grenzen der reinen Autorintention entlässt und uns damit ermöglicht, auch beim Fehlen einer Autorintention auf dem Wege der Hermeneutik Sinn in den Werken zu finden. Dies hieße jedoch, Schleiermacher ‚gegen den Strich’ zu lesen, denn für ihn ist die Person des Autors dennoch bedeutend¹⁶. Sich darüber hinwegzusetzen und HermeneuPys Texte dennoch im Sinne von Schleiermacher hermeneutisch zu analysieren, hieße, zu versuchen, Schleiermachers Denken besser zu verstehen, als er selbst. Besonders die Tatsache, dass Schleiermacher – genau wie Dilthey – die Möglichkeiten von Computertechnologie nicht erahnen konnte, könnte dazu ermutigen.

Artifizielle Kreativität bei Romele⌗

Diese Position dennoch zu verteidigen hilft Alberto Romele, der in seiner Monographie Digital Hermeneutics¹⁷ die Möglichkeit von Kreativität künstlicher Akteure verteidigt sowie menschliche Kreativität mehr als Zusammensetzen von bereits Vorhandenem und weniger als Creatio Ex Nihilo darlegt. Er kommt zum Schluss, dass sich die menschliche Kreativität nicht sehr stark von der der Maschinen unterscheidet – dass also die beiden Arten Kreativität zumindest vergleichbar seien.

Um Algorithmen diese Eigenschaft zusprechen zu können, muss er begründen, warum diese mehr als bloß Werkzeuge seien und dass menschliche und maschinelle Kreativität nicht so stark voneinander zu unterscheiden sind, wie es üblicherweise getan wird. Er beruft sich dabei auf Floridi und Sanders, die das Vorliegen von menschlicher und künstlicher Autonomie für vom jeweiligen Abstraktionsniveau abhängig konzipieren. So sei auf dem höchsten Abstraktionsniveau auch beim Menschen keine echte Kreativität oder Autonomie vorhanden¹⁸; erst wenn das Niveau etwas gesenkt wird, erscheint der Mensch als autonom¹⁹. Auch Maschinen erscheinen auf dem höchsten Abstraktionsniveau nicht als autonom oder als Person. Das Niveau, auf dem sie dies dann tun könnten, sei zwar niedriger als das des Menschen, aber letztlich ist dies ein gradueller und kein absoluter Unterschied zum Menschen. Mit dieser Argumentation schränkt Romele also menschliche Kreativität ein und wertet artifizielle Kreativität auf.

Romele zitiert das Beispiel eines Algorithmus, der ein Spiel zu spielen lernt. Auf der Abstraktionsebene eines Tourniers, also eines mehrfach wiederholten Spiels, zeige der Algorithmus eine Art “agenthood”:

At this specific LoA [Level of Abstraction, D.K.], machine learning algorithms are not passive recording systems, nor do they seem to have a preprogrammed capacity of combination and recombination. Rather, they show an emerging adaptability, an emerging capacity of creative synthetization of the heterogeneous or what I have called emagination.²⁰

Diese Fähigkeit lasse sich in vielen Computerprogrammen beobachten; Romele gibt als weiteres Beispiel einen automatisch generierten Jahresrückblick an, bei dem die Lesenden wahrscheinlich “the impression of an authentic emplotment”²¹ haben würden. Zwar betont er, dass diese ‚emagination’ nur eine “emergent property of recording and preprogrammed configuration/reconfiguration”²² sei, er folgt aber Floridi und Sanders dabei, dies auch in gewisser Weise für menschliche Einbildungskraft anzunehmen. Einen größer werdenden Unterschied zwischen den beiden Arten von Einbildungskraft sieht Romele in der “quantification and complexification”²³, die dazu führt, dass die ‚emagination’ die menschliche Einbildungskraft in gewisser Weise in Schatten stellt.

Um die Einmaligkeit menschlicher Einbildungskraft einzuschränken und sie damit artifizieller Einbildungskraft und Kreativität weiter anzunähern, bezieht sich Romele auf die Begriffe ‚engineer’ und ‚bricoleur’ bei de Certeau und Lévi-Strauss. Ein ‚engineer’ schafft nach einem Plan etwas Neues, ein ‚bricoleur’ baut, ohne vorgehende Planung, vorliegende Teile zusammen.²⁴ Romele argumentiert, menschliche Kreativität in Wissenschaft und Kunst ähnele dem Herangehen des ‚bricoleur’; sie sei

a matter of ­reconfiguring—that is, synthetizing, narrativizing or schematizing differently—the already-existing elements, and eventually of adding a few new blocks of knowledge, practice or products.²⁵

Genau dies geschehe bei computergenerierten Inhalten ebenso.

Diese beiden Bewegungen – einerseits die Stellung der artifiziellen Kreativität zu stärken, andererseits die der menschlichen Kreativität zu schwächen – stützen Romeles These, dass zwischen den beiden Formen von Kreativität kein so großer Unterschied zu finden sei, dass man nicht von artifizieller Kreativität oder Einbildungskraft sprechen könne. Folgt man Romele hier, könnte man auch HermeneuPy Kreativität zusprechen.

HermeneuPy als Subjekt in der Hermeneutik⌗

Kommen wir schließlich zur Option, HermeneuPy nicht als Objekt der Hermeneutik zu betrachten, sondern als Subjekt, als diejenige Entität, die Hermeneutik betreibt. Die zentrale Frage ist in diesem Falle, ob dies nur Personen möglich ist und inwieweit HermeneuPy für diese Zwecke als eine Art Person (oder als eine einige Funktionen von Personen erfüllende Entität) betrachtet werden kann.

Um die oben als ‚herstellende’ bezeichneten Tätigkeiten durchzuführen, ist nicht unbedingt eine Person notwendig. Falls zum Gelingen dieser Tätigkeiten das Vorliegen des hergestellten Produktes ausreicht – und eben nicht eine Herstellungs-Handlung durch eine Person verlangt wird – können hier einfach seine Antwortnachrichten betrachtet werden: Lassen sie sich als ‚Auslegung’ oder ‚Erklärung’ der Ursprungstexte verstehen? Es ist klar, dass das, was HermeneuPy antwortet, selten eine gute Auslegung oder eine erhellende Erklärung sein wird. Dennoch lassen sie sich als Texte betrachten, die den ursprünglichen Sinn der Texte in anderen Worten wiederholen oder zu wiederholen versuchen.

Zu diesen ‚herstellenden’ Tätigkeiten wurde oben auch das Übersetzen gezählt. Einerseits wäre es sehr leicht, darauf zu pochen, dass dies die eigentliche Funktionsweise von HermeneuPy ist; andererseits werden Übersetzungen von einer Sprache in eine andere selten als Beispiele für Hermeneutik gezählt. Aus diesem Grund erscheint es sinnvoll, eher eine Auslegung oder Erklärung von HermeneuPy zu fordern, als sich mit den automatisierten Übersetzungen zufriedenzugeben.

Wird der Hermeneutik-Begriff enger am Begriff des Verstehens orientiert, ist die Argumentation schwieriger. Hier müsste HermeneuPy ein Innenleben unterstellt werden, was schwer zu halten ist, zumal der Blick in den Programmcode nicht die Spur von einem Geist finden lässt – alles ist Dressur.

Aber andererseits lässt sich die Frage stellen, inwieweit auch der Mensch in seiner Kreativität nur zusammenleimt, was andere produziert haben. Dies entspricht der Argumentation Alberto Romeles, die oben nachgezeichnet wurde. Dort wurde erörtert, ob HermeneuPy als kreativer Autor von Texten, die der Hermeneutik zugänglich sind, gesehen werden kann. Hier hingegen ist die Frage geringfügig anders: Sind die Texte, die HermeneuPy schreibt, selbst Hermeneutik? Wenn wir ‚Verstehen’ für das Betreiben von Hermeneutik voraussetzen: ‚Versteht’ HermeneuPy die Texte – in einem Sinne, der für den jeweiligen Begriff von Hermeneutik ausreichend ist?

Dennoch lässt sich auch hier eine ähnliche Argumentation wie oben eröffnen: Das Abstraktionsniveau, das angenommen werden muss, um Menschen ein „Verstehen" zuzusprechen, wäre zwar weit, aber dennoch graduell und nicht qualitativ, entfernt von demjenigen, das angenommen werden muss, um HermeneuPy ein „Verstehen" zuzusprechen. Die Frage, ob so eine Argumentation plausibel ist, ist letztlich eine philosophische und öffnet damit die Perspektive sowohl auf die philosophische Hermeneutik als auch auf die Frage nach dem ontologischen Status von künstlichen Akteuren.

Wenn das, was HermeneuPy produziert, aus literatur- oder medienwissenschaftlicher Perspektive nützliche Anstöße für ein Verständnis der Ursprungstexte liefert, ließe sich der Bot zumindest als Werkzeug für Hermeneutik sehen, ähnlich wie das Programm Photoshop als Werkzeug für die Bildbearbeitung. Ob er auch selbst Hermeneutik betreibt, ist dann eine eher philosophische als literaturwissenschaftliche Frage.

Abgesehen von dem Versuch, HermeneuPy als ‚ganz normalen’ Ausführenden von Hermeneutik darzustellen, lässt sich das, was im Sourcecode des Bots passiert, mit einzelnen Aspekten der Hermeneutik vergleichen. Besonders sticht dabei der Hermeneutische Zirkel hervor, wo aus den Teilen das Ganze und aus dem Ganzen die Teile verstanden werden können.²⁶ In einer Kreisbewegung wird das Besserverstehen des einen dann zum Besserverstehen des jeweils anderen verwendet. Dies ähnelt der Funktionsweise von Übersetzungsalgorithmen, die die Übersetzung einzelner Wörter am Zusammenhang mit den umgebenden Wörtern festmacht; ein Vorgang, der als Hermeneutischer Zirkel verstanden werden könnte. Hier geht der Bot also den Zirkel, der eigentlich von den Menschen gegangen werden sollte, die versuchen, einen Text zu verstehen. Auch die Reihe der Übersetzungen ist eine Kreisbewegung, die in der Sprache endet, in der sie begonnen hat. Wo jedoch der hermeneutische Zirkel im Optimalfall eine Annäherung an einen zentralen Textsinn darstellt, ist der Kreis, den HermeneuPy geht, eher eine Spirale nach außen: Mit jeder Übersetzung wird die Ursprungsnachricht etwas verfälscht und entfernt sich tendenziell von einem Sinn, den der*die Autor*in dieser gegeben hat.

Fazit und Ausblick⌗

In Abschnitt 4.2{reference-type=“ref” reference=“romele1”} wurde bereits auf Romeles Konzeption künstlicher Kreativität verwiesen. Dort wurde sie verwendet, um die These zu stützen, dass HermeneuPy, als Autor, Texte verfassen kann, die einer hermeneutischen Herangehensweise zugänglich sind. Auch dort ist aufgefallen, dass dieser Standpunkt fragil ist. Dennoch war er etwas leichter zu verteidigen, da je nach Hermeneutik-Konzept ein personaler Autor nicht unbedingt notwendig war.

Im letzten Kapitel sollte HermeneuPy hingegen als Ausführender von Hermeneutik betrachtet werden; er soll sozusagen nicht nur die Rolle der Autor*innen übernehmen, sondern auch die der Literaturwissenschaftler*innen.

In beiden Fällen ist der schwächste Punkt der Argumentation jeweils die Definition von Hermeneutik, die oft einen Menschen mit einem geistigen Innenleben verlangt – und an genau dieser Stelle zeigt sich, dass HermeneuPy ein Kind seiner Zeit ist, eine Zeit nach dem Tod des Autors, die neben den literaturwissenschaftlichen Hermeneutiken weitere Herangehensweisen an Literatur zu bieten hat.