#103 Fabian Navarro: "Die Buchbranche sollte eine der letzten sein, wo KI eingesetzt wird." [37:31]

Frieda Ahrens: 
Hallo und herzlich! Willkommen zum Literaturhaus Podcast, diesmal mit Frieda Ahrens und zu Gast in dieser Folge ist Fabian Navarro. Hallo Fabian, herzlich willkommen!

Fabian Navarro: 
Hallo, hi!

Frieda Ahrens: 
Für alle, die nicht wissen, wer du bist, erkläre ich mal allen Zuhörer:innen deinen Hintergrund. Und vielleicht kurz vorweg, wenn ihr irgendwie Bauarbeit-Geräusche hört, in Fabians Büro wird gerade ein bisschen gearbeitet. Vielleicht hört ihr's nicht, dann ist gut, aber falls ihr was hört: Nicht wundern. Also du bist Poetry Slammer und Autor - wenn ich was falsch mache unterbrich mich gerne direkt.

Fabian Navarro:
Ja, nö, bisher passt es.

Frieda Ahrens: 
Und auf deine Website steht, wenn man dem glauben kann, dass du Workshops gibst in digitaler Literatur. Und genau darum soll es in dieser Folge so ein bisschen gehen: Wie wird Literatur vom Digitalen beeinflusst und was für eine Rolle spielt KI da. Und ähm ich habe überlegt, dass wir mal ganz klein - also was heißt klein - basic anfangen. Indem du erklärst, was man eigentlich unter KI versteht, weil der Begriff ist so groß und ich glaube, er wird so oft in den Raum geworfen, ohne dass wirklich immer das gleiche gemeint wird. Vielleicht fangen wir mal an indem wir vergleichen, ob wir über das Gleiche reden. Was verstehst du unter KI?

Fabian Navarro: 
Ja, genau also ich glaube tatsächlich das KI mittlerweile ein, wie du voll sagst, so ein Umbrella-Term ist, also so ein Begriff, der ganz ganz viel einschließt und der sich auch mit der Zeit einfach gewandelt hat. Also ich glaube so in den 70er, 80er hat man eher so ganz klassische machine learning Ansätze damit gemeint und heute meint man, mittlerweile ist das ein Synonym für Large Languages Models geworden und ich glaube das ist eben ein Oberbegriff der viele Unterkategorien hat. Ich habe gerade schon machine learning quasi in den Raum geworfen, was quasi hier so die Grundlage für das heutige für die heutigen KIs quasi ist. Das ist im Grunde kann man sich das als, ja mehr oder weniger statistische Modelle eigentlich, die jetzt mit Big Data nach und nach halt immer angereichert wurden und dann gibt's da noch eine weitere Form, die deep learning heißt. Und diese Unterscheidung haben eigentlich - sind sehr sehr technische Begriffe, wo es damit zusammenhängt, ob man den Algorithmus z.B überwacht lernen lässt und quasi kontrolliert was der Input und was der Output ist oder ob man gar nicht mehr groß Einfluss drauf nimmt. Und die large languages Models sind technisch gesehen auch gar nicht so weit davon entfernt, sie haben noch eine eigene Architektur. Also ChatGPT ist ja dass die Abkürzung für generativ - wie war das - pretrained Transformer dann ist es also hat damit zu tun dass es ein vortrainiertes Modell ist was schon einen gewissen Grundstock mitnimmmt für natürliche Sprache. Und die Architektur dahinter ist halt ein bisschen komplizierter, aber im Grunde ist die technische Grundlage eigentlich immer noch das gleiche, dass man versucht zu berechnen, welches Wort kommt als nächstes. Und ich glaube das ist halt, wenn wir das z.B mit Sprache arbeitet. Wenn man mit Bildern arbeitet oder mit Video, ist es noch mal anders, weil da z.B die einzelnen Pixel ja z.B berechnet würden, das ist es auf eine technischen Ebene noch mal ein bisschen anders. Aber KI umfasst eigentlich, wenn man es grob sagt, wenn man die breite Definition nimmt, ist es, sind es: alle Maschinen, die versuchen menschliches oder menschliche Aufgaben so gut wie möglich zu imitieren und das ist glaube ich die breiteste Definition. Und wie du richtig sagst, wird damit heute aber sehr viel, ja wager umgegangen. Es ist auch kein wissenschaftlicher Begriff, also ich glaube so im in der Informatik spricht man eigentlich selten von nur KI sondern es geht dann ganz konkret entweder um Machine learning oder um deep learning oder halt um Large Language Models. Und das ist glaube ich auch eben etwas, was gerade wirtschaftliche Komponente hat, weil überall wo man jetzt KI drauf schreiben kan,n lässt sich das gut verkaufen. Und das ist auch etwas, ich muss auch sagen ein bisschen nervig, muss ich sagen, weil dadurch viele Grenzen verwischen und sehr viele Dinge in einen Topf geworfen werden, die gar nicht vielleicht in den gleichen Topf gehören. Also so das ist das gröbste, glaube ich, wie ich mich jetzt kurz fassen kann.

Frieda Ahrens: 
Ich finde dabei eigentlich immer spannend, dass es so getan wird als wäre KI so ein großes Zukunftsprojekt, wovor man auch ein bisschen Respekt hat - Angst hat vielleicht sogar - und ich finde das immer so ein bisschen witzig, weil es wird ja längst und es wurde auch schon längst benutzt. Also alles was Alex, Siri ist ist KI, und auch schon viel vorher - du hast ja gesagt: Es ist ein super breiter Begriff. Warum denkst du hat dieser Begriff so ein - was sage ich - so ein dystopischen, negativen Touch?

Fabian Navarro: 
Ja, also ich glaube, du hast das richtige Wort schon benutzt: Wegen der Dystopien. Es ist ein ganz also ein ganz natürlicher Prozess, glaube ich, dass die Leut,e die früher - in den ja vielleicht 70er, 80ern - die Science Fiction Romane gelesen haben, die waren davon so begeistert - sind größtenteils auch leider nur Männer - die dann halt in die Techindustrie gegangen sind und dann angefangen haben, versucht haben, das nachzubauen was sie aus Science Fiction Film kannten. Also KIs, die aber auch halt extrem dystopisch sind. Und es gibt das tolle Meme, wo es heißt, wo ein Science Fiction Auto sagt “oh this is my new novel `the torment nexus`, als der Folter Nexus, bitte baut den nicht nach” und dann kommt eine Techfirma sagt und “Oh we created the torment nexus from the novel `Please dont create the torment nexus`” Es ist eigentlich genau das, was jetzt gerade passiert, dass jetzt versucht wird, KI so zu bauen, wie man sie aus Science Fiction kennt. Und dass quasi die Science Fiction ein wenig der Technik so vorausgeht und auch die Vorstellung prägt, wie diese Technik auszusehen hat. Und das ist, glaube ich, auch ein großes Problem, weil die Technik an sich, die jetzt auch so viel Sorgen zurecht bereitet, müsste nicht so gebaut werden wie sie gebaut wird. Weil das ist auch eine sehr sehr nützliche Technologie sein könnte, wenn sie halt nicht gebaut werden würde, um einfach Kapitalinteressen quasi zu fördern und nicht irgendwie einem Gemeinwohl so zu dienen. Und das ist genau das, was in Dystopien auch passiert: Also das halt eine KI entwickelt wird, die vielleicht am Anfang mehr oder weniger gute Ziele hat - meinetwegen irgendwie das Leben von allen zu verbessern - und dann, in Sience Fiction entwickelt das immer ein Bewusstsein und so - aber im Grunde in allen Science Fiction Filmen, wenn man ein bisschen genauer hinschaut, geht's auch um Faschismus, geht's auf dem Kapitalismus, geht es auch um Dinge, die eigentlich hinter dieser Technologie stehen und die man auch nicht davon lösen kann. Man kann Technologie nicht von dem Kontext lösen, indem sie entsteht. Und ich glaube wenn die Technologie in einem System entsteht, das nicht für Menschen gemacht ist. Und ich glaube das ist einfach der Fall gerade, dann wirkt sie leider auch einfach so, dass sie eher Mechanismen, die ist eh schon gibt, eher beschleunigt. Also das ist halt eher wie so ein “Öl ins Feuer” gilt für Prozesse, die eh schon im Gange sind. Also die möglichste Ausbeutung von Arbeitenden, das Untergraben von Copyright, von Privatsphäre. All das ist durch KI jetzt deutlich schneller möglich. Und das Problem, das wir damit haben, ist gar nicht die Technologie an sich, sondern eben das System, in dem sie entsteht. Und deswegen ist es dystopisch.

Frieda Ahrens: 
Bevor wir in diese ganze Richtung gehen - Pro und Kons von KI - da habe ich auch ganz viele Fragen zu, würde ich sagen: Wir müssen einmal kurz nochmal diese Schlaufe an den Anfang kriegen. Weil wir sind ja ein Literatur Podcast und ich würde natürlich gerne wissen: Was verstehst du denn unter digitaler Literatur?

Fabian Navarro: 
Also, es gibt ein schönes Zitat von Hannes Bajohr, der das formuliert hat in Form von: “Jede Literatur heute ist digital, aber nicht jeder weiß darum”. Das ist, glaube ich, eine schöne Definition für digitale Literatur. Weil natürlich kann ich jetzt ein Buch auf einem eBook Reader lesen und ich kann sagen “ja das ist doch auch digital”, aber das eBook findet auch im Print statt und es ist eigentlich nur ein anderes Medium, auf dem das dann quasi konsumiert wird. Und digitale Literatur geht für mich immer noch einen Schritt darüber hinaus. Also digitale Literatur ist für mich etwas, was das Digitale braucht, um überhaupt interessant zu werden. Also das fängt schon an mit Ende der 90er, Anfang der 2000er da gab es die Netzliteratur, die das erste Mal quasi mit Hyperlinks versucht hat, zu experimentieren. Das halt Texte nicht statisch sind und nicht nur eine Dimension haben. Es geht auch zurück ein wenig auf Ideen von Avantgarde Literatur und der Oulipo Gruppe z.B, wo es halt darum geht, Texte zu konzipieren und das nicht der Text an sich das Interessante ist, sondern das Rezept nachdem der Text entsteht. Und ich glaube, das ist gerade etwas, was mit Maschinen total gut möglich ist. Um vielleicht anschaulicher zu machen: Wenn wir ein Sonett zum Beispiel nehmen, ist ein Sonett eigentlich ein Algorithmus. Es ist ein Algorithmus, seine Arbeitsanweisung: Schreibe in diese Zeile so und so viele Hebung und Senkung, in dieser Zeile kommt der Reim A, in der nächsten Zeit kommt der Reim B- es ist ein sehr striktes Format. Und das lässt sich von der Maschine total gut ausführen. Also Hebungen und Sekunden sind schwierig, gerade im Deutschen, aber es ist auch möglich mittlerweile. Das lässt sich von der Maschine ausführen und eine Maschine kann das nicht nur dreimal machen, sondern auch 3000 oder 3 Millionen Mal in einer relativ kurzen Zeit. Und so kann man, wenn man in der Form z.B. digitale Literatur macht, Experimente machen, wo man sich dann am Ende Dinge aussucht, die bei diesen großen Wust an Texten dabei herauskommt und dann noch mal weiter selektieren und mit diesen Texten dann weiter arbeiten. Das ist z.B. einen Arbeitsprozess, dass man ganz viel generiert, dann sich daraus Dinge aussucht, dann den Algorithmus noch mal schraubt und dann noch mal weiter arbeitet. Das heißt, das Digitale, das Programmieren z.B. wird zum Werkzeug im Bearbeiten von Text. Also auch, dass man eine Programmiersprache benutzt, um den Text zu erstellen. Statt nur - in Anführungszeichen - ein Textverarbeitungsprogramm. Und das ist für mich digitale Literatur einerseits, aber es gibt ganz viele andere Spielformen. Es gibt Spielformen, die auch mit visuellen Elementen arbeiten, die auch im dreidimensionalen Raum stattfinden. Also ich würde das alles einschließen in: Literatur, die auch weiß, dass sie nur existieren kann, wenn in irgendeiner Form und Art digitale Mechanismen zum Einsatz kommen. Und das ist sehr vage formuliert, aber wenn wir noch einen Schritt weiter gehen und versuchen Literatur zu definieren - das ist ja auch schwierig. Aber ich finde, das ist die beste Definition, die ich jetzt gerade geben kann.

Frieda Ahrens: 
Da kann ich ja super anschließen, denn genau das, was du gerade beschrieben hast: Poesie von einer Maschine schreiben lassen - das hast du gemacht. Es gibt deinen Instagram Kanal, wo du eine KI Gedichte schreiben lässt und du hast auch ein Buch veröffentlicht, wo Gedichte drin sind, die von einer Ki, aber auch von Menschen geschrieben wurden - so nebeneinander, um zu zeigen: Checkt man das überhaupt, was die KI geschrieben hat? Habe ich das richtig? Das war die Grundidee?

Fabian Navarro: 
Genau. 

Frieda Ahrens: 
Und die Frage ist natürlich: Was ist dabei rausgekommen? Also hast du das Gefühl, Menschen verstehen den Unterschied? Oder ist es eben auch: Naja Gedichte, wie du gerade schon gesagt hast, befolgen ja bestimmte Regeln und diese Regeln kann auch eine Maschine folgen und dementsprechend ist das gar nicht vergleichbar mit den Menschen?

Fabian Navarro: 
Einerseits: Dieses “Poesie.exe”, diese Sammlung von Texten, war - der Aufhänger ist natürlich, dass über den Texten in dem Band nicht steht, was jetzt maschinell erstellt worden ist und was auf - ich sag mal - herkömische Art und Weise geschrieben worden ist. Und dass das so ein Spiel ist, dass man herausfindet ,was ist jetzt von Menschen geschrieben und was nicht. Und gleichzeitig ist aber auch im Vorwort so kleine Bemerkung, dass das vielleicht gar nicht interessante Frage ist. Weil natürlich kann man sagen “das ist von einer Maschine geschrieben”, aber dann müsste man den Blick noch ein wenig rauszoomen und dann denken “aber irgendjemand hat ja auch diese Maschine geschrieben” und sich darüber Gedanken zu dem Text gemacht, der dann am Ende produziert wird. Das heißt, zumindest in den Verfahren, die wir jetzt verwendet haben, waren das ganz konzeptionelle Arbeitsweisen, die die Menschen, die diese Texte eingereicht haben, gemacht haben. Die Reaktionen waren ganz unterschiedlich. Es gab Leute, die das Vorwort nicht gelesen haben und dann sehr verwirrt waren von den Texten, die drin waren. Das war eine Reaktion - was völlig verständlich ist, weil die Texte natürlich sehr artifiziell sind, sehr verwirrend und vielleicht einfach manchmal nur schräg, wenn man nicht hinten liest: okay auf welche Art und Weise hätte dieser Text entstehen können. Das sind halt keine Texte, die man jetzt auch mal zum Vergnügen liest, sondern da ist wirklich das Interessante, das Konzept und der Prozess dahinter. Was für mich aber auch ganz klar im Verständnis von vielen Poetiken steht, die halt eben genau sagen “das ist nicht das wichtigste - der Text, der rauskommt - sondern eben halt der Prozess dahinter und wie man zu dem Text kommt. Und deswegen ist für mich was sehr Künstlerisches, so zu arbeiten. Aber natürlich nur eine Art, künstlerisch zu arbeiten. Das ist jetzt kein Ersetzen von etwas, was jetzt da ist. Sondern eine Spielart und eine sehr nieschige Spielart. Das merkt man auch an den Reaktionen. Das sind eben keine Texte, die man zum Vergnügen - obwohl viele sind auch sehr witzig, muss ich sagen. Aber nicht alle. Und ich glaube das ist es: Man muss sich damit beschäftigen, damit man da was rausziehen kann. 

Frieda Ahrens: 
Ich finde es spannend, was du gesagt hast: Es gibt Menschen, die die Maschinen beschrieben haben oder steuern oder irgendwie Anweisung geben. Und da sind ja ganz schnell bei dem Thema: Urheberrecht. Maschinen machen ja nicht von sich aus Sachen, sondern nur weil sie Befehle kriegen, weil sie mit bestimmten Material gefüttert werden und passen sich dann auch die Material an, was sie nehmen und versuchen das irgendwie neu zu gliedern oder aneinander zu reihen oder so. Und das sind wir bei dem ganz großen Thema: Literatur, die neu entsteht, ganz viele Arbeiten, die neu enstehen, die irgendwie mit Hilfe von ChatGPT entstehen - wie kann man da sichergehen, dass Urheberrecht nicht verletzt wird? Oder ich finde es auch spannend, was du gesagt hast mit: Naja ein Mensch hat die ja angeleitet und dementsprechend ist nicht die Maschine der Urheber. Aber im Grunde kann man das ja von Menschen auch so sagen? Also ich schreibe ja nur was, weil ich geprägt wurde von anderen Menschen. Ich habe ja nicht von mir aus als Kind schon bestimmte Ideen oder so - das wird von meinem Umfeld geprägt, von meinen Dozent:innen, ich weiß gar nicht, von was allem - und dann schreibe ich was nieder. Trotzdem bin ich der Urheber, dessen, was ich niederschreibe. Und eine Maschine schreibt das ja auch so nieder - vielleicht weil sie Befehle kriegt - aber trotzdem ist ja die Maschine, die die niederschreibt. Also ich finde das ist ganz spannend: Wo fängt dann Urheberrecht an und wo hört es auf?

Fabian Navarro: 
Ja, das sind zwei Sachen, glaube ich, die da drin stecken. Also beim einen würde ich sagen - zu diesem konzeptionellen - ich nehme da immer das Beispiel von Fotografie ganz gerne. Weil ich würde ja auch, wenn ich jetzt digitale Fotografie, das würde ich auf jeden Fall als Kunst sehen, aber ich würde nie sagen, dass die Urheberschaft dann bei der Kamera liegt, weil man einen Knopf gedrückt hat. Weil ich habe doch trotzdem Sachen eingestellt, ich habe trotzdem mich mit der Kamera, mit dem Licht, mit dem Motiv und so weiter beschäftigt - das eine Sache, die auf der menschlichen Ebene passiert. Die andere Sache, die du gesagt hast, wo ich ein bisschen fast widersprechen wollen würde: Klar sind wir geprägt durch unser Umfeld, aber eine Maschine funktioniert anders als ein Mensch und ich glaube das ist ganz wichtig. Das ist etwas, was glaube ich Großunternehmen wie eben Open AI versuchen, zu untergraben: Dass diese Unterscheidung immer flüssiger wird und dass unsere Vorstellung, die wir durch Science Fiction haben, dass die Überhand nimmt und quasi zu diesem “ELIZA Effekt” führt. Also der ELIZA Effekt beschreibt, dass man in Gegenstände - oder in Maschine in dem Fall - Personen rein liest, die da nicht sind. Es sind immer noch statistische Modelle und sind immer noch Programme, die im Fall von Open AI, und von ChatGPT halt eben auch, von großen wirtschaftlich orientierten Unternehmen geleitet werden. Und um die Frage ganz von Anfang noch zu beantworten: Wenn man mit ChatGPT arbeitet, kann man oft 0% garantieren, dass man von Urheberrechtsverletzung frei ist, weil diese Firma die Daten nicht offen legt. Weil diese Firma auch einfach genau so funktioniert, dass sie sich am geistigen Eigentum von anderen bereichert und daraus Profit schlägt. Und das Perfide daran ist, dass diese Firma angefangen hat als wissenschafts- oder zumindest als Organisation, die ja - und offiziell besteht diese Organisation auch noch - die für alle zugängliche KI erstellen wollte. Also vordergründig diese KI entwickeln wollte und dann Forschungsgelder eingesackt hat und sehr viele öffentliche Gelder bekommen hat und jetzt nach und nach ein Privatunternehmen wird. Und das ist ein ganz klassischer Vorgang, den man in vielen Branchen beobachten kann. Aber ich halte das für ganz gefährlich. Und ich halte diesen Hype für so gefährlich, nicht weil dann eine KI irgendwann Bewusstsein entwickelt, sondern weil das einfach ein Untergraben von Urheberrecht und Privatsphäre auf so vielen Ebenen ist. Das so schnell auch passiert, dass Gesetzgebende gar nicht reagieren können, das einzubinden. Und im Vergleich zum Beispiel zu “poesie.exe”, ich würde dazu immer sagen: Bei uns wurde noch so von Hand automatisiert und beim anderen ist das was Großindustrielles, was nicht mehr die Interessen vertritt, die es am Anfang vertreten hat - das finde ich ein bisschen bedenklich auf jeden Fall.

Frieda Ahrens: 
Also ich seh deine Punkte total. Und die Frage ist aber, wenn man jetzt technologiefreundlich ist, also wenn man irgendwie sagt: “Technologie hilft uns und da steckt auch ganz viel drin”. Wie du schon sagtest: Warum das Nebeneinander stellen? Warum ist es eine Konkurrenz? Warum ist das nicht einfach eine Erweiterung des Literaturbegriffs oder der Literatur, die wir haben, wenn man auch von Maschinen Poesie generieren lässt? Aber auf der anderen Seite auch sagt zB: ChatGPT als Anbieter wird immer verwerflicher, weil - naja, diese ganzen Punkte, die du genannt hast. Was sind dann Möglichkeiten, eine KI oder diese neuen Technologien zu nutzen, mit denen man im Reinen sein kann?

Fabian Navarro: 
Hm, also ich glaube, bei Language Models ist das ganz schwierig, es sei denn, man trainiert was eigenes und hat genau den Zugriff auf die Daten, die man da benutzt. Sonst sehe ich da gar keinen Punkt. Es geht, glaube ich, auch gar nicht darum, unbedingt die neuesten Technologien zu verwenden, sondern ich glaube halt im Literaturbetrieb auch offen zu sein, quasi das Handwerkszeug, eben um Dinge wie Programmieren, Datenbanken einfach zu erweitern und vielleicht damit herumzuspielen. Also dass halt auch die Vorstellung von einem Text, dass er statisch sein muss, das es nur eine Version von dem Text gibt, die sich nicht ändert. Das finde ich zum Beispiel einfach etwas, was durchs Programmieren, durch halt irgendwie andere Sachen möglich ist. Und da muss man nicht zwangsweise auf shady Großunternehmen zugreifen. Sondern vielleicht selbst einfach schauen: Was kann ich mir dann noch vorstellen? Jenseits von einem Text von “da folgen Sätze aufeinander”? Was kann ich da machen? Können sich die Orte wechseln, je nachdem wo das Buch gelesen wird? Gibt es variable Figuren, die sich ändern, je nachdem? Dass man mehr in eine interaktive Richtung geht. Das ist ein großer Aspekt auch bei der Netzliteratur gewesen, dass halt die Lesenden mehr und mehr auch aktive Rollen quasi einnehmen bei der Interaktion mit dem Kunstwerk. Dass es zum Beispiel Geschichten gibt, wo man entscheidet, wie es weitergeht. Also das ist, glaube ich, das Einfachste und ich glaube, da gibt es sicher elaboriertere Verfahren, aber da ist mit Technik ist ganz, ganz viel möglich. Und das Problem ist aber: Schreiben ist ein Skill und Programmieren ist ein anderer Skill. Und nicht alle sind, glaube ih, auch bereit das zu lernen, was ja auch völlig in Ordnung ist. Aber ich glaube, wenn man möchte, dass irgendwas interessantes mit digitalen Mitteln erstellt wird, dann muss man da glaube ich selbst irgendwie sich hinsetzen und vielleicht ein Programm schreiben. Das istglaube ich mein mein größter Kritikpunkt bei ChatGPT und allem: Es ist immer noch am Ende ein statistisches Modell und alles was dabei passiert, ist ein Durchschnitt oder ein eine statistische Erhebung von dem, was es schon gibt. Und ich glaube, dass irgendetwas Neues - also was ist schon neu - aber dass irgendwas Interessantes entsteht dadurch, halte ich einfach für sehr unwahrscheinlich. Und der Schaden in Anführungszeichen, der dabei mitwirkt, ist für mich auch einfach größer als der Nutzen. Also ich bin gerade zum Beispiel auch in einem Forschungsprojekt, wo wir mit Large Models experimentieren, aber für eigene künstlerische Arbeiten würde ich echt davon absehen, mit Large Language Models arbeiten, weil ich es erstens nicht so interessant finde und zweitens schädlich.

Frieda Ahrens: 
Wie blickst du auf dieses ganzen Literaturaspekt, den man oft vergisst, aber der ja auch sehr groß ist: Und zwar Übersetzungen? Weil gerade wenn du sagst: “ein Text kann mehrere Formen haben und trotzdem irgendwie ein ähnlicher Text sein”, denk ich direkt an Übersetzungen. Also vom Englischen ins Deutsche gibt es unterschiedliche Übersetzungen des gleichen Textes, aber irgendwie ist der Inhalt doch der gleiche, aber die Texte sind unterschiedlich. Und das ist ja ein großes Thema: Wer darf auch was übersetzten? Und das ist ein Job, der angegriffen wird jetzt durch KI, weil im Grunde könnte man ja einfach sagen: “Okay, eine KI übersetzt nur noch.” Wie siehst du den Bereich? Ist das, außer das der große Negativaspekt da ist, dass Jobs weggenommen werden, aber ist das auch was, wo du sagst: Es ist wichtig, dass da Menschen hinterstehen?

Fabian Navarro: 
Ich glaube, das ist genau der Punkt. Die Jobs werden nicht von der KI weggenommen. KI kann keine Jobs wegnehmen. Das sind Verlage, die die Entscheidung treffen, ob ob jemand übersetzt oder nicht. Und das ist ganz, ganz klar einfach: Das ist keine Maschine, die das wegnimmt. Die Verlage entscheiden sich und machen eine Kosten-Nutzen-Abwägung. Und in der großen Angst: Wenn die anderen das machen, dann müssen wir das auch machen. Und natürlich sind Übersetzungen, die Menschen machen, deutlich besser, weil diese Maschinen einfach nicht so gut sind. Es ist eine bequeme Lösung, es ist eine feige Lösung und es ist eine Lösung, die einfach sehr vielen Menschen, die seit Jahren sehr involviert im Literaturbetrieb sind, einfach die Jobs kostet. Einfach weil das ein paar Euro günstiger ist, das maschinell machen zu lassen, Oder das Zynischste ist dann, Übersetzerinnen dafür zu bezahlen, dass sie bereits KI übersetzte Texte dann noch mal überprüfen und dann aber ein Bruchteil des Lohns bekommen. Da gab es ja einen großen Artikel jetzt vor einiger Zeit von der Übersetzerin. Wo genau eine Übersetzerin diese Anfrage bekommen hatte und sich genau darüber beschwert hat, weil dann ganz viel wegfällt: Weil man hat kein Recht mehr am Text, weil man hat kein VG-Wort-Recht mehr. Und das sind alles wirtschaftliche Entscheidungen und das wird auch nicht im Interesse der Kunst entschieden von Verlagen, das wird im Interesse von Profit entschieden. Und das ist genau das, was ich ganz am Anfang gesagt habe: Das ist die Technik, die in einem kapitalistischen System entsteht, die wird genau solche Ausprägungen haben. Also ich bin natürlich ganz überzeugt, dass Maschinen auch nie diese Übersetzung hinbekommen können, weil es Kontextwissen voraussetzt. Und Kontext wissen es etwas, was so fluktuiert und was sich von Tag zu Tag ändern kann. Ein Wort kann von jetzt auf gleich eine andere Bedeutung haben. Da muss eine KI wieder komplett neu trainiert werden, mit dem Wissen wieder angereichert werden. Und ich kann mir vorstellen, dass das halt in Zukunft auch in Echtzeit passiert. Aber selbst dann gibt es Nuancen, die einfach nicht erfasst werden können. Und das ist keine Entscheidung, die getroffen wird, weil das jetzt so sein muss und weil man das jetzt halt so macht. Das sind Dinge, Mechanismen, die schon in der industriellen Revolution passiert sind und die immer weiter passieren. Solange der Buchmarkt auch ein wirtschaftlicher Markt ist.

Frieda Ahrens: 
Gibt es in dieser Entwicklung auch Bereiche, wo man sagt: Okay, da gibt es eine positive Möglichkeit, die KI zu nutzen? Also ich denk so: an Barrierefreiheit auf Webseiten, weil Sachen gleichzeitig vorgelesen werden zum Beispiel. Oder - das geht jetzt weg vom Literaturbetrieb - dieses ganze “Hasskommentare durchgucken müssen” - das dann nicht mehr Menschen und sich irgendwie traumatisieren dadurch, dass sie irgendwie schreckliche Videos angucken müssen, sondern es wird vorgefiltert durch Maschinen oder so. Also weil ich finde, das geht jetzt immer in so eine Richtung von: Die machen es nicht besser, die Maschinen. Und ich versuche noch mal so den Turn zu kriegen zu: Aber gibt es nicht auch positive Entwicklungen?

Fabian Navarro: 
Die gibt es sicher. Natürlich gibt es die positiven Entwicklungen. Aber es gibt eine Technologie nie mit nur positiven Entwicklungen. Technologie gibt immer mit negativen Entwicklungen. Man kann das nicht voneinander trennen. Atomenergie ist - wenn man davon absieht, dass es natürlich sehr effizient ist - höchst gefährlich. Also ich finde auch den Vergleich mit Atomenergie immer so sehr bemüht, aber trotzdem: Bei jeder Technologie, die man einführt, es hat was Positives, hat was Negatives. Das gleiche mit dem Smartphone. Wir sind jetzt überall immer erreichbar, alle Informationen die ganze Zeit, aber sind auch abhängig. Das sind Dinge, die man nicht voneinander trennen kann. Und selbstverständlich gibt es positive Sachen, dass wir auch das Machine Learning Algorithmen eingesetzt werden können, um zum Beispiel Krebs früher zu diagnostizieren. Das sind ja alles positive Aspekte. Man muss sich halt nur fragen: Wo ist es sinnvoll, das einzusetzen? Und ich halte gerade die Buchbranche für eine der letzten, wo man es einsetzen kann. Es wird eingesetzt, weil Text sehr einfach ist für Maschinen. Mittlerweile ist die Technik so weit, dass es auch bis hin zu Video geht. Ich weiß nicht. Die Aspekte auch, die du gesagt hast, so Hate Speech früher filtern - gleichzeitig ist aber auch mit der gleichen Technologie möglich, viel mehr Hate Speech zu produzieren.

Frieda Ahrens: 
Ja, ich kenn die ganzen negativen Aspekte auch und wie du sagst, das wird nur von dem Umfeld gefüttert, von dem es entsteht. Und dementsprechend sind ja auch bei diesen Filter Sachen direkt ganz viele Rassismen drin. Also ich finde nur, die Literaturbranche hat ganz oft so ein angestaubtes Image. Und das wird nicht besser, indem man sich technologiefeindlich aufstellt. Und ich finde das ist schwierig zusammenzubringen, weil ich sehe deine Punkte und ich finde es auch echt schwierig, welche urheberrechtlich Entwicklung das gerade nimmt. Und gleichzeitig, wie du auch sagst, finde ich auch digitale Diktatur deshalb spannend, weil ich denke, dass sich Literatur digital aufstellen muss. Also man muss sich irgendwie mehr ans junge Publikum richten, man muss dadurch irgendwie digitale Plattformen bespielen. Und ich finde das über einzubringen, ist immer so eine Herausforderung. Also die Gefahren zu sehen und trotzdem dem nicht komplett den Rücken zu kehren.

Fabian Navarro: 
Ja, das ist, glaube ich, eine immer eine sehr persönliche Geschichte. Weil es natürlich: diese Technologien haben einfach große Probleme. Aber ich glaube schon, dass das wichtig ist, dass sich der Literaturbetrieb dem öffnet und sich damit beschäftigt. Ich glaube, ein einziges Ablehnen funktioniert nicht. Aber ich glaube, auch so ein unkritisches Übernehmen, was gerne halt wie gesagt von Verlagen jetzt gerade einfach sehr schnell genommen wird, um auf diesen Hype aufspringen - ich finde es passiert an den falschen Stellen. Also man kann interessante Kunst damit machen. Definitiv. Und das ist auch das, was mich fasziniert. Und ich bin ja auch einfach seit ich Kind bin, sont würde ich mich damit ja nicht beschäftigen, bin ich total interessiert an Maschinen und an digitalen Methoden. Gleichzeitig habe ich aber auch gemerkt, die letzten Jahre: Ich werde auch müde, mich damit zu beschäftigen. Es ist kein angenehmer Kontext. Es wird einem nicht die Möglichkeit gegeben, damit herumzuspielen, ohne gleich große Existenzängste heraufzubeschwören. Und es ist halt einfach auch schwierig. Es ist einfach komplex: Wie funktionieren diese Maschinen? Wie funktioniert ein Algorithmus? Wie programmiert man? Das sind alles Dinge, die sonst nicht mit dem literarischen Feld irgendwie Überschneidungen haben. Und da irgendwie das zu finden. Und viele wollen das auch nicht. Und ich finde es ein ganz legitimer Wunsch zu sagen “Nee, ich möchte mich damit einfach nicht beschäftigen müssen”. Und klar sollte es Menschen geben, die das machen, aber ich finde auch nicht, dass es so ein Paradigma sein sollte, dass sich alle jetzt damit beschäftigen müssen. Ich finde es gut, wenn das gefördert wird. Ich finde gut, wenn sich Menschen damit beschäftigen, weil es ja eben ein Nebeneinander sein sollte und kein das eine ersetzt jetzt das andere. Das finde ich total wichtig. Also dass Leute auch eben das Recht haben, sich dem einfach auch komplett zu verweigern und sagen “Nein, ich schreibe auch noch weiterhin mit Schreibmaschine, Das ist mir auch völlig egal.” Das finde ich auch schön. Ich finde das wirklich, wirklich toll. Wenn das Leute machen. Also vielleicht kannst du es mal erklären: Was würdest du dir denn wünschen, wie der Literaturbetrieb sich digitaler aufstellt?

Frieda Ahrens: 
Also ich habe auch daran gedacht, dass wir jetzt, also das Literaturhaus Bremen, so Residenzen haben und da wir ein digitales Literaturhaus sind, wo es erst bald ein wirkliches Haus gibt und sonst immer nur so ein digitales Konzept des Literaturhauses, gibt es bei uns auch Netzwerkresidenzen. Das heißt, es gibt Künstler:innen und Autor:innen, die sich mit digitalen Projekten bei uns quasi für eine Residenz bewerben können. Und da sind in letzter Zeit so Audiowalks zum Beispiel entstanden und so was in die Richtung. Und ich finde das immer total spannend, wenn es da - und das meine ich glaube ich - wenn da mit digitalen Mitteln experimentiert wird, aber es trotzdem literarisch bleibt. Also genau, es geht ja auch gar nicht so groß in eine KI Richtung oder in so eine “super neueste Technologie”-Richtung. Aber genau. Und ich finde aber das toll, dass es dieses Angebot gibt, weil ich finde, es ist super spannend, wenn sich Autor:innen auch mal mit digitalen Möglichkeiten auseinandersetzen.

Fabian Navarro: 
Ja, ich kenne mittlerweile viele Künstler:innen, die sich größtenteils mit digitalen Mitteln quasi ausdrücken und die digitale Literatur machen. Da ist dieser Veröffentlichungsdruck zum Beispiel ein totales Hindernis, weil es halt keine Plattformen dafür gibt oder sehr wenige Plattformen, überhaupt zu zeigen: Hey, ich arbeite literarisch, aber halt eben mit digitalen Mitteln. Das ist total schwer, dann zum Beispiel sich für Stipendien oder für Preise zu bewerben, weil da häufig eine Voraussetzung ist, dass man eine Veröffentlichung hat. Aber eine Veröffentlichung auf der eigenen Webseite meistens nicht gilt. Und das heißt, dass sich da eben halt auch strukturell Dinge ändern müssen. Ich finde es total toll, dass ihr diese Residenz habt. Ich kenne die auch, also ich finde es richtig, richtig cool, weil da eben, glaube ich, wirklich interessante Projekte entstehen können. Und vielleicht ist es auch an der Zeit für Workshops und Weiterbildung, wo man halt solche Dinge lernen kann. Also ich mache das so ein bisschen, dass ich für Autor:innen und auch für Schulklassen diese Workshops für digitale Literatur gebe. Und eine der schönsten Workshops war auf dem Treffen junger Autor:innen in Berlin, wo ich mit ganz vielen jungen Autor:innen zusammengesessen bin und denen vorgestellt habe: Was kann man eigentlich, wenn man programmiert, zum Beispiel mit Text machen? Und die waren alle voll begeistert. Das war total schön und hatten alle noch nie von diesen Möglichkeiten gehört. Und ich glaube auch, dass das Digitale total viel Interessantes birgt, was noch nicht gemacht worden ist. Ich habe da zumindest diesen kleinen Entdeckerrausch, weiß ich nicht, wie man das besser beschreiben soll. Wenn ich dann auf was komme, was ich so noch nicht gesehen habe oder über das ich vorher noch nicht nachgedacht habe. In einem Workshop von mir saß zum Beispiel eine Frau, die gesagt hat “Hey, ich habe jetzt eine Idee für ein Programm, kannst du mir helfen, das zu schreiben?” Und sie hat sich überlegt, das ja Buchstaben, wenn man sie in griechische Buchstaben umwandelt oder in Zahlen umwandelt, auch Farbcodes ergeben. Und dann hat sie einen Übersetzer für Namen geschrieben, der Namen in Farben übersetzt. Und so eine visuelle Repräsentation der Farben hat. Und das fand ich einfach vom Gedanken schon total schön. Oder jemand, der Permutationen von bekannten Gedichten gemacht hat, wo sich dann Wörter nach und nach ändern, wo von von einer Generation zur nächsten das Gedicht immer sich weiter verändert hat. Das war total interessant, total cool und hat voll viele Möglichkeiten geboten. Und ich glaube auch, dass da noch viel zu entdecken ist. Und die Methoden müssen nicht unbedingt das aller Allerneueste sein, sondern Methoden, mit denen man selbst noch gar nicht gearbeitet hat und das da liegt ganz viel an Werkzeug. Man muss es, glaube ich, nur aufheben.

Frieda Ahrens: 
Das sind doch nette End-Worte. Dann danke ich dir total für dieses schöne Gespräch. Und ich danke natürlich auch allen Zuhörer:innen, dass ihr bis hier dran geblieben seid und uns zugehört habt. Danke dir und bis zum nächsten Mal.

Fabian Navarro: 
Ja, vielen, vielen Dank.

---

Der Text wurde KI-gestützt transkribiert.