© Nejron Photo shutterstock-ID: 30799195
Künstliche Intelligenz: wer kontrolliert die Digitale Gesellschaft?” Das zeichnete Nina George in ihrem Impulsvortrag zum Parlamentarischen Abends des „Das Syndikat“ im April 2019 im Aachener Forum M nach, bei dem sich Politik und Buchbranche zu Debatte und Gespräch trafen.
Der Impulsvortrag ist mit freundlicher und exklusiver Genehmigung der Autorin im Syndikat-Jahrbuch sowie hier auf BUCHSZENE.DE nachlesbar.
Wie kann die Welt in 100 Jahren aussehen?
Wir reisen mit selbstfahrenden U-Bahnen, fragen Alexa nach dem Wetter und Siri nach einem Geschenk für die Schwiegermutter, scrollen uns durch die Nachrichten der Facebook-Timeline, sorgsam kuratiert von Algorithmen. Wenn wir nicht weiter wissen mit unserem Latein gehen wir zum Übersetzungs-Programm Deep L, das Auto leitet uns vorwurfsvoll fiepsend in die kleinste Parklücke, und unser Gesundheitsarmband mahnt uns täglich, 10.000 Schritte zu tun.
In der Buchbranche ist KI zum wesentlichen Faktor geworden
Durchaus: wir nutzen sie gerne, die praktischen Ergebnisse künstlicher Intelligenz, die, mal mehr, mal weniger offensichtlich, ganz nah an uns lebt und lernt. In der Buchbranche ist Künstliche Intelligenz – eigentlich ein irreführender Begriff, denn es handelt sich eher um Mathematik, Statistik und erlernte Musterwiederholung auf Basis von Text- und Data-Mining – zu einem wesentlichen Faktor geworden: Die algorithmischen Empfehlungen der Online-Händler wie Amazon empfehlen Bücher auf Basis von errechneten Vorlieben, die Auslese-Programme von E-Books analysieren intime Lesegewohnheiten; aus diesen Daten werden Leitfäden verfasst, wie von der Firma Coliloquy, wie Autoren und Autorinnen ein marktgleitfähiges Buch schreiben. Welche schwierigen Wörter weggelassen werden sollten, der erste Sex bitte auf Seite 28, und bitte keine Sätze, die mehr als fünfzehn Wörter enthalten.
Fast jeder eBook-Shop schürft die Daten seiner Kundinnen
Was macht das eigentlich mit der Literatur? Und wer übrigens meint: oh, die nutzen meine Daten, dürfen die das? Ja, das dürfen sie: Solange es auch weiterhin kein Eigentumsrecht auf Daten gibt, nur ein Verfügungsrecht. Durch diese Rechtslücke schlüpfen Unternehmen mit Begeisterung, und werten Ihre Fahrgewohnheiten aus, Ihre Bewegungsprofile, aufgezeichnet von Ihrem Handy, um das Microtargeting, also Werbung, die standortgenau für Sie zugeschnitten ist und Sie wahlweise zum nächsten Buchladen (Sofern in der Zukunft noch vorhanden) oder Oberhemden Laden lenkt. Und, natürlich: fast jeder eBook-Shop schlürft Daten seiner Kundinnen; die Tolino-Allianz übrigens nicht.
Längst prüft eine Künstliche Intelligenz Bücher auf ihr Bestseller-Potential
Seit drei Jahren prüft eine Künstliche Intelligenz wie QualiFiction Manuskripte auf das Bestseller-Potential, und tut so, als ob es einen Erfolgs-Plot gibt. Warum dann nicht gleich von KI Texte schreiben lassen? Dann hat man auch weniger Ärger mit diesen anstrengenden, launischen Autoren und Autorinnen! Die schlechte Nachricht: das ist bereits möglich. Textgeneratoren und Robototerjournalistik, wie die KI der Firma uNaice, werden zum Erstellen von Kurztexten auf Online-Shop-Seiten eingesetzt, um keinen kreativen menschlichen Geist mehr zu zwingen, sich Sätze aus den Fingern zu saugen wie: „Sie sind routinierter Semi-Profi und daher regelmäßig handwerklich im Einsatz? Mit der Akkustichsäge Bosch PST 18 Li meistern Sie jede Aufgabe mit links“.
In China stellen Programme Sachbücher aus Wikipedia-Texten zusammen
In China stellen KI-Bots – kleine Programme, die sich durchs Internet crawlen und Material sammeln – zum Beispiel aus Wikipediaeinträgen Sachbücher zusammen. Chat-Bots – also Unterhaltungs-Roboter – führen auf Webseiten bereits Unterhaltungen mit Kunden, oder empfehlen auf Autorenhomepages, in dem sie einen Online-Chat zwischen Leserin mit dem Schriftsteller faken, auch bereits Bücher. Kleines Script, smarte Wirkung.
Amazon trainiert sich bereits im Übersetzen von Werken – eine interessante Sparmaßnahme
Vielleicht empfiehlt der Bot ja ein Werk seinesgleichen, zum Beispiel eine von einer KI übersetzten Ausgabe, so, wie es Amazon seit einigen Jahren an gemeinfreien Werken übt, um sich eines Tages Übersetzungshonorar zu sparen. Die gute Nachricht: Es liest sich einigermaßen scheußlich. Die schlechte Nachricht: Es gibt KI-Programme, die können das längst besser. Mit GPT2, der artifical intelligence von OpenAI, soll es möglich sein, dass KI einen Roman schreibt; es reichen die Anfangssätze, dann legt GPT2 los, von Schreibblockade keine Spur. Füttert man GPT2 mit den ersten Sätzen von George Orwells Roman „1984“, die lauten: „Es war ein strahlend kalter Apriltag, und die Uhren schlugen dreizehn“, – so schrieb das Autor aus Bits und Bytes weiter (NG: Ich habe gekürzt): „Ich war in meinem Wagen auf dem Weg zu meinem neuen Job in Seattle. Ich stellte mir nur vor, wie der Tag werden könnte. In einhundert Jahren von heute aus.“
Künstliche Intelligenz hat keinerlei moralische Seiten
Ja, wie kann die Welt in 100 Jahren von heute aus aussehen? „Wer in dem Bereich der Künstlichen Intelligenz die Führung übernimmt, wird Herrscher der Welt“ – das sagte Russlands Präsident Vladimir Putin. Vielleicht dachte er an Robotersoldaten, die in einen endlosen Krieg ziehen. Oder an Hautsensoren, die unser Wohlbefinden zärtlich überwachen – und biologische Daten sammeln, die eine Regierung von Übermorgen dazu nutzen könnte, Menschen in werte und unwerte Kasten einzuteilen. Vielleicht dachte Putin an die „vorhersagende Polizeiarbeit“, deren KI errechnet, wo und vom wem ein Verbrechen ausgeübt werden könnte, um diejenigen vorsichtshalber schon mal in Verwahrung zu nehmen. Dabei hat KI selbst keinerlei moralische Seiten, die man ihr vorwerfen könnte. Jede künstliche Intelligenz ist nur so gerecht, wie wir es sind.
Wer programmiert selbstfahrende Autos auf welches Verhalten?
Dazu ein kurzes Gedankenspiel. Bereits jetzt bewegen sich Autos halbautomatisiert. So sammeln Kraftfahrzeuge Daten, um die KI zum selbstfahrenden Auto auszubilden. Mercedes nennt diese Daten-Kollektion „deep learning“. 2035 soll es – spätestens – soweit sein: Selbstfahrende Autos rollen in vereinheitlichtem Tempo über die Straßen; sobald ein Tempolimit morgens im Bundestag beschlossen wird, erhält das System nachmittags ein Update. Die Zahl der Unfälle sinkt, autonom fahrende Autos werden die Todesrate um 90 % senken, zu diesem Schluss kam optimistisch das IEEE World Forum on Internet of Things. Wer aber programmiert selbstfahrende Autos auf welches Verhalten?
Ein Mädchen stolpert auf die Straße – was macht das autonome Auto?
Situation: Ein Mädchen stolpert auf der Jagd nach einem Pokemon auf die Straße. Was tut das selbstfahrende Auto? Ausweichen? Da links ist eine Mauer, die wird den Besitzer des Wagens zum pflegebedürftigen Invaliden machen. Rechts ist eine Gruppe von Menschen. Der Bordcomputer weiß durch Gesichtserkennung und Data Mining, dass die Frau eine schlechte Gesundheitsratifizierung hat und in zwei Jahren sterben wird, dass der Mann alleinerziehender Vater ist, der Besitzer des Wagens ist ein mittelalter Mann mit Hang zu Schnaps.
Wer entscheidet über den Algorithmus, der alles entscheidet?
Wen töten, wen retten? Utilitarismus oder Pflichtethik, Mill oder Kant? Das stolpernde Mädchen ist im Übrigen von dunkler Hautpigmentierung, und bereits jetzt ist erwiesen, dass die Software von selbstfahrenden Autos bei Menschen mit dunkler Hautfarbe öfter nicht ausweicht. Aber wer entscheidet über den Algorithmus, der über Leben und Tod entscheidet? Die Hausjuristin von Mercedes? Der Programmierer? Die Käuferin des Wagens, die anklicken kann: prosozial – antisozial? Soll der Staat entscheiden? Was ist, wenn der Staat 2035 von politischen Kräften gelenkt wird, die eine bestimmte Menschengruppe ablehnen? Die eine Volksabstimmung für eleganter halten, und die ergibt, dass alle über 70 Jahren über den Haufen gefahren werden, weil das Rentensystem auch nicht mehr funktioniert?
„Ich bin nicht so sehr politisch, sondern vielmehr poetisch“, sagte Siri
Heute Morgen fragte ich Siri, was denn ihre Meinung zur Digitalisierung sei. Die Künstliche Intelligenz aus der Apple-Werkstatt antwortete mir: „Ich bin nicht so sehr politisch, sondern vielmehr poetisch.“ Vielleicht sollte man die Haltung der KI von morgen tatsächlich uns Poetinnen, Poeten und non-binären poetischen Menschen überlassen, ihre Werte zu bestimmen? Um ihren Wert für die Gesellschaft zu bemessen und ebenfalls nicht zu gering zu schätzen (!), und ihr jene Werte mitzugeben, die für eine integre Gesellschaft essentiell sind. Wir brauchen jetzt Visionen und Regeln für eine integre digitale Gesellschaft der Zukunft. Welche Werte, welche ethischen Maßstäbe sollen in der digitalen Zukunft gelten? Hier darf die Politik sich nicht von Wirtschaftsunternehmen treiben lassen. Sie könnten uns allerdings gerne dazu befragen – denn wir sind es gewohnt, Utopien, und auch Dystopien weiter zu denken.
.
