Manuela Naveau: trustworthy hier und da … – Die DG

Manuela Naveau

trustworthy hier und da…

Herzlichen Dank für die Einladung zu der Key-Out-Lecture.

Mein letztes Zusammentreffen mit der Dramaturgischen Gesellschaft war im Jahr 2015 und da hatte ich die Chance – damals bei der Jahrestagung in Linz und ohne pandemische Restriktionen – kurz ein paar Gedanken im Ars Electronica Center vorzustellen, und heute kann ich das wieder… und ich habe mir gedacht, dass ich auf ein Phänomen eingehe, das ich in den letzten Monaten verstärkt beobachtete: nämlich der extreme Fokus auf das Wort:

TRUSTWORTHY

Bei meinen Recherchen zu „Crowd and Art“ und künstlerischer Partizipation im Internet https://www.transcript-verlag.de/978-3-8376-3678-9/crowd-and-art-kunst-und-partizipation-im-internet/ in den Jahren 2010 – 2015 stellte ich – wie so viele andere Forscherinnen und Forscher oder das Internet beobachtende Personen – also ich stellte fest, dass Algorithmen nur bedingt vertraut werden kann. Und wenn ich hier von Algorithmen sprach, wollte ich vor allem die menschliche Komponente dahinter hervorheben: Es ging mir vor allem um die Menschen dahinter, die diese Algorithmen entwickelten: Software-Entwickler/Software-Entwicklerinnen, Internet-Ingenieure/-Ingenieurinnen, Informatiker und Informatikerinnen.

Und natürlich die Personen hinter diesen Menschen: Firmen*inhaberinnen, Forschungsabteilungsleiter*innen, Internet-Magnate und Magnatinnen…

Also ‚trustworthy‘ Menschen: vertrauenswürdig, zuverlässig oder verlässlich …? Ich suchte im Cambridge Dictionary und auf Merriam Webster zu: TRUSTWORTHY. Und dort stand: dies können einerseits Menschen sein: a trustworthy guide, a trustworthy doctor… aber TRUSTWORTHY kann auch Information sein, oder Produkte, Marken,… und wie sieht das mit Technologie aus?

Zumindest dachten sich dies auch Vertreter*innen der EU, als die Europäische Kommission im April 2018 ihren Ansatz zu KI in einer Mitteilung „Künstliche Intelligenz für Europa“ veröffentlichten. Ein Jahr später lieferte dann eine hochrangige Expert*innengruppe einen Bericht zu einer „Vertrauenswürdigen KI“. Und ich fragte mich wieder, ob es nicht eigentlich die Menschen sind, denen wir vertrauen müssen? Schlussendlich kam noch Corona und im Laufe der letzten zwölf Monate wurde mein Vertrauen in Politik, Medizin, Technologie, die Wissenschaften und meine Mitmenschen in einer pandemischen Realität gehörig auf die Probe gestellt. Aber was bedeutet eigentlich:

TRUSTWORTHY?

Was meint hier vertrauenswürdige AI? Vertrauen wir den neuesten technologischen Errungenschaften – etwa so, wie wir noch dem Taschenrechner vertrauten? Ist die Technik noch das, was wir gelernt haben, was es ist? Korrekt, präzise? Oder ist die Zeit der Taschenrechner, wie Ali Nikrang, ein Kollege im Ars Electronica Futurelab, einmal erwähnte, vorbei und nicht mehr zu vergleichen mit den offenen, selbstlernenden Systemen in Zeiten keimender Künstlicher Intelligenz? Ist es nicht an der Zeit, dass wir eine erlernte Vorstellung von Vertrauen in Technik und Technologie aufgeben müssen?

Wissenschaftliche Studien bestätigen, Menschen vertrauen eher der Technik als anderen Menschen: in der Studie Algorithm appreciation: People prefer algorithmic to human judgment vom März 2019, das auf Elsevier – einem Verlag und einer Plattform für Informationsanalysen im Gesundheitswesen und in der Wissenschaft – veröffentlich wurde, steht es schwarz auf weiß.

Nun, hier leite ich einen Auftrag für uns Kunst- und Kulturschaffende ab: In der Digitalisierung sind wir mittendrin, sie ist grundsätzlich gut, unabwendbar und sie kann uns helfen, unsere Welt besser zu verstehen. Wäre da nicht diese allgemeine Einstellung der Menschen zur Technik: eine alte Zuschreibung, die überholt werden sollte, die die stereotypische Oberflächlichkeit verlassen muss und auf neuen Beobachtungen basiert: differenzierter, um zu verstehen, dass neue Technologien mit unserem herkömmlichen Verständnis von Technik nichts mehr zu tun haben.

In diesem Zusammenhang verweise ich immer gerne auf Friedrich Kittler, der leider im Jahr 2011 verstarb – ein Jahr nachdem ich eigentlich erst so richtig mit meiner Forschung anfing. Er ist für mich einer der extrem inspirierenden Köpfe, Medientheoretiker und Kulturwissenschaftler, und mit dem folgenden Zitat möchte ich für Verständnis oder eigentlich für die Bedeutung einer „Kritischen Daten- und Algorithmen-Gegenkultur“ in der Kunst und Kultur plädieren.

In seinem Aufsatz „Phänomenologie versus Medienwissenschaft“ schrieb er: „In Computern verwandelt sich die ‚mathematische Objektivierung‘ (…) nie wieder in lebensweltlichen Sinn zurück, sondern bestenfalls in Anschauung oder Leben zweiten Grades: Scientific Visualisation, Artificial Life. Universell programmierbare Computer sind von menschlicher Erfahrung derart abgeschottet, dass eher die Gefahr droht, sie würden auch noch ihre Benutzer programmieren.“

In dem Zusamenhang ist mir der Hype Cycle der Gartner Inc wieder eingefallen – das ist jene Analysten-Firma in der IT-Industrie, die Technologie-Hypes voraussagt und deren Prognosen Businessmenschen am Technologiesektor vertrauen. Also auch hier: TRUSTWORTHY Fragezeichen?

Wenn Sie also Gartner Inc und Hype Cycle 2020 googlen, dann bekommen Sie in der Bildsuche Graphen vorgeschlagen, die die Lebenszyklen von neuesten Technologien vorstellen. Unter anderem ist einer dieser fünf Hypes aus dem Jahr 2020 der DIGITAL ME-Hype, bei dem es auch um bidirektionale Brain-Machine-Interfaces (sogenannte BMIs) geht, also Interfaces, die das Gehirn bewusst stimulieren. Wird auch in der Kunst die Gehirnaktivität über Messungen bereits für z.B. Visualisierungen oder Musik genutzt, so geht die Technologie nun bereits einen Schritt weiter und stimuliert reagierend …

TRUSTWORTHY

Fragezeichen?

In den künstlerischen Arbeiten der Amerikanerin Lauren Lee McCarthy findet genau diese Situation statt. Sie kennen Amazons Alexa! Ganz bewusst spielt die Künstlerin mit der Fragestellung, ob wir Menschen nicht eigentlich bereits „programmiert“ sind durch Werkzeuge wie Algorithmen, Bots und Smart Devices à la Alexa … Also smarte Assistenten … Die Arbeit von Lauren Lee McCarthy, die ich hier gerne in diesem Kontext besonders vorstellen möchte, heißt SOMEONE und war eine Performance, die sich über zwei Monate erstreckte …

Was passierte: Über einen Zeitraum von fast 60 Tagen im Jahr 2019 wurden die Wohnungen von vier teilnehmenden Personen in den USA von der Künstlerin mit verschiedenen Kameras und Sensoren ausgestattet. In einem Galerieraum wurden den vier privaten Räumen vier Laptops gegenübergestellt, die mit den Appartements der vier Fremden vernetzt waren. Die Besucher im Galerieraum schauten über Live-Video-Feeds in die privaten Räume und reagierten, wenn die Bewohner sie fragten: „Can SOMEONE switch on the light, please?“ Mit anderen Worten: Sie schalteten das Licht oder den Wasserkocher ein und aus, spielten Musik ab, bedienten die elektrisch gesteuerten Luftbefeuchter oder Ventilatoren und erledigten alles, was ein smarter Assistent in einer Wohnung so tun würde.

Und ja, die Besucher lernten auch die Eigenheiten der Bewohner kennen, wussten (nach eventuell häufigen Besuchen), was sie wann brauchten, und konnten viel mehr, als smarte Assistenten bisher können (Tipps, welche Bluse man trägt und welche Schuhe dazu passen etc.). Es zeigte sich aber auch, dass die Besucher nicht das taten, wonach sie eigentlich gefragt wurden. Zum Beispiel kochte eine Teilnehmerin gerade in ihrer Wohnung, als jemand das Licht ausschaltete und sich ein Spiel daraus machte, das Licht ständig an- und auszuschalten, bis die Bewohnerin sagte: „Bitte, lassen Sie das Licht an, ich koche gerade, das könnte gefährlich werden!“

TRUSTWORTHY

Fragezeichen?

In Anlehnung an bestehende Heimassistenten wie Alexa von Amazon, Siri von Apple, Google Assistant oder Cortana von Microsoft wollte die Künstlerin erkunden, wie die Intelligenz im Zwischenbereich zwischen Mensch und Maschine funktioniert. „Who is looking and who is being looked at – it is a bigger question …“ meinte sie im Interview und verweist auf die Schwierigkeit, heute erkennen zu können, wohin uns diese neue Transparenz unserer privatesten Räume in Zukunft führen wird, und die daraus abgeleitete weitere Frage wäre: Wenn die Technik bereits so weit entwickelt ist, dass wir unsere privatesten Räume aufgeben, um unser Lebensumfeld zu vereinfachen und andere mithören zu lassen, welche Auswirkungen wird das auf unsere Fähigkeit haben, unsere Lebensqualität und unser wünschenswertes Lebensumfeld aktiv zu gestalten?

In der Kunst hat die Arbeit mit smarten Assistenten schon seit einiger Zeit Eingang gefunden (den ersten Bot in der Kunst verwendete wahrscheinlich Lynn Hershman in „Agent Ruby“, einer Arbeit aus den Jahren 1998-2002), aber in letzter Zeit stelle ich vermehrt eine Zusammenarbeit zwischen Kunstschaffenden, Bots und dem Publikum fest. Und das ist nur ein Beispiel von ganz vielen technischen Devices oder technologischen Möglichkeiten, die mittlerweile zur Verfügung stehen. Ich hab das Beispiel gewählt aufgrund gerade der performativen Qualität der Arbeit und des Potentials des kritischen Diskurses im Ausstellungsraum, der bis hin zum erweiterten Theaterraum/Performanceraum zu denken ist. Außerdem stellt die Künstlerin nicht nur die Frage, was Arbeit in Zukunft für uns Menschen bedeutet, sondern nimmt auch Position zu aktuellen Fragestellungen wie zum Beispiel zur Autonomie von Maschinen und unserem Umgang damit.

Nun, und da sind wie wieder retour bei meiner Frage zu einer Gegenkultur, die wir im Kunst- und Kulturbereich zu entwickeln und zu vermitteln haben. Ein kritisches Verständnis von Technologie mittels Technologie, das nicht nur von Technokraten und Technokratinnen bestimmt ist, sondern von Philosoph*innen, Künstler*innen, Vermittelnden wie Dramaturg*innen und Kunst- und Kulturvermittler*innen.

Denn: in Daten und Daten verarbeitenden Systemen steckt eine Agenda – ob bewusst oder unbewusst. Aber es stehen immer Menschen dahinter, die mehr oder weniger bewusst oder unbewusst agieren …

TRUSTWORTHY

Danke!