Förderjahr 2022 / Stipendien Call #17 / ProjektID: 6194 / Projekt: Algorithmen, AI und widerständige Praktiken
Algorithmen sind im digitalen Zeitalter allgegenwärtig und trotzdem schwer zu erfassen. Der Workshop "Algorithmische Imaginationen" stellt einen Versuch dar, die Auswirkungen algorithmischer Realitätsvermittlung diskursiv zu erarbeiten.
In meinem letzten Blogpost habe ich die Idee und Methodik hinter dem Workshop "Algorithmische Imaginationen" erklärt. Hier möchte ich nun auf einige der Ergebnisse eingehen.
Die unterschiedlichen Darstellungen algorithmischer Imaginationen waren so divers wie aufschlussreich. Die Studierenden, konfrontiert mit der Aufgabe, einen abstrakten Prozess in eine konkretisierte Form zu übersetzen, griffen zu Stift und Papier und ließen ihrer Kreativität freien Lauf. In der anschließenden Diskussion der Zeichnungen und der Analyse nach dem Workshop wurden zwei Hauptperspektiven erkennbar, die ich - wenn auch nicht trennscharf abgrenzbar - so zumindest idealtypisch umreißen möchte.
Abstrakte Prozeduren Ein Teil der Teilnehmenden stellte sich Algorithmen als streng deterministische Prozesse vor, die daher oft als Flussdiagramme oder Ablaufpläne dargestellt wurden. Die Bildsprache griff häufig auf Pfeile zurück, die einen Prozess auf der Bahn zwischen einem Auslöser (Input) zu einem Resultat (Output) durch verschiedenste Entscheidungen leiteten. Diese Sichtweise spiegelt die algorithmische Logik als festgelegte, lineare Abfolge von Schritten wider – eine klare, strukturierte Weise der Problemlösung, die zwar bestimmte Rahmenbedingungen evaluiert und abwägt, jedoch wenig Raum für Unvorhersehbares lässt. Algorithmen erscheinen als „steril“, streng regelgeleitete (und Regeln befolgende) rationale Strukturen. In diesen Darstellungen agierten Algorithmen daher als kalte, gefühllose Rechenmaschinen, deren Wege und mögliche Zielzustände vorher festgelegt sind. Angesprochen auf die die "Macht", die algorithmischen Anwendungen in akademischen und öffentlichen Diskursen oft zugesprochen wird, ergaben sich aus diesen Darstellungen zwei vorherrschende Narrative, welche sich als sozialkonstruktivistisch bzw. ohnmächtig beschreiben lassen. Die erst Ansicht begreift die Rolle von Algorithmen als eine rein sozial konstruierte, in welcher algorithmischer Technologie an sich keine "Macht" zukommt, sondern diese nur Ausdruck der ihr zugrundeliegenden Einsatzszenarien ist. Algorithmen sind damit zwar Manifestationen normativer Steuerungsprozesse (etwa, ob und wem bestimmte Inhalte angezeigt werden und andere nicht), sind an sich jedoch "neutral". Nicht trennscharf abgrenzbar dazu ist eine zweite, als "ohnmächtig" bezeichnete Auffassung, die eine etwaige Macht von Algorithmen teilweise oder vollständig negiert. Als neutrale Vermittler von Informationen üben algorithmische Anwendungen in dieser Perspektive keinen Einfluss auf die sie umgebenden gesellschaftlichen Verhältnisse aus. Menschen würden sich durch Technologien nicht beeinflussen lassen (zum Beispiel durch personalisierte Werbung). Wenn Beeinflussungen dennoch stattfinden seien diese nicht Ausdruck technologischer Macht, sondern viel eher von Versäumnissen in der (Charakter)Bildung.
Anthropomorphe Gebilde Im Gegensatz dazu visualisierte eine andere Gruppe von Teilnehmer:innen Algorithmen eher als anthropomorphe oder organische Strukturen, die Komplexität und Anpassungsfähigkeit aufweisen und damit das unberechenbare und dynamische Naturell von sozialen Interaktionen reflektieren. Diese Illustrationen verliehen Algorithmen menschliche oder naturnahe Züge und sprachen ihnen Eigenschaften wie Lernen, Entwicklung und Wachstum zu. Diese Perspektive entspricht einer Sicht auf Technik, die eng mit menschlichen Qualitäten und lebenden Systemen verbunden ist und deutet darauf hin, dass Algorithmen durch menschliche Interaktionen geformt und weiterentwickelt werden. Gleichzeit zogen diese Imaginationen in Betracht, dass die Funktionsweise von modernen algorithmischen Anwendungen untrennbar mit den Daten verknüpft ist, die innerhalb von anderen sozialen Interaktionen generiert wurden. Dadurch wurde hervorgestrichen, dass auch algorithmische Anwendungen "sozialisiert" sind, und zwar von jenen Informationen, anhand derer sie trainiert wurden. Zentrale Rolle spielten dabei auch affektive Wahrnehmungen und die Beziehungen der Nutzer:innen zu den jeweiligen algorithmischen Systemen. So signalisierten manche Darstellungen, wie der Algorithmus als „guter Freund“ mit tiefgehender Kenntnis über die Interessen und Vorlieben einer Person dafür sorgt, dass uns relevante Inhalte angezeigt werden. Andere hingegen stellten Algorithmen als Wesen dar, die Lebensenergie aus Nutzer:innen heraussaugen.
Interessanterweise offenbaren beide Ansätze tieferliegende Vorstellungen über die Beschaffenheit von Technologie. Während die erste Sichtweise die Vorhersagbarkeit und Kontrollierbarkeit der Algorithmen hervorhebt, betont die zweite ihre Unvorhersehbarkeit und Eigenständigkeit – Eigenschaften, die für lebende Wesen charakteristisch sind. Gleichzeitig führt eine solche, oft biologistische oder anthropomorphe Wahrnehmung oft auch zu einer Mystifizierung, welche die Steuerbarkeit von Technologien (und die Tatsache, dass diese von Menschen mit bestimmten Interessen geschaffen wurden) aufgrund ihrer scheinbaren „Natürlichkeit“ vernachlässigt. Die Diskussion dieser Zeichnungen im Workshop führte zu anregenden Gesprächen über die Implikationen der jeweiligen Sichtweisen auf unsere Interaktion mit Social-Media-Plattformen. Die reflexive Auseinandersetzung förderte das Verständnis dafür, dass unsere eigenen Vorstellungen und Vorurteile maßgeblich beeinflussen, wie wir Technologie interpretieren und nutzen. Gleichzeitig wurde durch die Diskussionen ein Raum geschaffen, in dem auf wahrgenommene Probleme von algorithmischer Realitätsvermittlung nicht nur aufmerksam gemacht, sondern auch versucht wurde Strategien zu entwickeln, um diesen zu begegnen: Immer wieder wurde berichtet, wie absichtlich falsche Daten eingegeben werden um den Algorithmus dazu zu bringen, bestimmte Ergebnisse zu liefern. Durch das Vortäuschen falscher Interessen wurden Algorithmen auch "verhört" und dazu gebracht, ihren Nutzer:innen zu offenbaren, anhand von welchen Kriterien sie Entscheidungen treffen und "Relevanz" evaluieren.
Abschließend zeigt der Workshop, dass Imaginationen von Algorithmen nicht nur ein persönliche Konstrukte, sondern immer auch Reflexion kultureller und sozialer Einflüsse ist. Letztlich öffnete er einen Raum für Dialog und kritische Auseinandersetzung mit den unausgesprochenen Annahmen, die unser Leben in einer digitalen Welt prägen. Es bleibt spannend zu beobachten, wie sich algorithmische Imaginationen entwickeln und wie sie das Design und die Governance von Algorithmen beeinflussen werden. Der Workshop hat dabei gezeigt, dass der beste Weg, komplexe Systeme zu verstehen, manchmal darin besteht, Stift und Papier zur Hand zu nehmen und unsere Vorstellungen zu skizzieren.