via scherlund
Aktueller bildungspolitischer Sturm im Wasserglas, digitalisierungs-induziert: der „künstlich-intelligente“ Chat-Automat ChatGPT, mit dessen Hilfe das Wettrennen zwischen Prüflingen und Prüfer_innen ums Bescheißen und Entdeckt-werden in eine neue Runde geht: Die Empörung ist groß: Wo kommen wir da hin, wenn jetzt eine kalifornische KI unseren Kindern und jungen Leuten die Hausaufgaben macht!!!
Angesichts vieler euphorischer Berichte (exemplarisch: ein Beitrag auf gnulinux.ch) und auch eigener erstaunlicher Erfahrungen: Eine kurze Recherche zum Thema artificial intelligence (AI, KI) führt zu einer wissenschaftlich festgestellten Bedrohung ganz anderer Art: die als wahrscheinlich anzunehmende zukünftige Auslöschung der Menschheit durch ein alien within, eine irdische, menschengemachte, allerdings aus dem Ruder gelaufene KI. Beim Nachdenken über dieses neuartige, doch etwas beunruhigendere Katastrophenszenario weckt mich ein Statement von J. Khadijah Abdurahman, ehem. Tech Research Fellow beim Center for Critical Internet Inquiry (C2I2) an der UCLA und aktiv bei „We Be Imagining“ an der Columbia University. Sie forscht an der Schnittstelle zwischen biopolitischem Aktivismus, Bevölkerungspolitik und Rassismus. Sie formuliert, was aus linker Perspektive beim Thema Künstliche Intelligenz klar sein müsste:
Algorithmen haben die rassistische Polizeiarbeit bereits in eine „vorausschauende Polizeiarbeit“ verwandelt, die die Überwachung und Brutalität, die rassischen Minderheiten vorbehalten ist, als notwendig rechtfertigt. Algorithmen haben Sparmaßnahmen in Wohlfahrtsreformen umgetauft und den seit langem widerlegten Argumenten, dass Sozialprogramme aufgeblähte Budgets haben, weil (nicht-weiße) Empfänger sie missbrauchen, einen digitalen Anstrich gegeben. Algorithmen werden verwendet, um Entscheidungen darüber zu rechtfertigen, wer welche Ressourcen erhält, Entscheidungen, die in unserer Gesellschaft bereits mit der Absicht getroffen wurden, zu diskriminieren, auszuschließen und auszubeuten.
Die Diskriminierung verschwindet nicht in den Algorithmen, sondern strukturiert und begrenzt die Art und Weise, wie das Leben abläuft, und informiert darüber. Polizeiarbeit, Wohnungsbau, Gesundheitsfürsorge, Transportwesen – sie alle wurden bereits mit dem Ziel der Rassendiskriminierung konzipiert. Was wird passieren, wenn wir Algorithmen erlauben, diese Entwürfe nicht nur zu beschönigen, sondern ihre Logik noch zu vertiefen? Eine langfristige Sichtweise, die sich mit dem Risiko des Aussterbens der Menschheit befasst, läuft Gefahr, die Gegenwart aus den Augen zu verlieren, in der Menschen aufgrund von Algorithmen leiden, die in einer Gesellschaft eingesetzt werden, die auf der Ausbeutung und dem Zwang aller, insbesondere aber der rassischen Minderheiten, beruht. (Quelle/Übersetzung: DeepL.com)
Schon heute (nicht erst irgendwann in einer dystopischen Zukunft) gefährden die Auswirkungen algorithmisch überformter sozialer Verhältnisse Schicksale und Menschenleben. Nicht die Künstliche Intelligenz, die jetzt zur Hausaufgabenhilfe benutzt wird, ist das Problem. Es ist die Konkurrenz, auf die das (Aus-)Bildungsprogramm spätestens mit der kindergärtnerischen Vorschule ausgerichtet ist (vgl. meine Ausführungen anlässlich der Lernplattform Anton-App). Das ganze ließe sich auch am smarten Logistiksystem von Amazon durchdeklinieren, das nicht per se schlecht ist, sondern „nur“ indem es die finale Konkurrenz im Bereich Handel&Logistik überformt. It’s capitalist competition, stupid!
Aktuelle und zu befürchtende gesellschaftliche Schäden durch Digitalisierung und KI werden in der bürgerlichen Gesellschaft von der technologischen Entwicklungsarbeit abgekoppelt und an Ethikkommissionen und -spezialist_innen delegiert. Kapitalismuskritik oder auch nur die Kritik herrschender gesellschaftlicher Verhältnisse im Rahmen dieser KI-ethischen Debatten ist zwar nicht neu, verpufft aufgrund der disziplinären Trennung jedoch fast zwangsläufig. KI-ethische Debatten führen bestenfalls zu kapitalismus-konformer „Technikfolgenabschätzung“, die dann wieder Eingang findet in staatliche und staatsnahe Regulierungsversuche. Nichts anderes ist ihr Zweck hier und jetzt.
