Antidiskriminierungsgrundsätze nötig
Künstliche Intelligenz hat Chancen und Risiken. Viele der potenziell nachteiligen Auswirkungen und entsprechende Gegenmaßnahmen sind im verlinkten Weißpapier der EU-Kommission und dem Bericht der Enquete-Kommission Wir möchten einige Punkte herausgreifen und ergänzen.
Die KI-Anwendungen werden so gut oder so diskriminierungssensibel sein bzw. wie die Menschen, die sie programmiert haben. Es ist bekannt, dass die meisten Beschäftigten im Technologiesektor männlich, weiß, cisgeschlechtlich und heterosexuell sind. Nachgewiesen ist auch, dass diese Homogenität des Personals zu diskriminierenden Auswirkungen von KI-Anwendungen führt. Mehr Diversität in der Arbeitswelt könnte einerseits dazu beitragen, die Fachkräftelücke zu schließen, denn auch Frauen, LSBTTIQ*, Menschen mit Behinderung, Menschen nichtdeutscher Herkunft bzw. mit Rassismuserfahrungen etc. könnten motiviert werden, in den genannten Branchen zu arbeiten. Andererseits helfen vielfältige Perspektiven, diskriminierende Auswirkungen von KI-Anwendungen zu reduzieren. Wir fordern, dass in diesem Zusammenhang Maßnahmen zur Förderung von Diversitäts- und Antidiskriminierungskonzepten am Arbeitsplatz in Behörden und Unternehmen zentral Eingang in die KI-Strategie der Landesregierung finden. Das Wirtschaftsministerium ist hier gefordert, eigene wirksame Programme zu entwickeln, um vielfältige Fachkräfte zu binden und Sachsen als Standort für Startups attraktiv zu machen. Um diskriminierenden Auswirkungen von KI-Anwendungen entgegen zu wirken, muss breites Wissen über gesellschaftliche Diskriminierungsmechanismen und -formen, über Rassismus, LSBTIQ*-Feindlichkeit, Lebensrealitäten von Menschen, die behindert werden und über alle anderen Formen gruppenbezogener Menschenfeindlichkeit umfassend und flächendeckend in sämtlichen relevanten MINT-Studienfächern und Ausbildungsberufen vermittelt werden. Notwendig ist ebenfalls die Implementierung umfassender Antidiskriminierungskonzepte in Hochschulen und Berufsschulen sowie eine umfassende Förderung von Forschungsvorhaben, die sich mit dem Diskriminierungspotential von KI-Technologien auseinandersetzen.Die bisherigen Forschungsergebnisse zu diskriminierenden Anwendungen müssen in die Entwicklungspraxis einfließen. Auf der sächsischen Ebene sollte die Einführung von interdisziplinären Ansprech- und Monitoringstellen geprüft werden, die Leitlinien für die Implementierung von KI-Anwendungen und Lehrinhalte für die Ausbildung von IT-Fachkräften bzw. -Studiengänge entwickeln und für KI-bezogene Diskriminierungsfälle zur Verfügung stehen. Es muss sichergestellt werden, dass staatlich genutzte KI-Systeme nicht diskriminieren. Es muss Möglichkeiten geben, die IT-Anwendungen privater Unternehmen zu kontrollieren und Folgeabschätzungen zu erarbeiten. Zudem ist es nötig, die Öffentlichkeit, insbesondere die von Diskriminierung betroffenen Gruppen, in die Entwicklung dieser Anwendungen aktiv einzubeziehen. Ein mögliches sächsisches Antidiskriminierungsgesetz sollte insbesondere auch auf KI-Risiken anwendbar sein.
LSBTTIQ* können von diskriminierenden Auswirkungen betroffen sein, weil sie gesellschaftlich nach wie vor von Stereotypisierungen, Vorurteilen, Anfeindungen, teils rechtlicher Diskriminierung und Gewalt betroffen sind. Diese finden auch Eingang in die entsprechenden Programmierungen, etwa wenn bestimmte Ausschlüsse bereits in der Gestaltung von KI-Systemen vorkommen (z.B. wenn beim Ausfüllen von digitalen Formularen nur „männlich“ oder „weiblich“ angekreuzt werden kann und Personen somit von der Nutzung ausgeschlossen sind) oder wenn es zu Verzerrungen bei der Verwendung von Daten kommt (z.B. wenn das System nur mit Daten von (weißen) Männern trainiert wird, was zu suboptimalen Ergebnissen für (Schwarze) Frauen oder nichtbinäre Menschen führt).
Leider reicht der Platz hier für unseren umfassenden Kommentar nicht aus, ich habe ihn per Mail an Sie gesendet.
LAG Queeres Netzwerk Sachsen/Vera Ohlendorf/ info@queeres-netzwerk-sachsen.de