Dialog Sächsische Staatskanzlei Gesellschaft und Politik

Dialog zur KI-Strategie des Freistaates Sachsen

Schmuckgrafik - öffne Lightbox

Wie werden wir zukünftig arbeiten? Wie sieht die medizinische Versorgung der Zukunft aus? Wie wird der Verkehr auf unseren Straßen laufen? Wie werden wir leben?

Digitalisierung und Künstliche Intelligenz (KI) werden zukünftig grundlegende Veränderungen in nahezu allen Lebensbereichen bringen und neue Chancen auf Fortschritt eröffnen, zum Beispiel in der Medizin durch präzisere Diagnosemöglichkeiten, im Energiebereich durch die intelligente Verteilung von Netzlastspitzen oder bei der Mobilität durch KI-gesteuerte Verkehrsführung.

Der technologische Wandel bietet dabei nicht nur Chancen vor allem für Forschung und Wirtschaft, sondern er stellt uns auch vor gesellschaftliche Herausforderungen, etwa im Hinblick auf den Schutz der Privatsphäre sowie die Diskriminierungsfreiheit und Transparenz bei KI-Anwendungen und Algorithmen.

Chancen und Herausforderungen der Künstlichen Intelligenz aktiv gestalten

Um diese Chancen und Herausforderungen durch KI in Sachsen aktiv zu gestalten, wird aktuell eine KI-Strategie für den Freistaat Sachsen entwickelt. Sie soll bestehende sächsische Stärken ausbauen, zum Beispiel die sächsische Forschungslandschaft mit 23 außeruniversitären Einrichtungen und 11 Hochschulen, an denen KI-Methoden erforscht bzw. zu Forschungszwecken eingesetzt werden. Ebenso soll die Strategie Handlungsbereiche identifizieren, in denen wir besser werden können, etwa bei den Zugriffs- und Verwendungsmöglichkeiten auf relevante Datenbestände im Industriebereich oder dem Technologietransfer der Forschung in die Wirtschaft.

Die KI-Strategie soll ein Leitfaden sein und Handlungsfelder aufzeigen, um unsere Forschung und Wirtschaft in Sachsen zukunftsfähig und alle Bürgerinnen und Bürger mit KI-Anwendungen vertraut zu machen.

Unter Federführung der Sächsischen Staatskanzlei findet deshalb seit Sommer 2020 eine Workshop-Reihe statt. Dort diskutieren sächsische Expertinnen und Experten aus Wissenschaft, Wirtschaft, Gesellschaft, Politik und Verwaltung über Themen rund um Künstliche Intelligenz im Freistaat Sachsen. Ziel ist es, eine zukunftsfähige KI-Strategie für den Freistaat zu erarbeiten, die auch von den sächsischen Bürgerinnen und Bürgern mitgetragen wird.

Diskutieren Sie mit!

Deshalb sind Sie herzlich eingeladen, hier an dieser Diskussion mit Ihren individuellen Sichtweisen und Anregungen teilzunehmen. Nutzen Sie die Möglichkeit, sich mit Ihren Kommentaren und Hinweisen an der Aufstellung der KI-Strategie des Freistaates Sachsen zu beteiligen: Beispielsweise mit Ihren Erwartungen, wie der Einsatz von KI unsere Arbeitswelt und Mobilität verändern kann oder mit Ideen für konkrete KI-Projekte, die im Freistaat vorangetrieben werden sollen.

Der Online-Dialog ist bis Ende Februar möglich und wir sind gespannt auf Ihre Vorschläge und Anmerkungen. Nach Beendigung des Dialogs wird geprüft, wie die Beiträge in den weiteren Aufstellungsprozess einfließen können, und ein Fazit im Beteiligungsportal veröffentlicht.

Der Entwurf der KI-Strategie wird voraussichtlich im 1. Halbjahr 2021 zur Beschlussfassung ins Kabinett eingebracht und anschließend auf einem „KI-Kongress“ öffentlich vorgestellt.

Wir freuen uns auf Ihren konstruktiven Beitrag.

Beiträge (18)

CWD
Zeitpunkt des Erstellens 28. Februar um 23:45

Verhaltenssteuerung muss diskutiert werden

Ich schließe mich dem Beitrag der Koordinierungsstelle Chancengleichheit Sachsen an. Folgende Punkte sind mir in Bezug von Chancengerechtigkeit zudem wichtig: 1 Äußere Erscheinung Wie tritt die KI im jeweiligen Kontext in Erscheinung? Soll KI vermenschlicht werden? (Welche Figur wird im jeweiligen Kontext verwendet? Welche Stimme wird benutzt? Mit welchem Pronomen wird die KI angesprochen?) - Welche Schlüsse werden dann daraus gezogen? Werden Geschlechterstereotype verstärkt, reproduziert, manifestiert und weitergegeben? Inwieweit werden implizite Bias genutzt bzw. spielen sie eine wichtige Rolle? Steht ein antistereotypisches Design zur Anwendung? 2 Entwicklungsprozess – Frage der Daten Auf welcher Datenbasis rechnet die KI? Was weiß sie von der Welt? Welche Daten schreibt sie fort? Sind diese neutral oder reproduzieren sie Stereotype? Welche Schlüsse zieht die KI aus den Daten? Datengrundlage "kreuzen" (Zentrale Frage der Schemata, Eigenschaften der Ganzheit berücksichtigen – Psychologie des Lernens) 3 Wie wird KI rezipiert? 4 Weiterhin Grundlegende Fragen zur Klärung: Welche Technik möchte man und welche Technik braucht man nicht? Es muss über die Ethik der Verhaltenssteuerung nachgedacht und diskutiert werden! (Verhaltenssteuerungsobjekt) Welche Verhaltensweisen würden wir von der KI akzeptieren/erwarten, welche nicht? Welche Tätigkeiten sollten nicht von der KI ermöglicht werden? Welche Lebensinhalte werden Menschen durch die KI genommen? Ergeben sich daraus Nachteile, Diskriminierungen etc.? Inwieweit werden Menschen durch KI diskriminiert, benachteiligt und ggf. verfolgt?

FelixTemming
Zeitpunkt des Erstellens 28. Februar um 18:14

Unterschiedliche Perspektiven - alle müssen berücksichtigt werden

Perspektive von privaten Konsumenten. Es braucht eine Informationskampagne, die zuallererst erklärt, was KI ist und was das mit Digitalisierung zu tun hat. Grundsätzlich muss der Gesellschaft aber auch klar werden, dass sie künstliche Intelligenz in vielen Fällen bereits trainiert und einsetzt. Das kann auch schon der Anruf bei einer Hotline sein, die Nutzung von Chat-Funktionen auf Webseiten sowieso. Oder Navigationssysteme, die neue/alternative Routen lernen; SmartHome-Systeme, die etwas über tägliche Gewohnheiten lernen; Geräte wie Amazon Alexa, die verschieden Aufnahmen speichern, um die Spracherkennung zu trainieren. Ziel ist Aufklärung und selbstbewusster Umgang mit diesen Technologien. Der Einsatz von KI kann nicht unterbunden werden, eine Kennzeichnungspflicht wäre aber möglich. Der Großteil der Wertschöpfung durch solche KI-Systeme entsteht dabei bei den Entwicklern/Produzenten. Diese sind es auch, die für Anti-Diskriminierungsmaßnahmen Sorge tragen müssen; denn diese Regulierung muss auf Seite der Produzenten greifen, auf Seite der Konsumenten ist das kaum noch möglich. Perspektive der Industrie Als wichtiger Industriestandort, wird in Sachsen auch in der Fertigung vermehrt auf Automatisierungs- und KI-Technologie gesetzt werden. Dieser Bereich ist kaum vergleichbar mit dem Einsatz von KI im privaten Bereich. Doch auch hier stellt sich die Frage, wo die KI-Technologie entwickelt wurde, die in Sachsen eingesetzt wird. Wird diese im Wesentlichen importiert, ist die Abhängigkeit von den Produzenten ähnlich wie im privaten Segment. Wenn sich aber spezielle sächsische Anbieter auf dieses Segment fokussieren und zumindest im Geschäft mit Unternehmenskunden eine führende Rolle einnehmen können, erschließt sich hierdurch auch Gestaltungsraum bei der Entwicklung solcher Systeme. Dann lassen sich auch Anforderungen an Datenschutz und Ethik über die Produzenten umsetzen. Daher gilt es solche lokalen Anbieter zu fördern. Perspektive von KI-Entwicklern Eigene Produzenten von KI-Systemen sind von hoher strategischer Bedeutung um eine Abhängigkeit von wenigen strategischen Unternehmen/Regionen zu entgehen. Wichtigste Ressource für die Entwicklung solcher Produkte sind Fachkräfte, die in ihrer Zahl und Expertise führend sind. Dazu gehört die Förderung von Start-Ups genauso wie die Schaffung großer Entwicklungsstandorte. Als Beispiel sei der Google-Standort in Zürich angeführt, mit 5.000 Mitarbeitern aus 85 Ländern; plus unzählige weitere Unternehmen in diesem Umfeld. Das Beispiel Zürich ist deshalb so wichtig, weil es zeigt, dass die hohen Gehälter und Lebenshaltungskosten in Zürich kein Hinderungsgrund sind. Nur die Schaffung eines technologisch weltweit führenden (und dadurch für Experten anziehenden) Standortes hat diesen Effekt. Das setzt eine enge Kooperation von Forschung/Wissenschaft und Wirtschat voraus. In puncto Ausbildung ist selbstverständlich ein Fokus auf die Förderung von Mädchen und Frauen sowie auf Zuwanderung notwendig. Ohne einen solchen High-Tech Standort für KI entsteht dagegen letztlich ein Preiswettbewerb mit vielen Regionen weltweit. Gehälter von klassischen Softwareentwicklern sind in Spanien z.B. bei ähnlicher Leistungsfähigkeit bis zu 40% niedriger als in Sachsen; in Süddeutschland 40% höher. Man kann dann in Sachsen ausbilden und die Fachkräfte wandern zu einem Teil anschließend ab. Während gleichzeitig große Softwareentwicklungsstandorte woanders zu entstehen. Perspektive Öffentliche Verwaltung Die Möglichkeiten von IT werden in der Öffentlichen Verwaltung noch sehr wenig genutzt, was längere und aufwändigere Prozesse zur Folge hat. Da die meisten Bürger eher mit kommunalen Behörden als mit Behörden auf Bundes- oder Landesebene verkehren dürften, sollte beispielsweise die SAKD deutlich ausgebaut werden. Dies hätte zur Folge, dass a) notwendige Kompetenzen zentral aufgebaut und geteilt werden können und b) keine parallelen Entwicklungen/Beschaffungen zu ähnlichen Gebieten erfolgen.

Koordinierungsstelle Chancengleichheit Sachsen
Zeitpunkt des Erstellens 26. Februar um 22:12

KI und Diskriminierungsrisiken

Die Studie „Künstliche Intelligenz-Kompetenzen und Innovationspotential in Sachsen“ (Fraunhofer IIS/EAS, 2019) befasst sich mit der in Sachsen vorhandenen Expertise rund um das Thema KI sowie mit dem wirtschaftlichen Potential für das Bundesland. Die Studie geht allerdings an keiner Stelle auf das Thema Diskriminierungserkennung und -vermeidung ein – ein Thema, dass mit dem Beginn der Strategieentwicklung mitgedacht werden muss. Die Entwicklung einer KI-Strategie für das Bundesland Sachsen sollte sich an dem Bericht und den Empfehlungen der Enquete-Kommission „Künstliche Intelligenz –Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ (Eingesetzt durch einen Beschluss des Deutschen Bundestages vom 26. Juni 2018, vgl. Bundestagsdrucksache 19/2978) orientieren. Der Bericht der Enquete-Kommission thematisiert Risiken und Potentiale im Bereich Diskriminierung, die wir an dieser Stelle in aller Kürze aufgreifen wollen: Laut Enquete-Kommission haben KI-Systeme das Potential, gesellschaftlichen Fortschritt – z. B. weniger Diskriminierung, mehr Chancengerechtigkeit sowie bessere Arbeitsbedingungen zu unterstützen. Wir unterstützen diese Einschätzung, möchten jedoch auch auf die Diskriminierungsrisiken hinweisen, die von der Enquete-Kommission beleuchtet werden. Insbesondere KI-Systeme, die mit personenbezogenen Daten (u.a. auch Spracherkennung, Gesichtserkennung) arbeiten, sind nicht frei von Diskriminierung. Sie sind nicht objektiv, sondern abhängig von der Datenbasis, mit der sie erstellt werden. Es besteht die Gefahr, dass durch Algorithmen bestehende Ungleichheiten aufgenommen und verschärft werden. Deshalb ist es von zentraler Bedeutung, Diskriminierungsrisiken zum zentralen Kriterium in KI-Entwicklungsprozessen zu machen und KI-gestützte Entscheidungen regelmäßig auf Diskriminierungsfreiheit zu überprüfen. Es muss, so die Enquete-Kommission, „sichergestellt werden, dass staatlich entwickelte und genutzte KI-Systeme [...] nicht diskriminieren. Es muss geprüft werden, ob die Daten in dem algorithmischen Entscheidungssystem in einem der Anwendungsfelder zum Einsatz kommen, die grundrechtlich besonders geschützt sind und in denen es in besonderem Maße auf Gleichbehandlung ankommt (z. B. Zugang zu Sozialleistungen). Dann muss das Ergebnis der maschinellen Entscheidung und [...] das der finalen Entscheidung durch den Menschen regelmäßig daraufhin untersucht werden, ob die Entscheidung diskriminierend ist.“ (Enquete-Kommission 2020, S. 42) Entsprechend gilt es, verbindliche Standards zur Vermeidung von Diskriminierung durch KI zu entwickeln und deren Einhaltung für Nutzer*innen transparent aufzuzeigen. Was das Thema Wissenschaft und Hochschule betrifft, so halten wir es für besonders wichtig, dass das Thema Diskriminierung als fester Bestandteil der Softwareentwicklung bedacht wird, so wie es das Gutachten „Digitalisierung geschlechtergerecht gestalten“ für den Dritten Gleichstellungsbericht der Bundesregierung unterstreicht: Diskriminierung ist als fester Bestandteil „in Ausbildung und Studium der Personen zu verankern, die algorithmische Systeme herstellen oder entwerfen.“ (Sachverständigenkommission für den Dritten Gleichstellungsbericht der Bundesregierung 2021, S. 40) In diesem Zusammenhang bleibt die Forderung, Wissen und Qualifikationen, die entlang der Bildungskette zu Digitalisierung und Technik erworben und vermittelt werden, durch Gender- und Diversity-Kompetenz zu erweitern, für uns weiterhin hochaktuell. Koordinierungsstelle Chancengleichheit Sachsen

Anonym
Zeitpunkt des Erstellens 26. Februar um 13:19

Gute Arbeit by Design" DGB-Konzept: Künstliche Intelligenz für Gute Arbeit

Der DGB verfolgt das Konzept „Gute Arbeit by design“, ein vorausschauender Ansatz zur Arbeitsgestaltung im Kontext von autonomen Softwaresystemen. Die Gestaltung muss bereits bei der Konzeptionierung und in der Entwicklungsphase von KI-Systemen beginnen. Voraussetzung für eine gute Gestaltung ist ein breiter Beteiligungsprozess, der bereits bei der Definition der Zielsetzung für die KI und deren Anwendung beginnt und eine Folgenabschätzung einschließt. Mit dem Papier "Künstliche Intelligenz für Gute Arbeit" soll der Blick auf Fragestellungen und Sollbruchstellen für die Gestaltung von Veränderungsprozessen im Kontext der KI-Nutzung gerichtet werden. Es soll einen Orientierungsrahmen für die gewerkschaftliche, politische und betriebliche Diskussion darstellen und die rechtlichen Lücken in den Rahmenbedingungen für innovative Aushandlungsprozesse zu schließen. (https://www.dgb.de/themen/++co++90915258-9f34-11ea-9825-5254008f5c8c) 10-Punkte-Plan für einen gesetzlichen Ordnungsrahmen für einen verlässlichen KI-Einsatz 1. Schaffung eines gesetzlich verankerten Zertifizierungsverfahrens und Aufbau von unabhängigen Prüf- und Beschwerdestellen zur demokratisch legitimierten Aufsicht und Kontrolle 2. Förderung betrieblicher Aushandlungsprozesse durch eine Stärkung der Mitbestimmungsrechte a) bei der Einleitung, Planung und Durchführung von Kommunikations- und Beteiligungsprozessen von Beschäftigten sowie zur verbindlichen Prozessgestaltung und deren Kontrolle im Rahmen von mitbestimmungspflichtigen Angelegenheiten („prozedurales Mitbestimmungsrecht“). b) durch Erweiterung des Initiativ- und Mitbestimmungsrechts bei der Durchführung betrieblicher Bildungsmaßnahmen zu einem generellen Mitbestimmungs- und Initiativrecht auch bei der Einführung der betrieblichen Berufsausbildung/Qualifizierung (da zu erwarten ist, dass der Einsatz von KI-Systemen zu – auch längerfristig und grundlegend – veränderten Qualifikationsanforderungen im Betrieb führt). c) durch ein generelles Mitbestimmungsrecht bei der Nutzung personenbezogener und personenbeziehbarer Daten sowie zum Schutz der Persönlichkeitsrechte der Beschäftigten. d) verbunden mit der erleichterten Hinzuziehung von externem Sachverstand, die nicht vom vorherigen Einvernehmen mit dem Arbeitgeber abhängig ist. 3. Förderung der Kompetenzentwicklung von Betriebs- und Personalräten für den betrieblichen KI-Einsatz (Komplexität von KI-Systemen sowie datafizierungspolitische Sensibilisierung und Qualifizierung), bspw. durch staatlich geförderte Qualifizierungs- und Beratungsangebote. 4. Einführung eines eigenständigen Beschäftigtendatenschutzgesetzes, um den besonderen Anforderungen bei der Verarbeitung personenbezogener Daten im Betrieb gerecht zu werden. 5. Sachvortragsverwertungsverbot und Beweisverwertungsverbot für rechtswidrig erlangte Beschäftigtendaten und deren Nutzung. 6. Konkretisierung und Verbesserung der bestehenden Regelungen des Allgemeinen Gleichbehandlungsgesetzes (z. B. § 3, 12 und 15 AGG), um Beschäftigte vor Algorithmen-basierter Diskriminierung zu schützen. 7. Verbindlichkeit bei der Umsetzung von Prozessen für Folgenabschätzung und Evaluation von KI-Anwendungen (analog zur Datenfolgenabschätzung nach DSGVO) hinsichtlich der Veränderung der Belastungssituation im Betrieb. 8. Verbindlichkeit für die gesetzlich vorgeschriebene Gefährdungsbeurteilung psychischer Gesundheit und deren Anpassung an KI-Systeme (insbesondere Anti-Stress-VO, Stärkung der Aufsicht). 9. Ausbau der Arbeitsforschung und kritischen Datafizierungsforschung zur Förderung der sozialpartnerschaftlichen Umsetzung von KI-Projekten (Entwicklung von verbindlichen Standards/Rahmenbedingungen). 10. Sozialpartnerschaftlich abgestimmte Entwicklung und Einführung ethischer Leitlinien in der Ausbildung und eines hippokratischen Eids für KI-Entwicklung hinsichtlich der arbeits- und gesellschaftspolitischen Implikationen von KI-Systemen sowie Unterstützungsmaßnahmen zur betrieblichen Orientierung an ethischen Leitlinien.

Anonym
Zeitpunkt des Erstellens 24. Februar um 18:45

Diversität mitdenken

Bei der Entwicklung von KI sollte unbedingt die Diversität der Gesellschaft mitbedacht werden. Geringe Diversitätssensibilität führt zur Verallgemeinerung bestimmter Parameter. Die existierenden und institutionalisierten Normvorstellungen führen bereits jetzt zu vielfältiger Nichtbeachtung und Diskriminierungen bestimmter Lebensentwürfe und Lebensverhältnisse. Werden diese Ungleichheiten produzierenden Verhältnisse unreflektiert ins Digitale bzw. in den Bereich der KI übrtragen, dann würde (un)willkürlich eine Fortschreibung folgen...

Anonym
Zeitpunkt des Erstellens 23. Februar um 14:26

Landesfamilienverband SELBSTBESTIMMTE HANDLUNGSSTRATEGIEN UND INITIATIVEN (SHIA) e.V. LV Sachsen: Beteiligung KI-Strategieentwicklung des Freistaates Sachse

· barrierefreier Zugang für Mädchen, Frauen, alleinerziehende Eltern zur gesamten Technologie: · kostenfreier Zugang zum Internet · Zugang zu / zur Verfügungstellen von adäquaten Endgeräten/Arbeitsmitteln · barrierefreier Zugang zu Ausbildung in allen digitalen Arbeitsfeldern: · hier die besondere Berücksichtigung Alleinerziehender · Aus/Weiterbildung in Teilzeit (!) · in digitalen Arbeitsbereichen müssen die spezifischen Bedarfslagen Alleinerziehender verbindlich (!) berücksichtigt werden · Arbeitszeiten nur außerhalb von Familienzeiten (keine Arbeitszeitentgrenzung) · Teilzeit · verbindliche qualitativ hochwertige Kinderbetreuungsangebote trotz der Möglichkeiten von Homearbeitsplätzen · existenzsichernde Entlohnung bzw. gleicher Lohn - sonst Familien- und Altersarmut · Teilzeit bei vollem Lohnausgleich - sonst Familien- und Altersarmut · Bildung und Erziehung: entweder: pinkfarbenes technisches wie digitales Spielzeug für alle oder aber: Aufhebung der farbspezifischen Zuschreibungen zu einem Geschlecht von (digitalen) Spiel- und Bastelmaterialien, insbesondere bereits in den Kindertageseinrichtungen Anwerbung von Frauen in die Mintberufe · Wissenschaft/Forschung und Politik/Öffentlichkeit/Medien: u.a.: · gendergerechte Sprache · gendergerechte Algorithmusentwicklung · PARITÄTISCHE QUOTIERUNG DER FACHEXPERTISE IN ALLEN GREMIEN /RUNDEN etc. · uvm... Zur Wahrung und adäquaten Berücksichtigung der Interessen auch alleinerziehender Familien und deren gleichberechtigter Partizipation an Zukunfts- und Arbeitsmarktchancen muss der Landesfamilienverband SELBSTBESTIMMTE HANDLUNGSSTRATEGIEN UND INITIATIVEN (SHIA) e.V. LV Sachsen in die KI-Strategieentwicklung des Freistaates Sachsen mit einbezogen werden.

Anonym
Zeitpunkt des Erstellens 23. Februar um 13:37

Antidiskriminierungsgrundsätze nötig

Künstliche Intelligenz hat Chancen und Risiken. Viele der potenziell nachteiligen Auswirkungen und entsprechende Gegenmaßnahmen sind im verlinkten Weißpapier der EU-Kommission und dem Bericht der Enquete-Kommission Wir möchten einige Punkte herausgreifen und ergänzen. Die KI-Anwendungen werden so gut oder so diskriminierungssensibel sein bzw. wie die Menschen, die sie programmiert haben. Es ist bekannt, dass die meisten Beschäftigten im Technologiesektor männlich, weiß, cisgeschlechtlich und heterosexuell sind. Nachgewiesen ist auch, dass diese Homogenität des Personals zu diskriminierenden Auswirkungen von KI-Anwendungen führt. Mehr Diversität in der Arbeitswelt könnte einerseits dazu beitragen, die Fachkräftelücke zu schließen, denn auch Frauen, LSBTTIQ*, Menschen mit Behinderung, Menschen nichtdeutscher Herkunft bzw. mit Rassismuserfahrungen etc. könnten motiviert werden, in den genannten Branchen zu arbeiten. Andererseits helfen vielfältige Perspektiven, diskriminierende Auswirkungen von KI-Anwendungen zu reduzieren. Wir fordern, dass in diesem Zusammenhang Maßnahmen zur Förderung von Diversitäts- und Antidiskriminierungskonzepten am Arbeitsplatz in Behörden und Unternehmen zentral Eingang in die KI-Strategie der Landesregierung finden. Das Wirtschaftsministerium ist hier gefordert, eigene wirksame Programme zu entwickeln, um vielfältige Fachkräfte zu binden und Sachsen als Standort für Startups attraktiv zu machen. Um diskriminierenden Auswirkungen von KI-Anwendungen entgegen zu wirken, muss breites Wissen über gesellschaftliche Diskriminierungsmechanismen und -formen, über Rassismus, LSBTIQ*-Feindlichkeit, Lebensrealitäten von Menschen, die behindert werden und über alle anderen Formen gruppenbezogener Menschenfeindlichkeit umfassend und flächendeckend in sämtlichen relevanten MINT-Studienfächern und Ausbildungsberufen vermittelt werden. Notwendig ist ebenfalls die Implementierung umfassender Antidiskriminierungskonzepte in Hochschulen und Berufsschulen sowie eine umfassende Förderung von Forschungsvorhaben, die sich mit dem Diskriminierungspotential von KI-Technologien auseinandersetzen.Die bisherigen Forschungsergebnisse zu diskriminierenden Anwendungen müssen in die Entwicklungspraxis einfließen. Auf der sächsischen Ebene sollte die Einführung von interdisziplinären Ansprech- und Monitoringstellen geprüft werden, die Leitlinien für die Implementierung von KI-Anwendungen und Lehrinhalte für die Ausbildung von IT-Fachkräften bzw. -Studiengänge entwickeln und für KI-bezogene Diskriminierungsfälle zur Verfügung stehen. Es muss sichergestellt werden, dass staatlich genutzte KI-Systeme nicht diskriminieren. Es muss Möglichkeiten geben, die IT-Anwendungen privater Unternehmen zu kontrollieren und Folgeabschätzungen zu erarbeiten. Zudem ist es nötig, die Öffentlichkeit, insbesondere die von Diskriminierung betroffenen Gruppen, in die Entwicklung dieser Anwendungen aktiv einzubeziehen. Ein mögliches sächsisches Antidiskriminierungsgesetz sollte insbesondere auch auf KI-Risiken anwendbar sein. LSBTTIQ* können von diskriminierenden Auswirkungen betroffen sein, weil sie gesellschaftlich nach wie vor von Stereotypisierungen, Vorurteilen, Anfeindungen, teils rechtlicher Diskriminierung und Gewalt betroffen sind. Diese finden auch Eingang in die entsprechenden Programmierungen, etwa wenn bestimmte Ausschlüsse bereits in der Gestaltung von KI-Systemen vorkommen (z.B. wenn beim Ausfüllen von digitalen Formularen nur „männlich“ oder „weiblich“ angekreuzt werden kann und Personen somit von der Nutzung ausgeschlossen sind) oder wenn es zu Verzerrungen bei der Verwendung von Daten kommt (z.B. wenn das System nur mit Daten von (weißen) Männern trainiert wird, was zu suboptimalen Ergebnissen für (Schwarze) Frauen oder nichtbinäre Menschen führt). Leider reicht der Platz hier für unseren umfassenden Kommentar nicht aus, ich habe ihn per Mail an Sie gesendet. LAG Queeres Netzwerk Sachsen/Vera Ohlendorf/ info@queeres-netzwerk-sachsen.de

Anonym
Zeitpunkt des Erstellens 14. Januar um 09:13

Technologische und moralische offenheit

Die "Digitalisierung" ist seit gut 10 Jahren der Kampfbegriff schlechthin. Wenn man sich aber anschaut was passiert ist, fällt die Brillanz sehr ernüchternd aus. In Deutschland neigen wir gerne dazu Dinge und Prozesse zu moralisieren, das sollten wir bei der Digitalisierung tunlichst vermeiden um technologisch nicht weiter abgeschlagen zu sein. Für mich als Bürger soll die Digitalisierung zu mehr Lebensqualität sorgen. Dazu gehört ganz einfach. 1. Eine schnelle Internetverbindung von min. 100Mbit/s 2. Behörden, welche Ihre Daten untereinander austauschen dürfen um mir die Möglichkeit zu geben viele Behördengänge von zuhause aus tätigen zu können z.B. mit einem Virtuellen Bürgeramt/Rathaus 3. Eine Schule die digitale Kompetenzen vermittelt und im Unterricht einsetzt. Wie kann es sein, das wir im Jahr 2021 immer noch polylux overheadprojektor verwenden ? Dazu gehört auch unwilliges und inkompetentes Lehrpersonal vor die Tür zu setzen. 4. Das Thema Verkehr wird immer sehr emotional behandelt, die einen wollen am besten alles verbieten und die anderen verwehren sich jeglichem Fortschritts. Wir sollten den ÖPNV definitiv ausbauen aber in einer Art und Weise, dass er mit einem privaten PKW konkurrieren kann und dazu müssen wir die starren Strukturen aufbrechen, in dem ein Bus stur im Kreis fährt und aller 50m an einer unbesetzten Haltestelle hält. Kommunen und Betreiber können gemeinsam eine flotte autonom fahrende Autos/ Kleinbusse betreiben, die auf Abruf den Kunden von der Wohnungstür abholen und bis ans Ziel fahren, dazu ist natürlich ein gut ausgebautes 5G Netz notwendig. Versuchsstrecken sollten dafür freigeben und gefördert werden. 5. Einsatz von Robotik in der Pflege, sei es zur körperlichen Unterstützung oder zur späteren emotionalen Betreuung und hier ist ganz wichtig die technologische Offenheit, ohne diese durch Hypermoralisierung im Keim zu ersticken. Mal sehen ob sich was tut, daran Glauben kann ich allerdings nicht da viele Politiker keinen schimmer von Digitalisierung haben.....

Anonym
Zeitpunkt des Erstellens 13. Januar um 22:49

Rahmensetzung im Blick

"KI" bewegt sich auf der Grenze zwischen Buzz-Word und realer Perspektive. Aufgeladen von hohen Erwartungen, bleiben die Anwendungen m.E. noch auf klar umrissene Bereiche beschränkt. Gleichzeitig setz bspw. China den Maßstab, wie schnell neue Anwendungsfelder abgesteckt werden können. Um hier mitzuhalten, sehe ich mindestens drei Punkte: 1. Grundlagenforschung an KI einschließlich Entwicklung von Musterlösungen 2. Lösungstransfer in die Wirtschaft u.a. Anwendungsbereiche durch Transferförderung durch die SAB (FuE Projektforschung mit Fokus KI wieder auflegen) 3. Überprüfung des rechtlichen Rahmens. Beispiel aus der Verwaltung: wenn Melderegister und Personenstandsregister nicht miteinander verbunden sind, werden auch Corona-Tote zur Impfung eingeladen. KI spielt aber erst dann das Potential aus, wenn Daten verknüpft werden. Hier braucht es m.E. neue Mechanismen, wie Datenschutz und Nutzwert abgewogen werden können.

Anonym
Zeitpunkt des Erstellens 13. Januar um 21:27

KI Strategie Sachsens muss zwingend KI-Methoden mit vorhandenen Kompetenzen in der Wirtschaft verknüfpt werden

Wenn man sich im Freistaat Gedanken über die zukünftige Entwicklung macht und dabei die KI als eine Zukunftstechnologie in den Fokus nimmt, so ist dies sehr lobenswert. Beginnen sollte ein solches Konzept mit einer profunden Analyse des Standes von Technik und Wissenschaft und das weltweit. Nun ist die KI längst nichts neues mehr hat Einzug in die meisten Smartphones gehalten, hilft uns bei der Suche im Web u. v. m. Die Welt dreht sich schnell und in Deutschland ist in dieser Technologie ganz sicher nicht führend und wird es wohl so schnell auch nicht mehr. Man könnte fast meinen, wir sind nun in der Rolle Chinas vor einigen Jahren und kopieren und machen nach - nur dass wir es nicht so preiswert machen können. Diese Feststellung darf uns nicht abhalten sich mit dem Thema zu befassen - Im Gegenteil. Wir müssen uns auf das besinnen, was wir gut können, wo wir auf dem Weltmarkt gefragt sind und das mit den neuen Methoden anreichern. Ein Wettbewerb im Bereich der reinen Softwareentwicklung ist vertane Mühe. Ich sehe Kompetenzen der Unternehmen des Freistaates z. B. in dem Bereich der Werkzeug- und Sondermaschinen. Auch in Zukunft werden komplexe, flexible und hochgenaue Fertigungsanlagen benötigt, z. B. für Elektro- und Brennstoffzellenfahrzeuge. Wir sollten nach Anwendungsfällen suchen um KI-Methoden dort anzuwenden, wo wir auf vorhandenen Dingen aufbauen können. Maschinen mit intelligenter Qualitätssicherung, die sich selbst überwacht und bei Bedarf selbstständig Parameter anpasst, z. B. wenn sich die Eigenschaften der Vormaterials geändert haben, die untereinander kooperieren, selbstständig lernen, wie sie mit bestimmten Aufgaben am effizientesten zurechtkommen, das kann ein Fokus sein, wo wir USPs in absehbarer Zeit erzielen können. In der Forschung kommt hier fast nur anwendungsorientierte Forschung in Frage, da die Grundlagen international bereits besetzt sind. Ich wünsche dem Unterfangen viel Erfolg! Es ist definitiv innovativ und sollte mit Hochdruck - und natürlich auch mit Geld - vorangetrieben werden.