Autor: Sabine

Bias in Artificial Intelligence

Posted on by Sabine

ChatGPT danach gefragt, ob es gebiased ist, antwortet das AI (Artificial Intelligence) Tool am 8.4.2024: “Like many AI models, ChatGPT can be susceptible to biases. Bias can arise in various ways, such as how the training data was collected, or the inherent biases present in the texts used to train the model.”

Bias in KI-Tools lassen sich also durch die Daten erklären, die zur Entwicklung dieser Maschinen verwendet werden. Diese Daten sind häufig nicht repräsentativ und basieren auf Meinungen und Einstellungen von Mehrheitsgruppen. So gibt EIGE für das Jahr 2022 europaweit einen Anteil an IT- Spezialistinnen von 18,9% an. Selbstredend sind dann häufig stereotype Vorstellungen gegenüber bestimmten Geschlechtern, Ethnien oder sozialen Gruppen in den Trainingsdaten vorhanden, was dazu führt, dass KI-Modelle in deren großen Breitenwirkung diese reproduzieren und verstärken.

Die Daten wiederum, mit denen z.B. ChatGPT trainiert wurde, stammen primär aus Internetquellen wie Wikipedia, die Enzyklopädie, die sich bereits seit ihrer Gründung durch einen deutlich geringeren Frauen- als Männeranteil auszeichnet. Für das Jahr 2018 wird auch hier ein großes Missverhältnis der Geschlechter festgestellt, wenn es darum geht, wer die Beiträge schreibt: Der Community Insights Report spricht von 90% Männern, 9% Frauen und von 1% andere Personen.

Das ist mittlerweile nichts Neues. Aber diese Bias zu vermeiden, stellt ein durchaus komplexes Unterfangen dar.

Gegen den Bias in AI können verschiedene Maßnahmen ergriffen werden, wie die Datensätze  in der Entwicklung vielfältiger und diverser aufzusetzen, Verzerrungen schon in  dieser Phase zu erkennen, Algorithmen im Nachhinein anzupassen oder die Entwicklungsteams vielfältiger zu besetzen. Vielfach – ganz besonders wenn das  Stärken der allgemeinen Bevölkerung im Fokus steht – muss es aber auch darum gehen, diese Entwicklungen zu reflektieren: Durch die Schaffung von Transparenz und Erklärbarkeit in AI-Systemen können Nutzer*innen besser verstehen, wie Entscheidungen getroffen werden, und potenzielle Verzerrungen identifizieren. Es ist wichtig, dies im Hinterkopf zu behalten und Informationen, die bereitgestellt werden, kritisch zu prüfen und gegebenenfalls andere  Quellen zu konsultieren. Dass sich da bereits etwas tut, zeigt die freundliche  Anregung  von Chat GPT: “If you notice any potential biases in my responses, please feel free to point them out, and I’ll do my best to address them.”

 

 

Neue Maßstäbe in der Bildung

Posted on by Sabine

Die offizielle Kick-Off-Veranstaltung für das Projekt „StAct – Start and Act“, das sich auf soziales und inklusives Unternehmer*innentum in der digitalen Welt konzentriert, fand Ende Oktober  an der Pädagogischen Hochschule Wien statt.

Die herkömmliche Förderung von Entrepreneurship basiert oft auf einem starren, curricularen Ansatz, der die individuelle Entwicklung von Lernenden vernachlässigt. Dabei werden wichtige Aspekte wie die Auswirkungen der digitalen Veränderungen in der Arbeitswelt und die Umsetzung der Nachhaltigkeitsziele der UN-Agenda 2030 oft übersehen. Zudem spielen geschlechter- und diversitätsspezifische Berufsvorstellungen weiterhin eine bedeutende Rolle. „StAct – Start and Act“ setzt genau an diesen Herausforderungen an und ermöglicht Schüler*innen, Gestalter*innen ihrer Zukunft zu werden. Dies geschieht durch die Identifizierung relevanter Themen, die Entwicklung von Fragestellungen und die Bearbeitung von generativen Forschungsprozessen im Rahmen eines Forschungszyklus. Die bisherigen (internationalen) Vorprojekte haben gezeigt, dass dieser Ansatz äußerst motivierend und kompetenzsteigernd ist. Der Zyklus umfasst die Phasen Dialoge (Themenfindung und Entwicklung von Forschungsfragen), Forschung (Explorations- und Forschungsprojekte) und Präsentation (Analyse und Reflexion), wobei die Schüler*innen im Mittelpunkt stehen und aktiv angetrieben werden.

Sogenannte „Living Libraries“ rahmen diese Phasen ein. Auf der Kick-Off-Veranstaltung hatten Schüler*innen und Pädagog*innen die Gelegenheit, „Living Books“ (Vertreter*innen von Start-Ups und Organisationen) kennenzulernen und zu befragen.  Darüber hinaus erhielten sie Inputs über den Digital Playground des Otelo Futurespace und machten sich mit den Nachhaltigkeitszielen der UN-Agenda 2030 vertraut. Zudem konnten die Beteiligten des Projekts wertvolle Kontakte knüpfen und Netzwerke aufbauen. Bei der Abschlussveranstaltung werden dann die Schüler*innen die Rolle der „Living Books“ übernehmen, um ihre Forschungsergebnisse zu präsentieren und ihre Vorstellungen für soziales und inklusives Unternehmer*innentum in der digitalen Welt an relevante Stakeholder*innen aus Bildung, Familie, Gemeinde und Politik weiterzugeben.

Das Projekt zeigt, wie Kinder und Jugendliche aus der HTL Spengergasse, der Mittelschule Geblergasse, der Mittelschule Quellenstraße, der Volksschule Hahngasse und der Volksschule Seestadt – also von der Primarstufe über die Sekundarstufe I Allgemeinbildung bis zur Sekundarstufe II Berufsbildung – ihre Zukunft gestalten können und gleichzeitig wichtige gesellschaftliche Herausforderungen wie Nachhaltigkeit und Vielfalt angehen.

StAct wird vom Bundesministerium für Klimaschutz, Umwelt, Energie, Mobilität, Innovation und Technologie (BMK) im Rahmen der FFG Ausschreibung „Talente Regional 2022“ gefördert.

Gender Bias & Stereotype

Posted on by Sabine

Es handelt sich dabei um geschlechtsbezogene Zuschreibungen und geschlechtliche Verzerrungseffekte.

Stereotype geben Struktur, sie sind grundsätzlich hilfreich, sich in der Welt zurechtzufinden, indem sie Unsicherheiten reduzieren und Orientierung geben. Es sind unbewusste, vereinfachende Vorstellungen, welche die Wahrnehmungen einer Person bestimmen und so zu einer schnellen Einschätzung verhelfen. So wichtig diese in einer komplexen Welt auch sind, bergen Stereotype die Gefahr, dass es zu Zuschreibungen bestimmter Eigenschaften an Personen und -gruppen kommt, die mit dominanten gesellschaftlichen Bewertungen verbunden sind und so Hierarchie und Machtverhältnisse darstellen und gleichzeitig verfestigen.

Die Geschlechterstereotype „Männer sind an Technik interessiert, wenig kommunikativ, wenig empathisch, mathematisch begabt, zielstrebig, entscheidungsfreudig, …“ stehen in Differenz zu „Frauen sind technisch nicht interessiert, kommunikativ, empathisch, mathematisch nicht begabt, teamorientiert, sozial …“. Völlig außer Acht gelassen werden in diesen Diskussionen Menschen, die sich in ihrer Vielfalt nicht in derartige Dichotomien einordnen lassen. Obgleich die aktuelle Forschung Erklärungen vorweist und widerspricht, sind diese „natürlich gegebenen“ Vereinfachungen mit allen ihren individuellen beruflichen, gesellschaftlichen und ökonomischen Konsequenzen sehr hartnäckig und weit verbreitet.

Damit sind wir beim Gender-Bias, der durch das Aufgreifen dieser Geschlechter-Stereotype systematische Verzerrungseffekte im Handeln bedingt. Es geht um eine unbewusste Beeinflussung von Wahrnehmung und Entscheidungen durch derart  dichotome, positive oder negative Bewertungen einer  Person. Im beruflichen Kontext geht es hier beispielsweise darum, wie Lebensläufe bewertet werden, wie Entscheidungen über eine Aufnahme ins Unternehmen getroffen werden, wie über Karriereentwicklungen entschieden wird oder wie Gehaltssprünge argumentiert werden. Dass es hier trotz der rechtlichen Gleichstellung im Bundes- und Gleichbehandlungsgesetz noch einiges an Reflexionsarbeit braucht, zeigt jedenfalls der Gender-Pay-Gap, in Österreich im Jahr 2020 bei 18,9 % (gerechnet über Bruttoverdienste von Männern und Frauen) liegt und somit weit entfernt ist von Durchschnitt der EU-Länder mit 13 %. Der bereinigte (Berücksichtigung von Teilzeitarbeit, Branche, Bildungsstand oder Berufserfahrung) Gender-Pay-Gap liegt in Österreich immer noch auf 12,7 % zeigen die Daten der Statistik Austria aus 2020.

Mehr dazu erfahren Sie in unseren Workshops

Intersektionalität am Weg

Posted on by Sabine

Waren es in den 1970er und 1980er Jahren die Gleichheits- und die Differenztheorien, hat sich später die (De)Konstruktion durchgesetzt, welche wiederum eine Basis für die aktuell stark verbreiteten Intersektionalitäts-Theorien darstellt.

Intersektionalität ist ein Konzept, das Ende der 1980er Jahre in den USA entstanden ist, der Name Kimberlé Crenshaw ist mit dessen Entstehungsgeschichte untrennbar verbunden. Es waren Schwarze Feministinnen, die ihre weißen Kolleginnen dafür kritisierten, dass sie sich anmaßten, für sie zu sprechen, denn ihre Kontexte unterscheiden sich deutlich von denen der weißen Frauen. Sie sind nicht nur von Geschlechterdiskriminierungen betroffen, sondern auch von den ethnischen Diskriminierungen, die sich an der Hautfarbe festmachen lassen: Sexismus trifft Rassismus. Intersektionalitäts-Theorien gehen davon aus, dass strukturgebende Kategorien wie Geschlecht oder Ethnie nicht isoliert voneinander betrachtet werden können, sondern in ihrer Verwobenheit miteinander analysiert werden müssen.

Stereotype Vorstellungen von Männern* und Frauen*, was deren Einstellungen, Verhaltensweisen, Interessen oder Kompetenzen betrifft und die damit verbundenen Hierarchisierungen und sozialen Machtaspekte, stehen also in einer Wechselwirkung mit ebenso weitgehend unhinterfragten Vorstellungen über weitere Diversitätsfaktoren. Sexismus und Rassismus trifft somit auch sozialen Status, Religion, Bildung, sexuelle Orientierung, Behinderung oder Alter. Kimberlé Crenshaw bietet dafür die Metapher einer Kreuzung „Intersection“ an, in deren Mitte marginalisierte Gruppen zu denken sind, auf die Diskrimierungen (Unfälle) aus mehreren oder allen Straßenrichtungen gleichzeitig treffen können. Diskriminierungsformen von Geschlecht und Alter gepaart mit Religion beispielsweise können dabei nicht einzeln gedacht werden, sondern beeinflussen sich gegenseitig, potenzieren sich und das bedeutet auch, dass so neue Formen von Diskriminierung entstehen können.

Das scheint alles sehr logisch, aber gleichzeitig auch schwer zu fassen. Wann und wo treten derartige mit Machtunterschieden und Hierarchisierungen verbundene Formen von Diskriminierungen auf? Was bedeuten diese Mehrfachdiskriminierungen für die Betroffenen? Wie kann damit umgegangen werden? Diese Fragen stellen jedenfalls ein breites Handlungsfeld für eine Intersektionalitäts-orientierte Forschung dar.

Ein inklusives Bildungsmodell

Posted on by Sabine

Ziel war den Schüler*innen über einen selbstgesteuerten Prozess, der eine (online) Dialog-, Forschungs- und Analyse und Präsentationphase enthält, zu ermöglichen, Themen im Kontext der 17 Nachhaltigkeitsziele der UN-Agenda 2030 auszuwählen, frei zu explorieren und zu erforschten und schließlich ihre Ergebnisse der Öffentlichkeit und Stakeholdern*innen zu präsentieren. Das CEPNET-Projekt entwickelte ein Modell für Grundschulen, das die Ebenen des Unterrichts vor Ort und in der digitalen Welt auf innovative Weise miteinander verbindet.

In der Evaluation des Projekts hat sich gezeigt, dass CEPNET die Möglichkeit bietet, Schule neu zu denken – die Schüler*innen  in ihrer Vielfalt an die erste Stelle zu setzen und ihre Interessen in den Mittelpunkt zu stellen. Die Schüler*innen wurden gestärkt, steigerten ihre kognitiven und emotionalen Kompetenzen und erweitern ihre Einstellungen. Die Kinder arbeiteten zu den unterschiedlichsten UN-SDGs, es hätte aber auch jedes andere Thema sein können, wie z.B. ein Fokus auf Kinderrechte, Unternehmer*innentum, Citizen Science oder Digitalisierung. Die Themen stehen nicht im Vordergrund – der Fokus liegt auf der strukturellen Verankerung des Modells zur Stärkung der Kinder in der Schule. Für die Pädagog*innnen bedeutet dieses Modell, dass sie in den Hintergrund treten und ihre klassische Funktion der Wissensvermittlung zugunsten einer Rolle als Coach für die Kinder eintauschen.

Dies setzt Vertrauen in die Kinder voraus und hat sich in CEPNET bewährt: Die Schüler*innen haben ihre Forschungen mit großer Freude durchgeführt und die hohe Zahl der Pädagog*innen, die das Modell in ihre reguläre Unterrichtspraxis integrieren werden, zeigt seinen didaktischen Nutzen. Auf diese Weise zieht CEPNET seine Kreise bis in die Familien hinein, wie die hohe Wertschätzung der Forschungsergebnisse der Schüler durch ein Elternteil zeigt: „Ein erstaunlicher Tag, an dem man die harte Arbeit und die Bemühungen sowohl der Erwachsenen als auch der Kinder deutlich sehen konnte.“ Darüber hinaus blieb CEPNET nicht bei der Schule oder der Familie stehen, sondern erstreckt sich auf die Gemeinden und auch auf die Regierungsebene.

 

 

© 2022 by MOVES