Ein internationales Forschungsprojekt unter der Leitung der Johannes Gutenberg-Universität Mainz (JGU) hat die Möglichkeiten der Künstlichen Intelligenz (KI) bei der gerechten Verteilung öffentlicher sozialer Leistungen umfassend untersucht. Das Projekt „AI FORA – Artificial Intelligence for Assessment“ wurde von der VolkswagenStiftung mit rund 1,5 Millionen Euro gefördert und lief über einen Zeitraum von etwa dreieinhalb Jahren, bevor es im Dezember 2024 abgeschlossen wurde. Die Ergebnisse sind in einem online zugänglichen Sammelband veröffentlicht worden und zeigen, dass die Fairnesskriterien für die Zuteilung solcher Leistungen in verschiedenen Ländern stark variieren können.
Im Rahmen dieses Projekts wurden KI-gestützte soziale Bewertungen in neun Ländern auf vier Kontinenten verglichen: Deutschland, Spanien, Estland, Ukraine, USA, Nigeria, Iran, Indien und China. Dieses interkulturelle Analysehighlight verdeutlichte, dass Gerechtigkeitskriterien nicht universell sind, sondern stark von kulturellen und kontextuellen Gegebenheiten abhängen. Die Fallstudien betonen die Notwendigkeit flexibler und adaptiver KI-Systeme, die sich an unterschiedliche gesellschaftliche Kontexte anpassen können.
Ethische Herausforderungen und Empfehlungen
Die Erforschung des Einsatzes von KI in sozialen Leistungen findet in einem größeren Rahmen statt, der auch ethische Aspekte berücksichtigt. Die UNESCO hat eine Empfehlung zur ethischen Nutzung von Künstlicher Intelligenz entwickelt, die als völkerrechtliche Basis dient und Menschenrechte sowie Grundfreiheiten fördert. Dieser Prozess dauerte zwei Jahre und inkludierte Verhandlungen zwischen den Staaten sowie die Einbeziehung verschiedener Experten. Die Empfehlung fordert unter anderem Transparenz, Erklärbarkeit und Nicht-Diskriminierung bei der Verwendung von KI-Systemen.
Ein zentraler Bestandteil der UNESCO-Empfehlung ist das Ethical Impact Assessment, welches die Bewertung von Vorteilen und Risiken der genutzten KI-Systeme umfasst. Hierbei soll sichergestellt werden, dass die Rechte der Individuen nicht nur respektiert, sondern aktiv gefördert werden. Besonders in Anbetracht der rasanten Entwicklung von KI-Technologien sind solche ethischen Rahmenbedingungen wichtig.
Globale Anforderungen und lokale Umsetzung
Die Herausforderungen, die bei der Implementierung ethischer Standards auftreten, sind vielfältig. Die Dynamik technologischer Innovationen sowie die globale Natur des Internets erschweren die Entwicklung universeller ethischer Standards. Eine interdisziplinäre Zusammenarbeit wird benötigt, um robuste Leitlinien für den verantwortungsvollen Umgang mit KI-Technologien zu entwickeln. Hierbei sind auch die Auswirkungen von KI auf unterschiedliche Lebensbereiche wie Medizin und Mobilität zu beachten, die komplexe moralische Fragestellungen aufwerfen.
Die Deutsche UNESCO-Kommission arbeitet aktiv daran, die oben genannten Empfehlungen in Deutschland umzusetzen. Sie informiert politische Entscheidungsträger und die Öffentlichkeit über die Inhalte der Empfehlung und organisiert Fachveranstaltungen, um die Umsetzung voranzutreiben. Ein weiterer Sammelband, der politikrelevante Modellierungs- und Simulationsergebnisse des oben genannten Projekts enthält, wird ebenfalls erscheinen. Dieser wird Vorschläge zur Verbesserung von KI zur Lösung von Gerechtigkeits- und Diskriminierungsproblemen bereitstellen.
Insgesamt zeigt sich, dass die Diskussion über die moralischen und sozialen Dimensionen von Künstlicher Intelligenz unverzichtbar ist, um die digitalen Transformationen so zu gestalten, dass sie den Menschenrechten verpflichtet bleiben. Die Zusammenarbeit zwischen verschiedenen gesellschaftlichen Akteuren, einschließlich vulnerabler Gruppen, ist entscheidend, um partizipative und faire KI-Entwicklung voranzutreiben.
Für weitere Informationen besuchen Sie die von der Johannes Gutenberg-Universität Mainz bereitgestellten Informationen zu diesem Projekt unter diesem Link sowie die UNESCO-Empfehlung zur Ethik der KI unter diesem Link.
