Am 21. Januar 2025 wurde bekannt, dass Forschende der Universitäten Passau und Bamberg ein wichtiges Projekt zur Untersuchung der Entwicklung generativer KI-Modelle in Russland unter strenger Aufsicht starten. Das Projekt, bekannt als AI-PROP, wird von der Bayerischen Forschungsinstitut für Digitale Transformation (bidt) mit einer Summe von 930.000 Euro über drei Jahre gefördert und beginnt offiziell am 1. April 2025. Dieses Vorhaben hat das Ziel, die Auswirkungen autoritärer Daten auf KI-Systeme in demokratischen Staaten zu analysieren, was angesichts der globalen Entwicklungen im Bereich der Künstlichen Intelligenz von großer Bedeutung ist.
Die Leitung des Projektes obliegt Prof. Dr. Florian Töpfl von der Universität Passau, der sich auf Politische Kommunikation und Osteuropa spezialisiert hat. Er betont, dass generative KI in der Lage ist, täuschend echte Inhalte zu produzieren. Dies hat weitreichende Folgen für die Informationszirkulation in modernen Gesellschaften. Autoritäre Regime, wie China und Russland, entwickeln solche KI-Technologien unter staatlicher Kontrolle, um sicherzustellen, dass die generierten Inhalte mit den politischen Narrativen der herrschenden Eliten übereinstimmen. Dieselben Regime haben bereits die Nutzung von Anwendungen wie ChatGPT untersagt.
Forschungsausrichtung und Fragestellungen
Im Rahmen des Projekts AI-PROP werden zwei zentrale Fragen untersucht: Die Einbettung autoritärer KI-Systeme in die russische Gesellschaft sowie die Auswirkungen autoritärer Daten auf westliche KI-Systeme. Die Forschung organisiert sich in vier Arbeitspaketen, die sich mit der Regulierung von Sprachmodellen in Russland und den westlichen Demokratien beschäftigen. Ein wesentlicher Aspekt wird sein, die Unterschiede in den generierten Inhalten zwischen autoritären und demokratischen Staaten zu analysieren.
Eine wichtige Zielsetzung des Projekts ist die Stärkung der Widerstandskraft von Demokratien gegen autoritäre Einflussnahme durch KI. Öffentlichkeitsarbeit und Wissenstransfer werden ebenfalls Teil dieses Vorhabens sein, einschließlich der Entwicklung eines Leitfadens gegen Propaganda. Wissenschaftler wie Prof. Dr. Florian Lemmerich, der sich auf Angewandtes Maschinelles Lernen an der Universität Passau spezialisiert hat, sowie Prof. Dr. Andreas Jungherr aus Bamberg, welcher im Bereich Digitale Transformation tätig ist, ergänzen das Team.
Aktuelle Entwicklungen in der KI
Parallel zu dieser Forschung hat ein Artikel, der am 20. Juli 2024 eingereicht und zuletzt am 23. August 2024 überarbeitet wurde, wichtige Fortschritte im Bereich generativer KI und großer Sprachmodelle thematisiert. In diesem Artikel, verfasst von Desta Haileselassie Hagos und anderen, wird der aktuelle Stand der Technologien beleuchtet, bemerkenswerte Fortschritte und Anwendungen thematisiert sowie technische Grundlagen und praktische Herausforderungen analysiert. Ziel ist es, das Verständnis der generativen Fähigkeiten von KI-Systemen zu vertiefen und Forschungslücken zu identifizieren, die zukünftige Untersuchungen unterstützen können.
Wie die Akademie für Politische Bildung berichtet, beeinflusst die Digitalisierung nahezu alle Lebensbereiche, was unterstreicht, dass der Grad der Digitalisierung als entscheidender Wirtschaftsfaktor gilt. Politische Bestrebungen, Deutschland zum führenden Standort für Künstliche Intelligenz zu machen, stehen im Kontext von Hoffnungen auf positive gesellschaftliche Veränderungen sowie Skepsis und Ängsten in Bezug auf Fremdbestimmung und Datenschutz. In Zeiten wie diesen, besonders nachdem die COVID-19-Pandemie die Digitalisierung beschleunigt hat, wird Medienkompetenz als zunehmend wichtig erachtet.
Es wird deutlich, dass technisches Wissen allein nicht ausreicht. Es ist entscheidend, technische Expertise mit den politisch-gesellschaftlichen Aspekten der Digitalisierung zu verknüpfen. Die Akademie beleuchtet die vielfältigen Dimensionen der Digitalisierung, einschließlich der Funktionsweise von Technologien, der Anwendungszusammenhänge und der gesellschaftlichen Veränderungen, die sich durch den digitalen Wandel ergeben.
Insgesamt zeigt sich, dass die Verbindung von Forschung im Bereich der autoritären KI mit den Herausforderungen und Trends der Digitalisierung eine zentrale Rolle spielt, um die Widerstandsfähigkeit demokratischer Systeme im Angesicht wachsender autoritärer Versuche der Einflussnahme zu stärken.
Uni Passau | arXiv | Akademie für Politische Bildung
