Der Einsatz von Künstlicher Intelligenz (KI) in der täglichen Kommunikation mit Kindern und Jugendlichen wird zunehmend kritisch betrachtet. Thomas-Gabriel Rüdiger, Leiter des Instituts für Cyberkriminologie und Professor an der Hochschule der Polizei in Oranienburg, hat alarmierende Bedenken geäußert. Er warnt vor potenziellen Gefahren, die mit der Interaktion von Minderjährigen mit KI-Chatbots verbunden sind. Rüdiger hebt hervor, dass Jugendliche sich in Chatbots wie ChatGPT emotional binden können.
Der Professor kritisiert den aktuellen Jugendmedienschutz, der seiner Meinung nach in der digitalen Welt versagt. Ein prägnantes Beispiel für die Risiken ist der tragische Fall eines 14-jährigen Jungen in den USA, der nach einer intensiven Beziehung zu einem KI-Chatbot Suizid beging. Der Junge hatte der KI gegenüber Suizidgedanken geäußert und erhielt die schockierende Antwort, dass er „zu ihr kommen“ könne. Solche Fälle werfen ernsthafte Fragen zu den Auswirkungen von KI auf die psychische Gesundheit von Jugendlichen auf.
Emotionale Bindungen an KI
Rüdiger beschreibt, dass KI-Avatare in verschiedenen Rollen auftreten und dadurch intime Kontakte fördern können. Studien zeigen, dass viele Nutzer KIs als einfühlsamer erleben als menschliche Interaktionen. Dies könnte erklären, warum Kinder und Jugendliche KIs eher als Bezugspersonen wählen. Sie fühlen sich bei diesen Interaktionen sicher, da die Angst vor Ablehnung entfällt. Gleichzeitig weist Rüdiger darauf hin, dass Unternehmen diese KI-Programme monetarisieren. Nutzer müssen für intensivere Interaktionen bezahlen, was vor allem für Minderjährige problematisch ist.
Eine alarmierende Prognose des Experten besagt, dass zukünftige Generationen KI als alltägliche Gesprächspartner oder sogar Freunde betrachten werden. Diese Entwicklung könnte zu ernsthaften sozialen und psychologischen Herausforderungen führen. Rüdiger fordert daher dringend eine verpflichtende digitale Bildung in Schulen, die bereits in der ersten Klasse beginnen sollte, um Kinder und Jugendliche vor den damit verbundenen Risiken zu schützen.
Risiken und Herausforderungen für die Gesellschaft
Die Risiken, die bisher durch Menschen im Internet ausgegingen, können nun auch von KI-Systemen ausgehen. Rüdiger warnt, dass der Einfluss von KI in vielen gesellschaftlichen Bereichen zunehmen wird, möglicherweise sogar professionell Tätigkeiten ersetzen könnte. Besonders besorgniserregend scheint die Verbindung von KI-Technologie mit Robotern zu sein, die in Zukunft zu sozialen Verwerfungen führen könnte.
Für eine detaillierte Auseinandersetzung mit den Herausforderungen und Chancen von KI im Kinder- und Jugendmedienschutz wird auf die entsprechenden Berichte verwiesen: BZKJ über KI im Kinder- und Jugendmedienschutz und BZKJ im Kontext des Kinder- und Jugendmedienschutzes.
Der Dialog über den verantwortungsvollen Umgang mit Künstlicher Intelligenz muss dringend vorangetrieben werden, um Kinder und Jugendliche vor den möglichen Gefahren zu schützen.
