Die nächsten nötigen Einschränkungen
40 Prozent der Jugendlichen reden lieber mit KI anstatt mit Menschen. 25 Prozent führen mit Chatbots freundschaftliche oder gar liebesähnliche Beziehungen. Parallel fürchten die Jugendlichen negative Auswirkungen auf ihr menschlich-soziales Leben, so weitere Ergebnisse der neuen KI-Studie von Saferinternet.
Menschen und die Politik diskutieren nötige Einschränkungen gegen die mehrfach negativen Auswirkungen der sogenannten Sozialen Medien auf die soziale und physische Gesundheit von (nicht nur) jungen Menschen. Parallel schwappt mit dem regelrechten KI-Tsunami aber schon die nächste gesellschaftspolitische Herausforderung über die Köpfe der Humanoiden hinweg. Die betroffenen Jugendlichen fordern hier nun aber von Beginn weg Unterstützung, Regeln und gegebenenfalls auch Einschränkungen, so Ergebnisse der KI-Studie von Saferinternet (economy berichtete).
Die Zahlen der ersten umfassenden Studie zur KI-Nutzung von jungen Menschen sind deutlich : 94 Prozent der 11- bis 17-Jährigen nutzen KI-Chatbots. Die hauptsächliche Nutzung betrifft schulische Belange wie etwa Hausaufgaben (rund 75 Prozent) oder das Suchen und Zusammenfassen von Informationen (47 Prozent). Auffallend ist aber die zunehmende Bedeutung von KI in sozialen und emotionalen Bereichen, bis dato auch zwischenmenschlich genannt.
KI kann professionelle Beratung und Hilfe für junge Menschen nicht ersetzen
40 Prozent der befragten jungen Menschen empfinden es oft als hilfreicher, eine KI zu fragen als einen Menschen. Für 30 Prozent ist KI eine Art Freund:in, um Sorgen oder Probleme zu besprechen und die dann auch Trost spenden kann. Rund 25 Prozent führen freundschaftliche Unterhaltungen, knapp 20 Prozent sogar romantische Gespräche. Und über 25 Prozent glauben, dass sich Jugendliche tatsächlich in einen Chatbot verlieben könnten.
Generell ist mit fast 60 Prozent die Mehrheit der Jugendlichen der Ansicht, dass KI-Chatbots häufig gute Ratschläge geben. Trotzdem haben sich schon knapp 20 Prozent aufgrund einer KI-Antwort unwohl gefühlt, wobei männliche Jugendliche (23 Prozent) dies deutlich häufiger wahrnehmen als weibliche (13 Prozent). Aus den Fokusgruppen geht hervor, dass unangenehme Erfahrungen etwa dadurch entstehen, dass Ratschläge zum Umgang mit Menschen als manipulativ empfunden werden oder Antworten negative Gefühle eher verstärken, statt zu entlasten.
Risiken werden von Jugendlichen unterschätzt
Besonders problematisch ist es, wenn KI in sensiblen oder belastenden Situationen als Unterstützung genutzt wird. KI-Systeme können diese nicht in gleichem Ausmaß bieten wie Menschen : „Gerade bei persönlichen oder psychischen Problemen kann eine Beratung durch KI-Chatbots zunächst als Überbrückung dienen, sie stößt aber schnell an ihre Grenzen und kann eine qualifizierte Beratung nicht ersetzen“, warnt Birgit Satke von Rat auf Draht. „Wir beobachten außerdem immer wieder, dass Chatbots Falschinformationen zu Beratungsstellen ausgeben“, so Satke.
Grundsätzlich ist das Vertrauen der Jugendlichen in KI groß : Mehr als die Hälfte verlässt sich darauf, dass ChatGPT & Co korrekte Informationen liefern. Vier von zehn Befragten überprüfen selten bzw. nie, ob die Ergebnisse tatsächlich stimmen. „Auch wenn die Antworten oft plausibel wirken und strukturiert erscheinen, darf man nicht vergessen, dass KI-Chatbots keine Suchmaschinen sind und falsche oder unvollständige Informationen liefern können“, sagt Barbara Buchegger, pädagogische Leiterin von Saferinternet.
„Das Recht auf Privatsphäre muss eindringlicher vermittelt werden“
„Umso wichtiger ist es, KI-Ergebnisse nicht ungeprüft zu übernehmen und bereits vorab zu überlegen, ob eine Suchmaschine oder ein Chatbot für die Frage geeigneter ist“, betont Buchegger. Sorgen bereitet der Mehrheit (56 Prozent) der Jugendlichen auch, dass KI-Tools möglicherweise die Fähigkeit, selbständig über etwas nachzudenken, schwächen könnten. „Man wird irgendwie faul, wenn man alles fragen kann“, so eine Jugendliche in den Fokusgruppen.
Besorgniserregend ist auch, dass 28 Prozent der Befragten glauben, ihre Eingaben in KI-Chatbots seien vertraulich und könnten von niemandem eingesehen oder genutzt werden. Nahezu die Hälfte geht davon aus, dass andere Jugendliche persönliche Daten mit KI-Systemen teilen. Mehr als ein Viertel vertraut KI-Chatbots sogar intime Inhalte an. „Jugendliche gehen teilweise unbedacht mit ihren persönlichen Daten um. Das Recht auf Privatsphäre und welche Auswahlmöglichkeiten es bei den unterschiedlichen Anwendungen gibt, muss eindringlicher vermittelt werden“, plädiert Stefan Ebenberger, Generalsekretär der ISPA für eine stärkere Sensibilisierung Jugendlicher beim Thema Datenschutz.
Positive Einstellung gegenüber KI überwiegt
Insgesamt stehen Jugendliche Künstlicher Intelligenz überwiegend positiv beziehungsweise neutral gegenüber, sowohl mit Blick auf die Gesellschaft als auch auf den persönlichen Nutzen. Mehr als die Hälfte (55 Prozent) sieht KI vor allem als Chance für sich selbst. Als Gefahr bewerten sie sieben Prozent, teils Gefahr und teils Chance sind es 31 Prozent. Damit schätzen sie KI für sich selbst positiver ein als für die Gesellschaft insgesamt. 42 Prozent sehen sie als Chance, 15 Prozent als Gefahr und 35 Prozent sehen sie teils, teils als Gefahr oder Chance.
„Künstliche Intelligenz ist in der Gesellschaft angekommen und hat großes Potenzial. Die Jugendlichen erkennen die Bedeutung der künstlichen Intelligenz, wenden sie an und legen so eine erste wichtige Basis für ihre eigene Zukunft“, resümiert Stefan Ebenberger von der ISPA positiv. Aber : „Wir müssen die jungen Menschen frühzeitig unterstützen, damit sie einen reflektierten und verantwortungsvollen Umgang mit KI erlernen“, unterstreicht Ebenberger.
Klare Forderung nach mehr Bildung im Umgang mit KI
Auch die Jugendlichen selbst wünschen sich mehr Orientierung im Umgang mit Künstlicher Intelligenz. Das zeigt die Erhebung deutlich, wo mehr als die Hälfte der Befragten gerne besser verstehen würde, wie KI eigentlich arbeitet. Tatsächlich hat knapp die Hälfte der Jugendlichen bislang noch nie die Funktionsweise von KI-Systemen altersgerecht erklärt bekommen. Auch beim Thema Altersgrenzen positionieren sich die Jugendlichen eindeutig : Mehr als die Hälfte spricht sich für eine Altersbeschränkung bei der Nutzung von KI-Chatbots aus. Davon halten fast 40 Prozent eine Altersgrenze von 14 Jahren für sinnvoll.
Was das Erlernen von Kompetenzen im Umgang mit KI betrifft, sehen Jugendliche vor allem das Bildungssystem in der Verantwortung. Zwei Drittel erwarten sich Unterstützung durch die Schule, ein Drittel von den Eltern. Die Ergebnisse machen deutlich : Jugendliche wünschen sich nicht nur Regeln, sondern vor allem fundierte Bildung, um KI sicher und verantwortungsvoll nutzen zu können. „Es braucht sichere KI-Chatbots, die auf die Bedürfnisse von Kindern zugeschnitten sind, damit sie den Umgang mit diesen in einem geschützten Rahmen erlernen können“, fordert Barbara Buchegger, pädagogische Leiterin von Saferinternet und Mitinitiatorin der neuen Studie zur KI-Nutzung von Jugendlichen. (red/laucz, red/cc)