KI in der (Aus-) Bildung: Effizienz-Booster oder Risiko?

Generative KI kann Prozesse vereinfachen, den Arbeitsaufwand reduzieren und sogar kritisches Denken fördern – wenn sie richtig eingesetzt wird. Doch sie birgt auch Risiken! Die entscheidende Frage lautet: Nutzen wir KI u.a. als Werkzeug zur Effizienzsteigerung – oder untergräbt sie wichtige Zukunftskompetenzen und produziert massenhaft Fehl- und Desinformationen?

Vorab: Mich begeistern die Chancen und Möglichkeiten von KI auch und ich entwickle u.a. gerne eigene ChatGPTs. Doch: Ich bin auch ein kritischer und politischer Mensch…

KI-Workshops: Wo bleiben die kritischen Stimmen?

Auslöser dafür, dass ich diesen Beitrag geschrieben habe: In KI-Weiterbildungen werden oft die KI-Grundlagen erklärt, Tools vorgestellt und wissenschaftlich dargelegt, wie Sprachmodelle / LLMs entstehen. Chancen und Potenziale stehen dabei meist im Fokus – doch wo bleibt die kritische Reflexion?

Letzte Woche (Mitte Februar 2025) leitete ich meinen ersten eigenen #MediaTeams-Workshop zu KI im Bildungskontext per Videokonferenz, um genau das zu tun: Möglichkeiten aufzeigen, aber auch kritisch den Umgang mit KI zu reflektieren.

Einige Teilnehmer waren überrascht, dass ich die Schattenseiten von Künstlicher Intelligenz auch thematisierte – sie hatten gedacht, alles wäre gut und wir reden nur über KI-Anwendungen, etc. im Kontext von Bildung. Doch ich zeigte ihnen u.a. wie leicht das Wissen von KI-Recherchetools beeinflusst werden kann und, dass KI-Anwendungen wie ChatGPT kleine wie große Fehler machen.

Nur zwei Tage später erlebte ich dann als Teilnehmerin der KI-Workshop-Serie #DigitalMaker #KIReadiness“ vor Ort in #Lübeck von EDIH.SH (auf dem Foto oben der Referent, des 1. Tages: Tim Suthau) ähnliches. Bei der Kennenlernrunde und auch danach, nannte keiner der Teilnehmer auch nur ein kritisches Wort oder Bedenken. Nur Tim und ich …

Eins meiner Argumente des Workshop-Tages:

Künstliche Intelligenz (KI) beschleunigt auch die Produktion und Verbreitung von Fehl- und Des-Informationen. Denn: anders als Menschen mit gefährlichem Halbwissen formuliert KI überzeugend, professionell – und potenziell Mainstream fördernd.

KI generiert also Fakten und Fake?

Ein KI-Chatbot funktioniert ähnlich wie ein Mathematiker: Er berechnet Wahrscheinlichkeiten und gibt Antworten, die statistisch am wahrscheinlichsten erscheinen. Das bedeutet (in meinen Worten als User, nicht Professor): Was am häufigsten im „KI-Wissen“ hinterlegt ist, wird bevorzugt ausgegeben – während weniger verbreitete oder abweichende Informationen unter den Tisch fallen.

Das ist problematisch. Denn was als „Mainstream-Meinung“ gilt, kann falsch oder überholt sein. Erinnern wir uns nur an die #Corona-Maßnahmen: Was zunächst als wissenschaftlicher Konsens galt, wurde später in Teilen widerlegt.

Daher ist es essenziell, dass #Lehrkräfte, #Ausbilder:innen sowie #Lernende nicht nur KI zur Effizienzsteigerung nutzen, sondern auch ihre Antworten kritisch hinterfragen:

  • Welche Quellen liegen den Antworten zugrunde?
  • Welche Verzerrungen sind enthalten?
  • Welche Informationen sind möglicherweise frei erfunden („Halluzinationen“)?
  • Wie können Aussagen überprüft werden? Es geht also um #Recherchekompetenz – eines meiner Workshop-Themen seit Jahren!

Beispiel: Wer genau hinsieht, bemerkt kleine, unwesentliche (!) Fehler im Mindmap, welche ich mit KI aus Text generiert habe. Doch andere „Fehler“ sorgen für gravierende und wesentliche Fehl- und Desinformationen, die unter anderem politischer Natur sein können.

Überlegung: Was hat es wohl für Folgen, wenn Lehrkräfte zu geringe Kenntnisse über KI-Tools haben und ohne Ende fehlerhaftes Lehrmaterial für Schüler/-innen produzieren? Wenn Professoren das gleiche für ihre Studenten tun?

Und dass so etwas passiert, habe ich auf #Linkedin mal beeindruckend beobachtet: Ein angesehener #Professor aus Norddeutschland postete einen KI-generierten Text über angebliche Corona-Folgen für die Wirtschaft – der Text klang wissenschaftlich-professionell, war aber inhaltlich großer Humbug! Der Kontext stimmte einfach nicht. Der Prof. löschte den Beitrag ersatzlos, nachdem ich ihm dazu eine persönliche Nachricht geschrieben hatte.

Ein reflektierter Umgang mit KI hilft, Texte etc. nicht nur zu generieren, sondern aktiv zu hinterfragen und zu bewerten – #kritisches Denken ist das Stichwort. Doch solange in den meisten KI-Workshops Risiken und Schwächen kaum thematisiert werden, bleibt dieser kritische Umgang auf der Strecke.

 Weitere Risiken von KI in der (Aus-) Bildung

Neben verzerrten Informationen und Fehl- und Desinformationen birgt KI weitere Herausforderungen für den Bildungssektor:

  1. Verlust grundlegender Fähigkeiten / #Zukunftskompetenzen. KI-generierte Texte, Mathe-Lösungen und, und, und können (ziemlich sicher) dazu führen, dass Lernende weniger selbst denken und schreiben. Kritisches Hinterfragen, kreatives Problemlösen und argumentative Fähigkeiten könnten schwinden – das ist die wahre Intelligenz der von Menschen.
  2. Datenabhängigkeit und #Datenschutzprobleme. Viele KI-Tools speichern Eingaben, analysieren Nutzerverhalten und trainieren damit weiter. Datenschutz und Datensouveränität müssen daher stärker in den Fokus der Anwender rücken.
  3. Fehlendes Bewusstsein für #FakeNews. KI kann täuschend echte, aber komplett erfundene Inhalte generieren. Ohne Schulung in #Medienkompetenz steigt das Risiko, dass Lernende manipulierte oder falsche Inhalte für wahr halten.
  4. und vieles mehr.

Fazit: KI als Werkzeug – aber mit Verantwortung und Bedacht!

KI kann auch die (Aus-) Bildung revolutionieren – sie kann aber auch Schaden anrichten, wenn sie unkritisch genutzt wird. Die Herausforderung besteht darin, sie als Werkzeug zu verstehen: hilfreich, aber nicht unfehlbar.

Bildungseinrichtungen / Schulen und Ausbildungsbetriebe sollten KI nicht nur als Effizienz-Booster betrachten, sondern auch die Risiken in den Fokus rücken. Dazu gehört, #Lehrkräfte, #Ausbildende und #Lernende in kritischer KI-Kompetenz zu schulen!

Nur so kann KI dazu beitragen, kritisches Denken und digitale Kompetenzen zu stärken – und nicht als Risiko für Bildung und Demokratie zu enden.

Nächster KI-Workshop von mir, der Autorin des Beitrags:

https://sii-talents.de/events/chatgpt-recherche-202-521/

Weiterführende Quellen:

Was ist der Unterschied zwischen Medienkompetenz und digitaler Bildung?Spiegel unserer Gedanken? ChatGPT und der Bestätigungsfehler