Was KI nicht kann, auch wenn es so wirkt
KI wirkt selbstbewusst und kompetent — genau deshalb ist sie gefährlich, wenn man die Schwächen nicht kennt. Sechs Punkte, die jede Lehrkraft im Hinterkopf haben sollte, bevor sie KI in den Unterricht lässt oder mit ihr Material erstellt.
1. Halluzinationen: Selbstbewusste Falschheiten
Eine KI antwortet auch auf Fragen, die sie nicht beantworten kann — und tut es im gleichen souveränen Tonfall wie bei korrekten Antworten. Sie erfindet Quellen, zitiert nie geschriebene Lehrbuchstellen, beruft sich auf erfundene Wikipedia-Artikel.
Im Unterricht heißt das: Wenn du eine KI bittest, dir "drei Beispielaufgaben aus dem aktuellen Lehrplan Mecklenburg-Vorpommern Klasse 8 Physik" zu nennen, wird sie liefern. Die Aufgaben sehen plausibel aus. Sie sind im Zweifel komplett erfunden, weil die KI den Lehrplan gar nicht kennt — sie spielt nur, dass sie ihn kennt.
Gegenmittel
Prüfe alles, was Fakten enthält. Lass dir Quellen nennen und schau, ob es sie gibt. Nutze KI für Formulierungen und Strukturen, nicht als Lexikon.
2. Sycophancy: Die KI ist höflich, nicht ehrlich
Sprachmodelle sind darauf trainiert, zu gefallen. Fragen mit eingebauter These führen fast automatisch zu Bestätigung. Wenn du fragst "Findest du nicht auch, dass meine Aufgabe zu leicht ist?", sagt die KI mit hoher Wahrscheinlichkeit ja — selbst wenn die Aufgabe genau das richtige Niveau hat.
Im Unterrichtskontext besonders kritisch: Schüler, die ihre Ideen testen wollen, bekommen Bestätigung statt Reibung. Die KI ist der freundlichste Gesprächspartner, den es je gab — und damit das Gegenteil eines guten Sparringpartners.
Gegenmittel
Stell Fragen offen statt suggestiv. Bitte aktiv um Gegenargumente. "Was wären die drei stärksten Gegenpositionen zu meinem Vorschlag?" bringt deutlich mehr als "Was hältst du davon?".
3. Nicht-Determinismus: Dieselbe Frage, andere Antwort
Dasselbe Sprachmodell liefert bei identischer Frage unterschiedliche Antworten. Manchmal nur in der Formulierung, manchmal auch inhaltlich. Das ist eingebautes Verhalten, kein Fehler.
Konsequenz für den Unterricht: Wenn ein Schüler dir gestern eine andere ChatGPT-Antwort gezeigt hat als die, die du heute reproduzieren willst, hat er nicht gelogen. Die Maschine würfelt. Was heute gut funktioniert, kann morgen schlechter klappen. Verlass dich nicht darauf, dass ein einmal getesteter Prompt immer das gleiche Ergebnis liefert.
4. Black Box: Begründungen sind nachträglich erfunden
Wenn du eine KI fragst, warum sie eine bestimmte Antwort gegeben hat, bekommst du eine Begründung. Die ist aber nachträglich konstruiert. Die echte Logik liegt in Milliarden Gewichtungen, die niemand — auch die Entwickler nicht — in klare Sätze übersetzen kann.
Im Schulkontext heißt das: Wenn ein KI-Tool eine Note vorschlägt oder eine Förderempfehlung gibt, kannst du den Schüler-Eltern nicht erklären, warum. "Die KI hat das so entschieden" ist keine Begründung, mit der man arbeiten kann — weder pädagogisch noch rechtlich. KI darf bei solchen Entscheidungen vorbereiten, nicht entscheiden.
5. Datenschutz: Was du eingibst, ist nicht mehr deins
Öffentliche KI-Tools speichern Eingaben auf fremden Servern, meist außerhalb der EU. In der kostenlosen Variante werden Eingaben in der Regel zum weiteren Training genutzt, wenn man das nicht aktiv deaktiviert.
Praktisches Beispiel: Samsung-Ingenieure haben 2023 internen Code in ChatGPT eingegeben. Der wanderte in die Trainingsdaten und wurde später anderen Nutzern ausgegeben. Übertragen auf Schule: Schülernamen, Notenübersichten, Förderpläne, Elterngesprächsnotizen — all das geht nicht in öffentliche KI-Tools. Mehr dazu im Artikel zum Schul-Datenschutz.
6. Automation Bias: Wer der KI vertraut, hört auf zu prüfen
Je zuverlässiger ein System wirkt, desto weniger kontrolliert man es. Wenn die KI in 99 von 100 Fällen gut korrigiert, übersieht man den hundertsten Fall — genau den, in dem ein Fehler durchrutscht, der bei einer händischen Korrektur aufgefallen wäre.
Bei der Verwendung von KI für Vorkorrekturen oder Bewertungen ist das besonders heikel. Die Versuchung, "nur drüberzuschauen", statt wirklich zu prüfen, wird mit jedem erfolgreichen Durchgang größer. Konkrete Gegenmittel: Stichproben aktiv einplanen, gelegentlich Korrektionen ohne KI machen, kritisch bleiben gerade da, wo alles passt.
Worauf es ankommt
Die sechs Punkte sind keine Aufforderung, die Finger von KI zu lassen. Sie sind die Voraussetzung dafür, KI sinnvoll einzusetzen. Wer Halluzinationen kennt, prüft. Wer Sycophancy kennt, fragt anders. Wer Datenschutz kennt, trennt sauber. Was am Ende zählt, ist nicht die Technik, sondern die Haltung damit umzugehen.