Neues Schuljahr, neue Regeln: KI-Recht & neue Prüfungsformate

00:00:02: Kreide-KI Klartext, der Fubitz Podcast rund um Schule und KI.

00:00:11: Herzlich willkommen zu einer neuen Folge von KreideKI Klartext!

00:00:16: Heute haben wir eine Gästin hier, die schon zum zweiten Mal hier war und jetzt zum dritten mal da ist.

00:00:22: Die einzige tatsächlich!

00:00:24: Aber das Thema es geht um juristische Fragen ist so wichtig unrelevant.

00:00:29: deswegen freuen mir uns sehr liebe Antonia dass du zum dritte Mal hier dabei bist und du bist Medienrechtsanwältin.

00:00:37: aber ich glaube du kannst dich selbst viel besser vorstellen.

00:00:40: einige werden dich schon kennen.

00:00:41: also gerne kurz und knapp vorstellen wer bist du?

00:00:44: Ja, hallo!

00:00:45: Antonia Dufö ist mein Name.

00:00:46: Ich bin Anwältin und in der Tat beschäftige mich seit ganz langer Zeit schon mit Medienrecht und dem Datenschutz.

00:00:53: Und seit spätestens ich glaube November XXIII auch mit KI-Recht wenn man das so überhaupt schon nennen kann... ...und bin seit acht zwei Tausend neun glaub' ich mit Schulen unterwegs also im Bildungsbereich und die berate ich.

00:01:07: letztendlich geht es bei mir immer um das Medienrecht oder digitales Recht für Schulen.

00:01:13: Und Antonia, ich freue mich auch dass du heute da bist um ein bisschen mehr zu erzählen über den Bereich Prüfungen über denen wir sprechen wollen auf jeden Fall so als kleine Ankündigung schon mal.

00:01:25: Wir splitten das nämlich heute in zwei und danach wollen wir noch mal so ein bisschen über die Kennzeichnungspflicht sprechen damit alle schon mal so bisschen wissen worauf sie sich einstimmen können.

00:01:34: Ich bin heute auch wieder mit dabei und das Schöne ist dass Antonia Du und ich wir schon ab und zu auch zusammengearbeitet haben weil du bei uns auch ganz aktiv bist als Referentin und dort auch immer dein Wissen teilt.

00:01:44: Deswegen freue ich mich umso mehr, wenn das heute nochmal erweitert wird durch das was du hier so erzählst.

00:01:49: Und dafür würde ich einmal beginnen mit dem Thema Prüfungen!

00:01:53: Riesenthema – wir wissen es alle – beschäftigt alle extrem und gerade durch die ganzen KI-Tools, die jetzt einfach so dazugekommen sind, die jeden zur Verfügung stehen und damit meinen wir nicht nur Lehrkräfte sondern auch Schülerinnen und Schüler spielt das natürlich eine extrem große Rolle.

00:02:07: und damit würde ich einen mal beginnen und ganz praktisch anfangen wollen.

00:02:12: Wenn jetzt eine Schule wissen will, ob Schülerinnen und Schülern eine KI in der Klausur einer Facharbeit oder Projektarbeit nutzen dürfen.

00:02:20: Wo steht denn das?

00:02:21: Und wer legt es fest wenn es noch nirgendwo steht?

00:02:26: Genau ich glaube nicht dass es schon in so vielen Gesetzen steht.

00:02:30: tatsächlich... Haben wir ja schon so ein paar, das werden wir nachher noch mal besprechen.

00:02:34: So was wie die KI-Verordnung aber... Das ist für Schulen vielleicht jetzt nicht so die erste Rechtsgrundlage.

00:02:40: Man müsste schauen, was steht in den Schulgesetzen?

00:02:43: Was gibt es für Regelungen?

00:02:44: Was gibts für Verwaltungsvorschriften?

00:02:47: und da muss man schauen naja, wie betrifft das schon die Digitalisierung?

00:02:51: weil wir werden dann auch nichts mit über KI finden.

00:02:54: Aber wenn jetzt eine Schule sagt okay, in welchem Rechtsrahmen bewege ich mich denn?

00:02:58: Dann würde ich empfehlen als erstes im Schulgesetz und in den nachfolgenden Verwaltungsvorschriften zu schauen, was da gesagt wird über die Digitalisierung.

00:03:08: Und das ist dann aber vermutlich von Bundesland zu Bundesland unterschiedlich

00:03:13: oder?

00:03:14: Genau so ist es!

00:03:15: Wir leben im Föderalismus und das Schulrecht ist eben aufgeteilt in die Bundesländer und da hat jedes Land eigene Schulgesetze.

00:03:23: dem Ganzen liegt aber natürlich eine Regelung zugrunde, dass das Grundgesetz nur ganz kurz dazu... Wir haben

00:03:33: die Schulpflicht.

00:03:35: Wir haben freien Zugang zur Bildung.

00:03:38: wir haben das Recht der Eltern, die Kinder zu erziehen.

00:03:42: Wir habe eine Meinungsfreiheit und die persönliche Entwicklung.

00:03:46: Das ist alles Basis auch der gesamten Schulgesetze.

00:03:51: Gleichbehandlungsgrundsatz usw.

00:03:52: Also letztendlich schwingt natürlich bundesweite Grundgesetz mit.

00:03:57: Und dann muss ich aber detailliert in die Schulgesetze schauen und in die verschiedenen Verwaltungsvorschriften, es gibt Stellungnahmen der Ministerien, der Schulaufsicht usw.

00:04:08: Das ist tatsächlich in Deutschland sehr individuell auch wenn letztendlich das alles einem Kanon folgt von den Grundrechten, die ich jetzt gerade genannt habe.

00:04:19: Da würde mich mal interessieren, da steht ja jetzt wahrscheinlich, weil das bisweilen auch schon etwas ältere Werke sind, die da verfasst wurden.

00:04:26: Nicht konkret was zu künstlicher Intelligenz und wie die entsprechend eingesetzt wird, wie man damit umgeht.

00:04:32: Das heißt es ist ja so ein bisschen Interpretation dabei.

00:04:35: Wie behandelt man das dann?

00:04:36: Also wie liest man das denn sozusagen, damit man die Infos bekommt, die man braucht?

00:04:41: Genau also ich würde so vorgehen und sagen alles klar Was hat denn die Schule für eine Aufgabe?

00:04:47: Die Schule hat die Aufgabe Bildung zu fördern, Erziehung zu fordern oder mit gutem Vorbild voranzugehen usw.

00:04:54: Und dazu gehört eben auch Teilhabe aber auch digitale Teilhube und sind ja es ist genau wie du sagst man muss die Vorschriften die wir haben müssen wir auslegen Und dann muss man schauen, okay wie schaffe ich das?

00:05:08: Dass ich es hinbekomme und das findet man aber im Einzelnen auch in den Schulgesetzen.

00:05:12: Es steht in allen Schulgesätzen drin Bewertungen beispielsweise müssen nach klaren transparenten Formen und Prüfungsformaten geschehen.

00:05:23: einerseits Die Schülerinnen und Schülern müssen individuell gefördert werden.

00:05:28: Da in diesem Spannungsfeld bewege ich mich, also ich habe ganz gleich muss ganz klar sagen wie bewerte Ich ist das eine faire Bewertung?

00:05:36: Also hatten alle Schüler die gleichen Voraussetzungen usw.

00:05:40: Und dann muss sich aber auch noch mal schauen Wie kann ich den Einzelnen fördern In seiner Entwicklung?

00:05:45: und da gibt es genau dass steht in jedem Schulgesetz in etwa.

00:05:50: Ich kann jetzt nicht aus dem Kopf sagen, wo.

00:05:51: Aber da steht überall drin und daran kann ich mich entlanghangeln.

00:05:54: Und vielleicht kommt das später noch... Da bin ich mir gar nicht sicher.

00:05:58: aber dann hat natürlich auf die Schule selber auch nochmal die Möglichkeit sich zu überlegen wie gehen wir in dieser Situation um mit KI-Um, mit Digitalisierung um?

00:06:09: Also es besteht auch die Möglichkeit obwohl's nicht ein also schwarz auf weiß im Gesetz steht dass Schulen schon mal mit diesem Thema umgehen.

00:06:17: Und ich glaube, das ist gerade auch tatsächlich der Fall was viel passiert.

00:06:21: Zumindest was ich oder was wir sind.

00:06:23: Ich weiß nicht, du hast ja auch ganz viel mit Schulen zu tun, was sich mitbekommt.

00:06:26: Dass das häufig noch quasi von der übergeordneten Ebene fehlt und die Schulen sich selbst auf den Weg machen weil es ja auch total gut ist.

00:06:35: aber du hast grade auch nochmal gesagt alle sollen oder müssen die gleichen Voraussetzungen haben.

00:06:39: Wo verläuft denn jetzt hier die Linie zwischen ich nutze es, sich darfes nutzen, erlaubterweise oder auch Täuschung und vor allem für Schülerinnen und Schülern?

00:06:50: Was kann man denen denn mitgeben, dass sie sich sicher fühlen können.

00:06:54: Wenn es darum geht ob Schülerinnen- und Schüler-KI-Tools nutzen dann muss den klar sein wenn ich Fremde werke also ein fremdes Werk.

00:07:03: ist das was die KI mir ausspuckt?

00:07:05: ne!

00:07:05: Wenn nicht das als eigenes Abgebe.

00:07:08: Das ist immer eine Täuschung, wenn ich es aber transparent mache und sage das habe ich daraus gelernt!

00:07:15: Das ist von mir, das sind meine Schlüsse.

00:07:17: Ich hab KI als Tool verwendet, hab einen Text raus bekommen Und jetzt mach ich eine gewisse Eigenleistung daraus.

00:07:25: Dann habe ich ein Produkt was man... Was eine Lehrkraft auch beurteilen kann.

00:07:30: Also letztendlich ist da die Grenze auf Transparenz.

00:07:36: etwas heimlich nutzen und abgeben.

00:07:38: Ist nicht korrekt, das ist eine Täuschung!

00:07:40: Und aber etwas offenlegen und sagen, dass es das tun... Das ist von der KI.

00:07:44: Das ist das was ich draus gemacht habe.

00:07:47: Das is ne wunderbare Art zu lernen und eben mit diesen Produkten auch dann umzugehen.

00:07:53: Nun weiß ich Antonia, dass du ja so ein wunderbaren KI-Kompass hast an dem man sich fantastisch orientieren kann also das heißt er im sehr guten Rahmen gibt innerhalb dessen man entscheiden kann, ob das jetzt in Ordnung ist oder nicht und dass es sowohl für Lehrkräfte als auch für Schülerinnen und Schülern finde ich ein total wertvolles Tool.

00:08:11: Magst du dem mal ganz kurz nochmal erklären damit man vielleicht an Herrn Dessen noch einmal ein bisschen besser greifen kann was das bedeutet KI dann auch fair gerecht einzusetzen im Sinne dessen dass es okay ist KI zu nutzen.

00:08:25: Ja der KI kommt aus der baut sich wie folgt auf Zuerst muss ich prüfen Ist das ein legales Tool?

00:08:31: Also ich kann nicht einfach in der Schule irgendein kostenloses Tool verwenden, weil auch die KI viele personenbezogene Daten unter Umständen verarbeitet und so weiter.

00:08:41: Dann muss es fair sein!

00:08:42: Das bedeutet alle Schülerinnen und Schülern müssen den gleichen Zugang zu diesem Tool haben und nicht die Kinder mit den Eltern, die irgendwie hochleistungsfähige KI haben, dass nur nutzen und bessere Hausaufgaben beispielsweise abgeben.

00:08:56: Der zweite Punkt ist Es muss transparent sein.

00:09:00: Also das was ich eben meinte, Ich muss darlegen Was ist meine also als Schüler oder Schülerin?

00:09:04: Was is meine Leistung und wo habe ich mir die KI zur Hilfe genommen um mein Wissen zu verbreiten und so verbreitern und so weiter.

00:09:13: Das sind diese drei Punkte die erstmal wichtig sind Und dann für die Schule ist ganz wichtig macht es hier Sinn?

00:09:20: Ist das lernförderlich?

00:09:22: Die ersten drei Punkte können einfach lustige Bildgeneratoren sein.

00:09:26: So jetzt geht es aber darum.

00:09:28: bringt das, was ich gesagt habe, diese individuelle Förderung.

00:09:32: Bringt es dem Kind etwas besser lernen zu können?

00:09:36: Sich zu entwickeln in seinem Berufswund weiterzukommen und so weiter?

00:09:41: bereichert das den Unterricht... Und da auch das steht im jedem Gesetz ist das erfüllt das den Bildungsauftrag und erfüllt dass unseren Erziehungsauftakt, den wir haben von staatlicher Seite.

00:09:53: Deswegen gibt's ja die Schulen!

00:09:55: Und wenn man diese vier Punkte beschreitet, dann kann man ruhig gewissens auch KI in den Unterricht einführen.

00:10:03: Vielen vielen Dank Antonia!

00:10:05: Ich würde da tatsächlich noch mal in die Show Notes was verlinken, dass sich diese Punkte, die Antonia gerade nannte zu dem KI-Compass nochmal ganz in Ruhe angucken kann und gerne auch mit in die Klasse nimmt damit etwas Unterstützung besteht.

00:10:18: Letztes Mal, als du bei unserem Podcast warst, war deine Botschaft aber auch noch dass man gerade auch KI-Nutzung nicht unbedingt beweisen kann oder kaum.

00:10:27: Und da würde mich mal interessieren was ist wenn eine Schule gerade eben wenn es dann nicht entsprechend angegeben wurde das KI verwendet wurde?

00:10:35: Was ist wenn die Schule trotzdem handelt?

00:10:37: also wir gehen davon aus ne Lehrkraft liest nach Arbeit und denkt sich dann sofort ja okay nee also das können die Schülerinnen nicht selbst geschrieben haben das ist ein total anderer Stil das ist viel zu glatt Aber ich habe eigentlich gar kein Beweis.

00:10:49: Was kann die Schule jetzt tun, also wenn so ein Täuschungsvorwurf erhoben wird für beide Seiten?

00:10:56: Was können die Schulen machen?

00:10:57: aber auch welche Rechte haben Schülerinnen und Schüler, wenn ihnen dieser Vorwurf im Raum steht?

00:11:03: Und was müssen dann quasi für Schritte vielleicht auch formal eingehalten werden damit das überhaupt Bestand hat dieser Vorwurfs?

00:11:12: Ja, da muss ich vielleicht ein bisschen ausholen.

00:11:14: Also der allererste Punkt den nicht jeder Schule empfehlen würde ist regeln sie die KI-Nutzung.

00:11:20: ja also dieses wie tun so als gäbs das nicht oder wir verbieten es gar macht keinen Sinn.

00:11:25: also als allererstes klare Verhaltensregeln für Schülerinnen und Schülern wann darf ich's denn nutzen?

00:11:30: Das heißt nicht dass die Schülerinnen sich daran halten.

00:11:33: aber das heißt wir haben eine Konstruktion Wir haben eine Struktur an der wir sagen können das ist erlaubt und das ist nicht.

00:11:41: ändert nichts daran, dass vielleicht Schülerinnen und Schüler trotzdem mit einem Produkt in die Schule kommen.

00:11:44: Mit einer Aufgabe oder während des Unterrichts etwas machen und dann irgendwie dann doch KI genutzt haben.

00:11:50: Und deswegen passiert es eben auch das Lehrkräfte oft denken also das entspricht sogar nicht der Leistung dieses Schülers.

00:11:57: Dann können sie vorgehen indem Sie sagen okay ich habe hier einen berechtigten Zweifel denn es zählt immer das pädagogische Ermessen der Lehrkraft ja?

00:12:09: Was ist die Lehrkraft beweisen muss, ist zu sagen das hier nicht der Standard des Schülers.

00:12:16: Das ist auch nicht das Vokabular was in dieser Klasse ist und mehr nicht.

00:12:21: die Lehrkraft muss nicht nachweisen.

00:12:23: Der Schüler hat ein KI-Tool genutzt und es nicht transparent gemacht.

00:12:28: Die Lehrkraft muss nachweisen, wenn sie das Gefühl hat da ist eine Täuschung anhand von Indizien.

00:12:34: Warum dieser Schüler diese Leistungen eigentlich nicht erbringen konnte?

00:12:37: Und das macht die Lehrkraft indem sie den Schüler beispielsweise noch mal mündlich abprüft oder ihn mündig konfrontiert und sagt dann, wenn das dein Produkt ist dann wieder wohl doch mal.

00:12:47: oder dann erklär mir doch mal wie du in dieser dritten Absatz auf diese These Wie bist du da drauf gekommen?

00:12:54: Also wirklich in das Fach gehen, um das dann sich erklären zu lassen.

00:12:58: Und wenn es sich dann herausstellt... Da kann das gar nicht beantworten.

00:13:02: Und er hat Vokabeln benutzt oder einen Rechenweg benutzt, der im Unterricht gar nicht vorkam.

00:13:08: Dann reicht es als Indiz zu sagen ich gehe davon aus dass es hier eine Täuschung ist.

00:13:13: man muss nicht sagen du hast keine UI-Tool und zwar das benutzt man nicht.

00:13:17: Es ist quasi so etwas wie ein Anscheinsbeweis und dann reicht das!

00:13:20: Dann darf die Lehrkraft ihr pädagogisches Ermessen so ausüben dass sie sagt Ich benote das schlechter Du kriegst ne Sechst, du musst es wiederholen.

00:13:29: Das kommt dann auf die von mir eingangs erwähnten Regeln an.

00:13:33: Da kommt dann an wie in diesem Fall wenn der, wenn der... Wenn die Lehrkraftimne den Verdacht hat, dann gibt's einen Ungemüt oder das wird neu geschrieben oder ähnliches

00:13:45: So, das klingt total plausibel.

00:13:47: aber es klingt natürlich nach deutlich mehr Aufwand und Arbeit für die Lehrkraft weil sie hat jetzt eigentlich das Produkt wurde abgegeben.

00:13:55: Und jetzt muss sie nochmal nachprüfen.

00:13:57: Jetzt muss sie das irgendwie nach ihrem pädagogischen Ermessen Nachweisen und Indizien finden.

00:14:04: Es gibt ja auch die sogenannten KI-Detektoren.

00:14:08: Die sind sehr umstritten.

00:14:10: Aber mich würde einfach mal interessieren, wie ist denn deine Haltung dazu und sind die aus deiner Sicht juristisch überhaupt zulässig in der Schule?

00:14:20: Also zur zweiten Frage!

00:14:22: Ich kenne keinen juristischen zulässiges Tool weil sie einfach nicht hundertprozentig sicher sind.

00:14:31: Vielleicht sind wir irgendwann an einem Punkt, wo man mit KI, KI entdecken kann und so weiter.

00:14:36: Und das auch hundertprozentig nachweisen kann.

00:14:39: alle Fachleute, mit denen ich aber bisher gesprochen habe haben die sagen ne es besteht immer ein Restrisiko.

00:14:46: naja und meine Haltung dazu ist auch eigentlich genau die dass Es macht vielleicht Sinn so einen Detektor laufen zu lassen Aber auch nur als Indiz nicht so nach dem Modul.

00:14:56: jetzt hab Ich den Beweis den habe ich nämlich nicht aber Als Indiz zu sagen Guck mal, ich kenne dich doch.

00:15:01: Und wenn jemand den Schüler die Schülerin kennt dann ist das natürlich die Lehrkraft.

00:15:06: Die begleitet sie ja mindestens ein Jahr ne?

00:15:09: Ich kenn dich doch guck mal.

00:15:10: deine anderen Arbeiten waren wie folgt eine andere Leistung.

00:15:13: außerdem habe hier den KI-Detektor.

00:15:15: Den wollen wir gar nicht so sehr bewerten aber trotzdem spricht es für sich.

00:15:19: und jetzt frage ich dich hier mündlich ab und du kannst mir keine Antwort geben Dann reicht das.

00:15:26: Also ich möchte im Grunde gar nicht, dass die Lehrkräfte noch mehr dokumentieren müssen, wobei ich kann auch da immer nur sagen wer schreibt der bleibt.

00:15:36: Es macht manchmal Sinn sich so ein paar Sachen aufzuschreiben.

00:15:39: Ich will sie eigentlich entlasten und ihnen sagen ihr müsst hier gar

00:15:43: nichts

00:15:45: hundertprozentig beweisen.

00:15:47: es reicht wenn ihr euren Verdacht äußert und dann ist der Schüler dran oder die Schülerin, und die muss dann darlegen glaubhaft machen.

00:15:55: Warum sie dieses Werk wirklich erschaffen hat oder selber gemacht hat und nicht eine KI gemacht hat?

00:16:02: Ich plädiere also – das ist letztendlich auch schon so ein bisschen für so einen Umkehr – die Schülerinnen und Schüler müssen nachweisen warum sie es können und nicht die Lehrkraft.

00:16:12: Ich glaube, was da wahrscheinlich nur sehr wichtig ist, dass es aus einem Wohlwollen heraus passiert und das Vertrauen wiederherzustellen zu den Schülerinnen und Schülern.

00:16:21: Also nicht, dass man in so ein konfrontatives Ding geht, sondern dass man dann eher versucht in den Dialog zu gehen, das abzusprechen, zu schauen, was tatsächlich eigentlich die Sachlage... Und wie du ja auch schon richtig gesagt hast, es gibt keinen zulässigen KI-Detektor und das liegt ja einfach daran dass auch laut Studien diese Detektoren nicht wirklich zuverlässig sind.

00:16:42: Dass man definitiv keine hundertprozentige Sicherheit hat, dass was dort als Ergebnis rauskommt wahr ist, also sprich es gibt auch Texte die wurden gecheckt von vor KI-Zeiten und dort wurde ja siebenvierzig Prozent KI für Mutung dahinter gesetzt.

00:17:00: Wo ganz klar ist das kann gar nicht sein weil dadurch... Das gab's einfach noch nicht?

00:17:03: Ja genau deswegen ist vielleicht auch nochmal hier mit eingeschoben dass natürlich auch nachgewiesen ist, dass es da eine große Problematik gibt in der Glaubhaftigkeit.

00:17:10: insofern finde ich deine Haltung auch sehr wichtig und schön dazu, dass dann eher man schaut, dass diese Beweispflicht in der Schülerinnen und Schüler kommt aber das Ganze auf einem stabilen Fundament wiedergründet, dass sich Lehrkräfte und Schülerinnen und Schüler einander vertrauen.

00:17:25: Absolut.

00:17:26: Ich möchte auch nochmal ergänzen, zum Beispiel Doris Wessels war ja auch schon hier im Podcast und die ist ja auch ganz vehement dagegen und also ich sehe das genauso nicht fand du hast es sehr schön ausgeführt Antonia wie man damit umgehen kann und es wichtig ist natürlich dass die Lehrkräfte am Ende nicht noch mehr Arbeit haben dadurch sondern dass man da gute Wege findet und deswegen ist es wiederum so wichtig dass man halt quasi die Unterstützung der Schule hat der Bundesländer dass es halt möglichst viele Regeln gibt sich ausdenken muss und mit jeder Situation selbst konfrontiert ist.

00:17:59: Genau, da vielleicht noch einen Hinweis.

00:18:00: jetzt haben wir gerade nämlich... Und das ist so dieses juristische Spitzfindigkeit.

00:18:06: Wir haben grade über Beweisflicht gesprochen und ich glaube Ich habe auch ein bisschen über die Strecken geschlagen indem ich gesagt hab ich möchte es hier umkennen Das wird nicht passieren.

00:18:14: Die Schule muss immer nachweisen.

00:18:17: Also die Schul hat immer die Pflicht nachzuweisen und Da wird aber jetzt gesagt Es reicht wenn die Lehrkraft das glaubhaft macht Also ein Anscheinsbeweis da sein.

00:18:25: Das heißt nicht,

00:18:26: dass

00:18:27: ein Schüler jetzt auf einmal viel mehr beweisen muss als er könnte so.

00:18:31: Aber es ist mir geht's wirklich um Entlastung!

00:18:34: Ich möchte das Schulen dieses Thema angehen,

00:18:37: dass

00:18:37: alle beteiligten Lehrkräfte, Schülerinnen und Schüler und Eltern wissen wie gehen wir mit solchen Verdachtsfällen um?

00:18:46: Und dass das ganz transparent und fair geschieht.

00:18:50: Schüler und jeder Schülerin weiß, wenn es so ein Anscheinsverdacht gibt.

00:18:54: Dann bin ich diejenige, die noch mal erklären muss warum sie so eine exzellente Leistung abgeben konnte?

00:18:59: Ja total genau!

00:19:00: Und am Ende läuft's wieder darauf hinaus.

00:19:02: Man stellt wieder Vertrauen her man schaut wie man auf welcher Basis man weiterarbeiten will.

00:19:07: deswegen finde ich das auch so wichtig dass man weiß worauf man sich einlässt als Lehrkraft aber auch als Schülerinnen und Schüler in dem man gemeinsames Regelwerk hat den man folgt.

00:19:15: Das schafft einfach so viel Sicherheit auf beiden Seiten.

00:19:19: auf jeden Fall noch mal motiviert an alle.

00:19:21: Jetzt ist es so, Antonia, dass trotzdem einige dann noch an alten Prüfungsformaten festhalten bzw.

00:19:28: festhalten müssen.

00:19:29: Wir haben ja eben auch dagehen noch keine größere Revolutionen das in jeder Schule da neue Möglichkeiten schon bestehen die auch irgendwo verankert sind und es ist eben ein gewisser Spielraum da wie man dann tatsächlich prüft und was man tatsächlich in welcher Form abfragt.

00:19:45: jetzt ist nochmal meine Frage ob du vielleicht Prüfungformate im Kopf hast das Ganze so ein bisschen entschärfen könnten, damit man eben nicht in diesen starken Kontrollmodus kommt oder zumindest dass die Kontrolle wendern auf eine Art und Weise erfolgt.

00:20:01: Wo wir wieder bei dem Punkt wären, dass es für beide Seiten nachvollziehbar ist und gut umsetzbar.

00:20:07: Die gibt es... Also ich bin keine Pädagogin kann ich dazu nur sagen aber ich werde viel gefragt nach neuen und alternativen Prüfungsformaten usw.

00:20:16: Es gibt die Möglichkeiten die Räume zu entwickeln, also andere Räumes zu nehmen.

00:20:21: Nicht nur den Klassenraum zeitlich das zu machen, den Zugang zum Materialien und Hilfsmitteln

00:20:26: zu

00:20:26: erweitern eine neue Feedback Kultur zu entstehen zu lassen innerhalb der Schulgesellschaft.

00:20:34: Da gibt es ganz viele tolle Ansätze und tatsächlich wenn ich die alle auf einen Punkt bringen würde aus dieser wieder jetzt meiner juristischen Sicht.

00:20:43: dann geht es immer darum dass das ist um diesen Schüler zu bewerten.

00:20:48: oder ich will gar nicht unbedingt über diese Bewertung sprechen.

00:20:50: Ich möchte eigentlich immer widersprechen, um unseren Erziehungsauftrag und den Bildungsauftakt zu erfüllen.

00:20:57: Da bedarf es eben verschiedener Punkte.

00:21:01: der erste Punkt ist dieses Format muss in der Schule gelernt worden sein.

00:21:07: Also ich muss versuchen, dass alle Schüler Zugang zu diesem was auch immer ob das jetzt andere digitale Tools sind.

00:21:14: Ob das eine KI ist?

00:21:15: Ob das ein Waldstück ist oder so man sollte überall lernen dürfen.

00:21:20: ja also das muss geübt werden geworden sein.

00:21:22: jeder Schüler und jede Schülere muss also die Gelingheit haben sich daran auszuprobieren und es zu trainieren.

00:21:29: Und dann muss auch klar sein Ich muss es fair und nachvollziehbar bewerten können.

00:21:36: Das ist ein bisschen heikel oder das könnte schwierig sein mit der KI, weil eine KI eben unvorhergesehen ist immer gesagt

00:21:44: usw.,

00:21:45: aber das ist wichtig.

00:21:46: Es klar ist dass jeder weiß wie wird denn hier diese Leistung bewertet wenn ich eine Leistung habe?

00:21:52: Mit mehreren Schülern?

00:21:53: da muss die Leistung des Einzelnen bewerted werden können.

00:21:57: Und dann muss es eben auch den individuelle Förderungsmöglichkeit auch immer berücksichtigen.

00:22:04: Da sind wir wieder bei diesem Spannungsfeld zwischen formativen und geregelten Prüfungsformaten, aber der individuellen Förderung.

00:22:14: Das ist ganz schwierig!

00:22:16: Das ist auch keine leichte Aufgabe.

00:22:18: Aber ich stelle mir immer vor dass da das pädagogische Ermessen dann greift oder der Zugang zu den Kindern greift dann ist das möglich.

00:22:29: Das ist jetzt sehr abstrakt erklärt, ne?

00:22:31: Das liegt daran dass ich nicht mit den Prüfungsformaten vorpresche, das wissen die Pädagogen viel besser.

00:22:37: aber das wäre so ein Weg wo man ganz alternativ prüfen kann tatsächlich und eben auch digitale Werke reinnehmen kann.

00:22:44: Wir hatten in der letzten Folge tatsächlich auch viel darüber gesprochen und es ist total schön, dass das jetzt nochmal eigentlich ein bisschen den Konsens bildet.

00:22:51: Nämlich, dass man da ruhig auch mutig sein kann mal auszuprobieren eine neue Formate zu gehen so lange nachvollziehbar ist für beide Seiten wie das Ganze entsprechend dann bewertet wird warum es so gewertet werden und da wären wir auch wieder dabei.

00:23:05: Es braucht Vertrauen, es braucht ne Basis, ne Beziehungsbasis mit den Schülerinnen und Schülern damit die sich wohl fühlen auch diese Sachen mal zu testen Und dann ist viel mehr möglich rechtlich, als viele Lehrkräfte sich trauen.

00:23:18: Ja und da vielleicht auch noch mal so ein Dreiklank wenn ich einen Schüler bewerten möchte dann gucke ich mir nicht nur den Schüler an das wäre das individuelle.

00:23:29: Ich muss aber auch schauen wie ist denn die Gruppe.

00:23:33: also wie ist die Klasse?

00:23:34: Wie ist der Standard der Klasse?

00:23:35: Das ist eben genauso wichtig.

00:23:37: dass er zweite Punkt und der dritte Punkt ist was steht im Lehrplan Was wird denn hier festgelegt?

00:23:43: Wann müssen die was können beispielsweise.

00:23:45: Also das sind diese drei Punkte, die ich auch beachten muss um eine faire Benotung hinzubekommen und das muss eben bei diesen alternativen Prüfungsformaten mit schwingen.

00:23:55: Super schön.

00:23:56: Und was du jetzt auch gesagt hast, ich finde es klingt für mich viel näher an der Realität, was wir später halt auch brauchen.

00:24:03: dann also im Prinzip so wie gerade Prüfungen stattfinden hat ja selten etwas mit der Arbeitsrealität beispielsweise zu tun wenn man da auch schon die Schülerinnen und Schülern näher ranbringt Genau, voll gut.

00:24:15: So jetzt startet ja bald das neue Schuljahr.

00:24:19: in den ersten Bundesländern geht es jetzt bald wieder los.

00:24:22: die Sommerferien neigen sich dem Ende zu und wenn du jetzt eine Schulleitung die ins Neueschuljahr startet drei Dinge zum Thema Prüfungen mitgeben würdest was würdest du ihr mit geben?

00:24:35: Also ich glaube der erste Punkt falls es noch nicht geschehen ist klare Regeln für die gesamte Schule.

00:24:43: Die Schulleitung, aber auch die Gesamtkonferenz oder Lehrerkonferenz – das nennt sich von Bundesland zu Bundesland unterschiedlich – hat die Gelegenheit jetzt am Schuljahresanfang, sich da so eine Regelung zu geben?

00:24:55: Nehmen Sie doch die Elternvertreter und die Schülervertretern noch mit rein!

00:24:58: Und dann gibt die ganze Schule sich eine Regelungen wie man in neuen Prüfungsformaten umgeht.

00:25:04: Da kann ich nur sagen, dass es schon viel weiter ist als man so denkt... Das sagen die jetzigen Gesetze, die jetzt noch nicht KI beinhalten.

00:25:14: Die sind da schon relativ frei?

00:25:16: Wann darf ich eine Klassenarbeit ersetzen?

00:25:18: und so weiter?

00:25:18: Also erster Punkt.

00:25:19: Klare Regeln schaffen!

00:25:22: Der zweite Punkt glaube ich wäre so ne... würde ich empfehlen, eine Offenheit der Digitalisierung gegenüber aber mit einer Motivation der Teilhabe.

00:25:35: Diana das ist genau das was du gerade gesagt hast.

00:25:37: unsere Kinder also die Kinder die jetzt in der Schule sind die werden mit KI arbeiten müssen und sie werden nicht mehr wissen stoisch ab rufen müssen und das abgeben müssen.

00:25:48: Es wird ganz anders sein, es ist viel mehr mit Transferleistung und da sollte die Schulleitung auch ran gehen und schauen wie kriegen wir da was umgesetzt?

00:25:57: Und der dritte Punkt ist holt eure Lehrkräfte ab entlastet sie haben schon genug zu tun!

00:26:04: Und es ist unglaublich hilfreich zu wissen... Die Schulleitung steht hinter mir Auch wenn ich mal so eine Täuschung durchziehe und sage Ich habe hier einen ganz starken Verdacht.

00:26:14: Ich glaube, das ist was Schulen brauchen.

00:26:17: Dass auch da Einheit herrscht.

00:26:20: Super!

00:26:21: Vielen Dank für die drei Punkte und wir hatten ja gesagt bzw.

00:26:27: Cynthia hatte angekündigt dass wir heute zwei große Themen mit ihr besprechen wollen.

00:26:33: zum einen das Prüfungsthema.

00:26:35: Wir könnten dann noch viel länger drüber sprechen aber die Zeit ist begrenzt und ich glaub es war schon mal super hilfreich.

00:26:41: also vielen dank dafür.

00:26:43: Das zweite Thema ist die relativ neue Kennzeichnungspflicht für KI-Inhalte, die ist nämlich jetzt im August zwanzig sechsundzwanzig noch mal verstärkt worden oder ist jetzt quasi über diese neuen Transparenzpflichten des EUAI Acts in Kraft getreten.

00:27:00: Und bisher war im Prinzip die Linie KI-Werke sind gemeinfrei, im Grunde freienutzbar.

00:27:09: Endet sich das jetzt durch die neue Kennzeichnungspflicht?

00:27:12: Vielleicht kannst du dazu nochmal ein bisschen ausholen und was zu sagen.

00:27:16: Ja sehr gerne!

00:27:18: Wir müssen hier drei verschiedene Pflichten auseinanderhalten, die alle Kennzeichnungspflicht heißen – und das ist so schwierig.

00:27:27: also wir haben die urheberrechtliche Quellenangabe.

00:27:31: So, das kann man auch eine Quickenz-Heichnungspflicht nennen und zwar ist es grundsätzlich so im Urheberrecht steht wenn ich einen Werk erschaffen habe bin ich der Urheger und dann wenn jemand meinen Werk nutzt dann muss er kennzeichnen, dass das mein Werk ist und er das nur für seine Gedanken mitverwendet hat.

00:27:50: Quellenangabe – Zitatpflicht

00:27:52: so!

00:27:53: Das kann man auch als uheberechtliche Kennzeichnungspflicht nennen.

00:27:56: Das ist auch wichtig und es gilt weiterhin.

00:27:59: Jetzt haben wir aber wenn ich KI-Produkte habe, haben wir ein anderes Problem... Ich will eigentlich gar nicht problemen, eine andere Situation.

00:28:09: Und zwar hat ein KI-Produkt kein Urheberrecht, also es entsteht erst mal keinen Urheberecht.

00:28:16: Das ist das was du meintest mit gemein frei.

00:28:17: KI Produkte sind erstmal gemeinfrei.

00:28:21: Wir haben aber eine andere Motivationslage wie die KI Vorordnung sagt Wir müssen bei KI-Produkten es kentlich machen, dass das nicht von einem Menschen ist.

00:28:31: Das hat nicht mit dem Schutz des Urhebers zu tun sondern das hat damit zu tun, dass ich mit KI Produkten deepfakes erstellen kann.

00:28:38: Dass ich vielleicht an einem Telefon mit einem KI-Bot spreche muss gar nicht weiß und deswegen steht in der KI-Verordnung es wichtig, das zu kennzeichnen.

00:28:48: also wenn ich mit einem Bot telefonieren muss sich darüber aufgeklärt werden.

00:28:53: Echt lebensrechtes, photorealistisches Bildmache.

00:28:57: Da muss ich darüber aufklären!

00:28:59: dass das ein KI-Produkt ist und daher habe ich hier auch eine Kennzeichnungspflicht.

00:29:03: Naja, und dann weil wir ja gerade im Bildungsbereich sind... Ich hab natürlich auch ne Kennzeichnungspflicht.

00:29:09: die Schülerinnen und Schülertreffen!

00:29:11: Die müssen auch kennzeichnen was von der KI ist und was nicht und das gehört eigentlich ins Schulrecht letztendlich.

00:29:18: Weil da eben auch klar ist sie müssen Transparenz machen was ihre Leistung ist.

00:29:22: also diese drei Punkte so.

00:29:23: jetzt reden wir aber über die Kennzeichningspfricht aus der KI-Verordnung Und das habe ich kurz schon skizziert.

00:29:29: Also da geht es darum, dass sich klarstelle wenn es ein Produkt ist was auch von einem Menschen kommen würde das dann gekennzeichnet wird.

00:29:37: das ist ein KI-Produkt.

00:29:38: und das muss ich nicht nur machen indem ich da meinen Namen drunter oder die das KI Tool drunterschreibe stelle und dann sage das habe Ich gemacht habe ich generiert.

00:29:50: Es geht eben auch darum, dass es maschinenlesbar sein soll also auch wenn das mit im Internet kursiert, dass dann die Crawler das auch finden und einordnen können als KI Produkt.

00:30:03: Da noch eine Frage nochmal nachgehakt.

00:30:05: Es gibt dann jetzt deshalb so ein bisschen diese verkürzte Botschaft, dass alles was hier mit KI-Stellt wurde gekennzeichnet werden muss?

00:30:11: Ist das denn jetzt aber wirklich alles einmal sichtbar sein muss?

00:30:16: Das wurde mit KI generiert.

00:30:17: und wann fängt vielleicht auch so ein bißchen dieser menschliche Anteil an sozusagen der das sozusagen wieder relativiert weil man kann sich ja auch einen Text generieren lassen und danach bearbeitet man den.

00:30:29: wie ist es da?

00:30:30: also gibt's dann noch mal Eine Übergangsphase sozusagen?

00:30:34: Nein, es gibt keine Übergangspase mehr.

00:30:36: Aber der Artikel fünfzig in der KI-Verordnung... Darüber sprechen wir hier!

00:30:39: Der ist in verschiedenen Absätzen geteilt und da wird ziemlich klar unterschieden zu welchen.

00:30:45: also wann brauche ich ganz klare Kenntzeichnungspflicht und wann eben nicht?

00:30:50: Und wenn ich beispielsweise ein Video mach mit Osa, Drachen die überall fliegen und die Menschen leben auf Wolken.

00:31:00: Und alles ist in Pastelltönen.

00:31:03: dann brauche ich nicht sagen wisst ihr, das ist jetzt kein echtes Video.

00:31:06: Das muss ich da nicht... weil das versteht sich von selbst!

00:31:09: Jeder selbst ein Drittklässler erkennt dass das hier KI-Generät ist also das es nicht eine Realität ist.

00:31:15: Wenn ich aber meine Schulleitung mit Megafon sprechen las und sage bis zu den Herbstferien machen wir Hitze frei Und das ist realistisch.

00:31:26: Das musste ich ganz klar kennzeichnen Denn da könnte tatsächlich einen Drittklessler denken Super Idee.

00:31:33: Also da gibt es diese verschiedenen Stufen, das eine ist ein Deepfake man kann das ja noch viel schlimmer und auch strafrechtlich relevant nutzen

00:31:44: usw.,

00:31:44: also daher ist es wichtig dass man sowas kennzeichnet.

00:31:48: wenn ich beispielsweise eine Einladung mit ganz allgemeinen Inhalten zu Schulfest oder so was da reinbringen und das KI generieren lasst.

00:31:58: Dann würde ich immer empfehlen, man könnte drüber streiten, dann würde ich aber immer empfehlend einen kleinen Hinweis zu geben, rein KI generiert!

00:32:05: Wenn es aber so ist dass ich substanziell an einem Text oder auch an ein Bild.

00:32:10: Substantiell arbeitet das redaktionell, der DKI-Verordnung spricht von einer redaktionen Überprüfung.

00:32:18: Das heißt ich gehe mit meinem eigenen Wissen in diesen Text oder in das Bild – es kann man für alles nutzen – aber in diesem Text rein und überarbeitet das und mache es für mich passend!

00:32:29: Und mach quasi einen neues menschliches Wert drauf dann muss sich das auch nicht kennzeichnen weil mein Werk, dann ist das was aus meiner Kreativität quasi entstanden ist.

00:32:40: Also da muss es aber eine substanzielle Bearbeitung sein.

00:32:44: und wenn ihr mich jetzt fragt ja was ist denn ab wann ist substanziel?

00:32:47: Und ob wann nicht kann ich nicht sagen.

00:32:49: Das ist letztendlich sagt...und da bin ich jetzt wieder aus einer Auslegung vom Urheberrecht.

00:32:54: Da bin ich also jetzt endlich.

00:32:56: geht man davon aus in dem Moment wo ein neues Werk entsteht dann verblasst das KI-Werk, das KI generierte Werk und es entsteht was Neues.

00:33:05: Und dann muss ich's nicht kennzeichnen, dann werde ich quasi Urheber!

00:33:09: Super Es kommt drauf an.

00:33:12: Ich glaube, das ist aber ganz wichtig im juristischen Kontext.

00:33:15: Erinner ich mich gerade genau.

00:33:18: Also vielen Dank.

00:33:19: und das Beispiel mit dem Hitzefreibis zu den Herbstferien.

00:33:22: Das würden nicht nur die Trittlässler glauben.

00:33:25: Da würde ein anderes sagen.

00:33:26: Das klang noch blau sieben.

00:33:28: Das kann ich mir gut denken!

00:33:30: Aber lasst uns nochmal über das Thema sprechen.

00:33:33: Anbieter versus Betreiber?

00:33:35: Und die Frage ist immer wer ist denn überhaupt Betreber?

00:33:38: Ist es die Schule ... Was bedeutet das Ganze für die Anbieter?

00:33:42: Wir als Fobiz haben natürlich auch Pflichten.

00:33:45: Das ist uns bewusst und wir haben auch schon viele Dinge natürlich umgesetzt, auch jetzt im August.

00:33:50: nochmal zu dieser Kennzeichnungspflicht.

00:33:53: Vielleicht kannst du hier noch mal ein bisschen was zu sagen, was vor allem für Schulen und Lehrkräfte relevant ist.

00:33:58: Also erstmal anbietern ist derjenige, der einen KI-Tool entwickelt hat und Betreiber ist derjenigen, der dieses KI-tool dann nutzt.

00:34:07: Und die Schule wäre also dann Betreber!

00:34:10: Und damit ein Hergehen eben auch Kennzeichnungspflichten.

00:34:13: Also ich muss jedem, der damit arbeitet klarmachen wie er damit umgehen muss.

00:34:18: welche Nutzung erlaubt es und was nicht?

00:34:21: Was sind unangemessene Inhalte?

00:34:24: inwieweit muss ich kennzeichnen was das ist ein reines KI-Werk ist oder habe ich vielleicht redaktionell für mich neu erschaffen und dann muss ich es nicht kennzeichnen.

00:34:34: Also das ist, glaube ich wichtig.

00:34:35: dabei zu wissen für die einzelne Lehrkraft bedeutet dass nicht mehr Haftung oder irgendwas.

00:34:43: wenn ich von der Schule einen Tool zur Verfügung gestellt bekomme Dann kann die Lehrkraft das nutzen.

00:34:49: sie selber wird weder Betreiber noch verantwortlich oder irgendwas.

00:34:54: Die Lehrkraft selber kann das nutzen im Rahmen der Nutzungsbedingungen, die darf natürlich auch keine unangemessenen Inhalte erstellen.

00:35:01: und daher ist wichtig, nutzen Sie die Tools, die Schulen zur Verfügung stellen, dass es immer noch besser als wenn man zu Hause bei seinem kostenlosen KI-Tool irgendwelche Inhalten generiert.

00:35:14: Da spricht man heutzutage auch glaube ich inzwischen von Schattenkai, weil viele sowas nutzen doch irgendwie in die Arbeit, in den Unterricht einfließen lassen ohne dass klar ist wer welche Daten da eingeflossen sind um dieses Werk zu produzieren.

00:35:31: Ja also daher ist es wichtig das im schulischen Kontext zu bleiben.

00:35:35: und nochmal abschließend Betreiber wird die Schule.

00:35:38: Vielen Dank Antonia, dass du es da auch nochmal aufgeschlüsselt hast.

00:35:42: Für all diejenigen denen das vielleicht jetzt ein bisschen zu theoretisch ist würde ich hier ganz klein noch mal ein bisschen in ein paar praktische Beispiele gehen und mit dir ein kleines Spiel spielen und zwar das Spiel Kennzeichungspflichtig nicht Kennzeichungspflichtig oder kommt darauf an?

00:35:58: Sehr langer Titel!

00:36:00: für ein paar Beispiele, Situationen die ich dir jetzt ganz gerne mal nennen würde und du mit diesen drei verschiedenen Termini einmal arbeitest um zu sagen wie deine Lehrkraft entsprechend in der Situation und damit umgeht oder generell wieder damit umgegangen werden soll von demjenigen.

00:36:17: Und genau dann legst du einfach mal los wollen wir das mal so machen?

00:36:21: Ja, gerne!

00:36:22: Perfekt.

00:36:23: Super.

00:36:23: Dann fange ich mal an mit dem Ersten und zwar eine Lehrkraft erstellt mit KI oder mit Hilfe eines KI-Systems ein Arbeitsblatt für ihre Klasse.

00:36:31: Sind ja da muss ich direkt nachfragen Sie verwendet keine fremden Dateien die sie da hoch lädt?

00:36:37: Oder so.

00:36:37: Sie sagt einfach der Prompt lautet mache einen Arbeitsplatz in Geschichte klasse sieben.

00:36:42: Genau gehen wir mal davon aus.

00:36:43: Ja korrekt.

00:36:44: Ja kein Problem kann sie machen.

00:36:46: Also wäre dann dem Vorfall nicht kennzeichnungspflichtig.

00:36:50: Oder kommt's darauf an?

00:36:53: Das reine KI-Tool, sie nennt das und dann wird...das ist kennzeichnungspflichtig.

00:36:58: Es kommt aber auch da natürlich immer drauf an ob die Lehrkraft es als Inspiration nutzt sondern weiter bearbeitet, ne?

00:37:05: Jetzt

00:37:05: haben wir auf einen fiesen Fall weil der ist eigentlich sehr.

00:37:07: also nicht, da kommt es auch viele verschiedene Faktoren drauf an, du hattest jetzt schon zu Beginn gefragt ob es irgendwie davon abhängig ist dass die eigene Dateien noch mit hoch lädt oder nicht.

00:37:17: Und aber auch das.

00:37:18: jetzt ein bisschen die Fragen, glaube ich.

00:37:19: Darauf zieht es vielleicht ab inwiefern die Lehrkraft mit ihrem eigenen Fachwissen noch mal drüber geht und da natürlich richtig stellt was vielleicht auch fehlerhaft ist.

00:37:27: durch die KI würde das dann quasi schon verändern?

00:37:29: Ja

00:37:31: Aber wir sehen, dass es nicht einfach ist.

00:37:33: Es ist kein einfaches Thema und es gibt manchmal nicht dieses einfache Ja-Nein weil es eben abhängig ist von so vielen Faktoren und deswegen ist diese die Beschäftigung mit dem Thema dieses drüber nachdenken sich damit auseinandersetzen so wahnsinnig wichtig.

00:37:51: Das ist ganz wichtig und wir sind ja auch noch am Anfang der Kennzeichnungspflicht.

00:37:56: Es wird schon jede Menge darüber gesprochen, und wie haben Leitlinien?

00:38:00: Und wir haben Grundsätze die da zugrunde liegen und vielleicht sollten wir da nochmal den Fokus drauf machen.

00:38:06: immer dann wenn es eine in irgendeiner Art Teuschung geben könnte dahingehend dass hier etwas veröffentlicht publiziert in der Schule zugänglich gemacht wird von dem man wissen muss, das ist eine KI gewesen.

00:38:24: Dann habe ich ne Kennzeichnungspflicht!

00:38:26: Wenn nicht aber meine siebte Klasse nur über die Französische Revolution Abfrage in meinem Arbeitsblatt?

00:38:32: Habe ich diese Motivation der Kennzeichnungspflicht im Grunde

00:38:35: nicht?!

00:38:36: Ja so muss man darüber reden.

00:38:39: wenn ich Inhalte produziert, die die Schüler am Ende lernen müssen dann muss sich sicherstellen dass diese Inhalten, wenn sie KI generiert sind korrekt sind Und in diesem Zug muss ich das überprüfen und vielleicht auch kennzeichnen.

00:38:54: Aber, in dem Moment wo ich meine Arbeit als Lehrkraft erledige und anstatt es mit meinem Kopf runterzuschreiben mir eine Struktur durch eine KI erstellen lasse dann ist das in Ordnung ja?

00:39:08: Das ist glaube ich nochmal wichtig.

00:39:10: die Täuschung gilt zu verhindern.

00:39:12: Ich darf nicht so tun oder nicht den Anschein erwecken Es wäre menschlich und in Wirklichkeit ist es KI.

00:39:19: Das ist tatsächlich echt spannend.

00:39:21: Also ich bin mich fasziniert gerade nochmal diese verschiedenen Facetierungen, was so den Unterschied macht sozusagen bei der Kennzeichnung.

00:39:28: Ich würde deshalb jetzt trotzdem noch mal mit dir durch ein paar Fragen durchgehen und du kannst einfach gerne nochmal ein bisschen differenzierte dazu erläutern Was ja es tatsächlich gelten würde damit wir berücksichtigen dass es etwas weniger klar ist als wie uns vielleicht auch ein bisschen wünschen würden.

00:39:46: Und zwar eine Lehrkraft lässt sich Elternbrie formulieren und verschickt ihnen.

00:39:50: Sollte sie das ansprechen, Kennzeichnern?

00:39:53: Auch da... Das tut mir leid!

00:39:54: Ich habe keine eins-ja und nein Antwort.

00:39:56: Da würde ich in so einem Fall sagen ja soll Sie machen keine Kennzeichnung aber vorab als Schule eine KI-Compliance entwerfen und sagen liebe Eltern Schülerinnen und Schüler alle Beteiligten wir implementieren im Rahmen der KI Verordnung KI Tools Und da geschieht es auch, dass wir einfache Schreiben an die Elterngemeinschaft über KI generieren.

00:40:26: Diesen Weg würde ich gehen!

00:40:28: Nicht jedes jeden Text kennzeichnen sondern einfach so eine Richtlinie publizieren auf der Webseite oder den Eltern am Schuljahresanfang mitgeben und sagen in diesen Bereichen wo es überhaupt nicht um personenbezogene Daten gibt, wo es gar kein Risiko gibt werden wir KI-Tools nutzen Und das ist auch schon eine Kennzeichnung letztendlich.

00:40:49: Auch wenn mich das nicht verpflichtet, an jedes Dokument unten noch mal zu schreiben erstellt mit.

00:40:55: Es heißt es ist vielleicht auch bisweilen eher eine Transparenzpflicht als eine Kennzeichnungspflicht im wörtlichen Sinne?

00:41:03: Kann man das so sagen?

00:41:04: Ja ja

00:41:05: super!

00:41:06: Na klar genau darum geht's also.

00:41:08: letztendliche ist die Kennzeichenungspflicht ein Punkt der Transparenspflicht.

00:41:13: Okay, dann würde ich nochmal auf zwei Fälle gehen die voran KI generierte Bilder betreffen.

00:41:18: Zum Beispiel ein KI-generiertes Bild soll in der Schülerzeitung erscheinen.

00:41:22: ist da nicht nur Transparenz grundsätzlich notwendig sondern auch die Kennzeichnung?

00:41:28: Ja, da ist eine Kennzeichnungen wichtig weil da klar ist Auch da kommt es auf den Inhalt des Bildes.

00:41:35: Aber da würde ich prinzipiell von einer Kennzeichnungspflicht ausgehen, das liegt auch daran dass bei Bildern die Kennzeichnungspflicht insgesamt also ganz vereinfacht gesagt nochmal ein bisschen strenger ist als bei Texten.

00:41:48: Und bei einer Website-Abbildung von einem KI generierten Foto eines Schülers, wie ist es da mit der Kennzeichnung?

00:41:56: Müsste man da vielleicht sogar noch ganz klar dazu schreiben, dass diese Schüler nicht real existiert?

00:42:01: oder gibt es da irgendwie eine Zusatzinfo die eingespielt werden muss.

00:42:04: Genau das geht ja schon in diese Richtung Deepfake.

00:42:07: Die heißt ja nicht immer nur, dass man irgendwelche kriminellen Energien da hat sondern das muss definitiv gekennzeichnet werden.

00:42:14: Okay

00:42:14: spannend!

00:42:15: Und jetzt dann, um das abzunten und auch nochmal klar zu machen.

00:42:18: Das ist glaube ich eher um Transparenz als um Kennzeichnung als solches geht.

00:42:23: wenn es Schule zum Beispiel im KI Chatboard einbindet bei sich auf der Seite der Elternfragen beantwortet Wie wie ist es da?

00:42:31: Es ist da auch einfach ansprechend wichtig dass noch mal klar ist das ist keine natürliche Person sondern das ist ein Chatboard.

00:42:38: Richtig bevor die Eltern das erste Mal oder jedes Mal wenn sie auf der seite sind und mit diesem Chatboard sprechen dann sollten sie darüber aufgeklärt werden, dass es ein KI-Tool ist.

00:42:49: Dass das nicht immer die Wahrheit sagt, dass man keine personbezogene Daten da eingeben muss etc.. Genau, also auch letztendlich eine Kennzeichnungspflicht aber eben auch eine Art Transparenz die die Schule herstellen muss.

00:43:02: Okay das heißt nur noch mal so ein bisschen zusammengefasst dass wir es einmal nochmal in einem kleinen Päckchen haben wenn wir von der Kennzeichnungspfricht sprechen dann ist es vor allem eben auch Eine Transparenspflicht oder vordergründig die Transparelnspflicht das klar ist wann und wie mit KI gearbeitet wird Und das ist wahrscheinlich in den meisten Fällen empfehlenswerte ist Einmal mehr klar und sichtbar zu machen, dass man mit KI gearbeitet hat als dass man das versäumt und zu wenig macht.

00:43:29: Ich finde aus dem... Grund auch wertvoll, weil man natürlich dadurch immer klar macht, dass man in Hilfsmittel hatte als Lehrkraft und das Bewusstsein bei den Lesenden weckt.

00:43:42: Dass bestimmte Dinge vielleicht mit einer höheren Aufmerksamkeit gelesen werden und man eben nicht einfach blind drüber liest.

00:43:47: sowieso eine wichtige Fähigkeit die wir jetzt alle erlernen müssen ein bisschen kritischer zu sein für euch einmal mehr nachzufragen.

00:43:53: Insofern glaube ich ist es noch mal ein guter Grund um dann nochmal genau hinzugucken Okay

00:43:58: Gleichzeitig kann das vielleicht auch andere motivierend zu sehen.

00:44:01: Ah, schau mal!

00:44:02: Da könnte ich in Zukunft auch KI nutzen für solche Dinge wenn ich es dann auch entsprechend kennzeichne.

00:44:08: Also ein bisschen dieses Modell lernen kann das ja dann vielleicht auch ein bisschen verstärken.

00:44:15: Wir kommen langsam zum Ende und Antonia du hattest eben irgendwann einmal erwähnt wir stehen ja noch relativ am Anfang.

00:44:22: Das denke ich auch.

00:44:23: Ich glaube, da kommt noch einiges auf uns zu und jetzt aber mal auf deinen Fachbereich bezogen – auch wenn du nicht in die Zukunft blicken kannst!

00:44:32: Aber was denkst du?

00:44:33: Was kommt so in den nächsten zwölf oder auch vierundzwanzig Monaten juristisch noch auf Schulen zu?

00:44:39: Die KI-Nutzung wird natürlich nicht weniger.

00:44:42: Also es wird im Zweifel immer mehr und es gibt auch immer mehr tolle Tools, die Schülerinnen und Schüler vielleicht sogar viel eher nutzen als die Schulen.

00:44:52: also da ist das eben wichtig zu schauen.

00:44:54: Auch da kann ich immer nur wiederholen schaffen sie sich ein gutes Regelwerk denn da wird's immer komplizierter auch in Zukunft.

00:45:01: Das kommt auf die Schulen zu.

00:45:03: Ich bin mir nicht sicher ob wir das schon in zwölf oder vierundzwanzig Monate haben aber Tendenz wird immer mehr dahin gehen, auch digital souverän zu werden und das bedeutet es wird immermehr eigene kleine KI-Instanzen geben die unabhängig sind von den großen Playern.

00:45:21: Und da bin ich tatsächlich auf einige Projekte schon eingebunden, die das planen.

00:45:27: Die sagen wir haben so wie früher hatten wir erst das Internet und irgendwann entwickelte sich ein rechtssicheres Intranet für erst Unternehmen, aber jetzt haben das Schulen ja auch und so wird das auch perspektivisch sicherlich in Schulen geschehen.

00:45:42: Ja also noch sind wir da und haben diese großen, großen Systeme, aber wir werden sicherlich dahingehend dass wir kleinere sichere Datenschutz oder regelkonforme KIs entwickeln werden die das Leben auch einfach an Schulen glaube ich dann einfacher macht.

00:46:00: Vielleicht an der Stelle auch diese motivierende Tatsache.

00:46:03: Es hat sich ja seit der Veröffentlichung von Chachi Petil in Zweiundzwanzig jetzt doch schon einiges bewegt und es haben sich einige in die Spur gegeben, und es scheint doch so zu sein dass sich einige Dinge etwas agile und schneller bewegen als vielleicht damals, als das mit dem Internet losging, insofern vielleicht da auch noch mal so bisschen die Motivation, die Wertschätzung, dass vielleicht doch einiges auf den Weg gebracht wird.

00:46:27: Ein guter Gedanke, ein optimistischer.

00:46:34: Jetzt wäre meine Frage noch stellvertretend für alle Lehrkräfte die zuhören vielleicht eben auch Schulleitungen die zu hören Hast du eine Quelle oder ein Tipp, wo man sich vielleicht informieren kann zu juristischen Themen in Bezug auf diese Themen?

00:46:52: Also wo kann man vielleicht ein paar Informationen erhalten die aktuellsten auch um rechtssicher zu handeln.

00:46:58: Hast du da irgendwie einen Tipp bis auf natürlich dich regelmäßig in Updates in unserem Podcast hier einzuladen damit du uns update hältst?

00:47:07: Das ist schwierig, weil es ist genau wie du sagst.

00:47:10: Es entwickelt sich so unglaublich schnell!

00:47:13: Ich persönlich habe tatsächlich eine wiederkehrende Erinnerung und schaue direkt bei der Europäischen Kommission.

00:47:22: Und dann... ich zöger so ein bisschen ob ich das jetzt hier empfehle aber es gibt natürlich – und das nutze ich auch tatsächlich – es gibt dass die täglichen Neuigkeiten zusammenfassen.

00:47:36: Das mache ich auch, ich habe jeden Tag so ein Morning Briefing quasi und dann sagt mir, das ist eine Rechercheauftrag, hab' ich dahinterlegt und dann wird gescannt was es gestern alles passiert im Rahmen von KI-Bildung in der europäischen Entwicklung?

00:47:50: Das ist das, was mich interessiert!

00:47:51: Es ist auch wichtig, was in Amerika passiert oder in China

00:47:54: usw.,

00:47:55: aber tatsächlich... Ist das vielleicht auch ein ganz guter Gangbarer Weg?

00:47:59: Ganz besonders, wenn man sich überlegt wir haben alle wenig Zeit und haben allen noch einen.

00:48:05: Also ich vielleicht jetzt nicht, es ist schon mein Beruf aber Lehrkräfte beispielsweise sind ja nicht Lehrkraft geworden um sich mit KI auseinanderzusetzen Aber da recht schnell Informationen zu bekommen ist das vielleicht ein gangbarer weg.

00:48:17: Super!

00:48:18: Vielen Dank Antonia.

00:48:21: Ich hoffe, den Zuhörern hat es jetzt genauso gut gefallen wie uns.

00:48:27: Man lernt immer wahnsinnig viel in den Gesprächen mit dir.

00:48:30: Insofern danke dass du deinen Wissen hier wieder geteilt hast und wir sind ja schon gesagt hat das wird hoffentlich auch nicht das letzte Mal gewesen sein und zusätzlich bist du ja auch regelmäßig in unseren Webinaren wo du dann ganz konkret auch Fragen von Lehrerinnen und Lehrern beantworten kannst was ich auch immer super finde.

00:48:46: also vielen Dank und bis zum nächsten mal!

00:48:50: Sehr gerne.

00:48:50: Es macht mir immer wieder Spaß mit euch, bis auf's

00:49:05: weitere.