KI-Governance in L&D: Erst die Regeln, dann die Skalierung

KI-Governance in L&D: Erst die Regeln, dann die Skalierung

Generative KI ist im L&D-Bereich längst angekommen – klare Regeln für ihren Einsatz fehlen aber oft noch. Fünf Bereiche zeigen, worauf es bei einer guten KI-Governance ankommt: Daten, geistiges Eigentum, Bias, Qualitätssicherung und Transparenz.

Wenn KI zum festen Bestandteil des eLearnings wird

Ein neues eLearning soll fertig werden. KI hilft dabei, Lernziele zu formulieren, erste Texte zu erstellen, ein Quiz zu entwickeln oder den Kurs am Ende in mehrere Sprachen zu übersetzen. Alles geht schneller als früher. Aber spätestens dann tauchen die Fragen auf: Welche Inhalte dürfen wir in KI-Tools eingeben? Wer prüft die Ergebnisse? Und was müssen wir unseren Mitarbeitern über den Einsatz von KI sagen?

Damit solche Fragen nicht jedes Mal neu geklärt werden müssen, braucht es klare Leitplanken für den Arbeitsalltag. Genau dafür sorgt eine gute KI-Governance. Standards wie die ISO/IEC 42001 und Vorgaben wie der EU AI Act bieten dabei Orientierung. Entscheidend sind aber vor allem Regeln, die verständlich sind und sich ohne großen Aufwand anwenden lassen.

Fünf Bereiche sind dabei entscheidend: Daten, geistiges Eigentum, Ethik und Bias, Qualitätssicherung sowie Transparenz. Dafür braucht es kein kompliziertes Regelwerk, sondern eine gute KI-Governance, die auf einen Blick klärt, was erlaubt ist, wann ein zusätzlicher Check nötig wird und wer die Verantwortung übernimmt.

Daten: Was darf rein – und was nicht?

KI unterstützt im eLearning bei vielen Aufgaben – von der Formulierung von Lernzielen und der Überarbeitung von Kurstexten bis hin zur Erstellung von Quizfragen. Sobald dabei aber sensible Inhalte wie Mitarbeiterdaten, interne Dokumente oder vertrauliche Unternehmensinformationen ins Spiel kommen, sollte genauer hingeschaut werden. Denn solche Inhalte gehören nicht einfach in jedes KI-Tool.

Klare Regeln machen den Umgang mit sensiblen und unkritischen Inhalten einfacher. Deshalb sollte vorab feststehen, welche Informationen mit welchen Tools verarbeitet werden dürfen. Öffentliche und unkritische Inhalte können in dafür freigegebenen Anwendungen genutzt werden. Sensible oder personenbezogene Informationen gehören dagegen ausschließlich in vom Unternehmen freigegebene Tools, bei denen klar geregelt ist, wie damit umgegangen wird.

Je vertraulicher die Informationen, desto genauer sollte geprüft werden, wo sie verarbeitet werden. So lässt sich im Arbeitsalltag schnell entscheiden, welche Inhalte in welchem Tool gut aufgehoben sind – und welche besser nicht hineingehören. KI kann so sinnvoll eingesetzt werden, ohne Datenschutz und Vertraulichkeit zu gefährden.

Urheberrecht: Wem gehört, was die KI erstellt?

Ein KI-generierter Text oder ein Bild ist nicht automatisch rechtlich geschützt. Gerade wenn daraus zentrale eLearning-Inhalte entstehen, sollte klar sein, welchen Beitrag das eigene Team geleistet hat und welche Rechte an den fertigen Inhalten bestehen.

Der eigene Beitrag sollte dabei klar erkennbar bleiben. Ideen, Überarbeitungen und redaktionelle Entscheidungen sollten nicht vollständig an die KI abgegeben werden. Sinnvoll ist außerdem, festzuhalten, an welchen Stellen KI unterstützt und was anschließend vom Team angepasst wurde.

Vor der Veröffentlichung lohnt sich außerdem ein Blick auf mögliche Rechte Dritter. Texte, Bilder oder Grafiken aus KI-Tools können bestehenden Werken ähnlich sein. Gerade bei größeren eLearning-Projekten sollte geprüft werden, ob die Inhalte so verwendet werden dürfen – am besten als Teil des normalen Freigabeprozesses.

Bias und Fairness: Wo bleibt der Mensch gefragt?

Verzerrungen können schon in kleinen Details sichtbar werden. KI kann zum Beispiel in Szenarien Führungskräfte automatisch männlich darstellen, bestimmte kulturelle Perspektiven als selbstverständlich voraussetzen oder bei Bildern einzelne Gruppen kaum berücksichtigen.

Kritischer wird es, wenn KI nicht nur Inhalte erstellt, sondern den Lernweg mitbestimmt. Gibt sie Lernempfehlungen, bewertet Antworten oder stellt individuelle Lernpfade zusammen, können solche Verzerrungen beeinflussen, welche Lernangebote Mitarbeiter erhalten oder wie ihre Leistungen eingeschätzt werden.

Je stärker KI den Lernweg oder Entscheidungen über einzelne Mitarbeiter beeinflusst, desto wichtiger ist die menschliche Kontrolle. Inhalte sollten vor dem Einsatz auf unterschiedliche Perspektiven und mögliche Barrieren geprüft werden. Bei Entscheidungen über einzelne Mitarbeiter sollte immer ein Mensch die Ergebnisse überprüfen und die Verantwortung dafür übernehmen.

Qualitätssicherung: Was sollte vor der Veröffentlichung geprüft werden?

Nicht jeder Inhalt braucht den gleichen Prüfaufwand. Ein internes Lernmaterial ohne sensible oder rechtlich relevante Inhalte kann mit einem kurzen Check auskommen. Bei wichtigen Inhalten – etwa Compliance- und Pflichtschulungen oder Aussagen mit rechtlicher oder fachlicher Relevanz – ist dagegen eine gründlichere Prüfung sinnvoll.

Wer die Inhalte prüft, hängt vom Thema ab: Bei Compliance-Schulungen übernimmt die Compliance-Abteilung die Prüfung, bei rechtlichen Aussagen die Rechtsabteilung und bei fachlichen Inhalten die zuständige Fachperson aus dem jeweiligen Bereich. Wichtige Fakten müssen dabei anhand verlässlicher Quellen verifiziert werden. Denn KI kann überzeugend formulieren und trotzdem falsche Informationen oder sogar erfundene Quellen liefern.

Klar geregelt sein sollte auch, wer für die einzelnen Schritte verantwortlich ist. Wer erstellt den Inhalt, wer übernimmt die Prüfung und wer gibt ihn am Ende frei? Zusätzlich kann festgehalten werden, wo KI unterstützt hat, wer die Inhalte geprüft hat und wann die Prüfung stattgefunden hat. So bleibt nachvollziehbar, wie ein Lerninhalt entstanden ist und wer ihn freigegeben hat.

Transparenz: Wann sollten Mitarbeiter von KI wissen?

Mitarbeiter sollten wissen, wenn künstliche Intelligenz Teil ihres eLearnings ist. Das gilt zum Beispiel für KI-gestützte Kurstexte, Chatbots, die Fragen beantworten, oder Systeme, die Lernempfehlungen geben. Sie sollten erkennen können, wann sie direkt mit einem solchen System interagieren und wann es ihren Lernprozess beeinflusst.

Für den Umgang mit KI braucht es klare Regeln. Statt jedes Mal neu zu entscheiden, sollte festgelegt werden, wann und wie der Einsatz kommuniziert wird. Wer direkt mit einem KI-System interagiert, sollte darüber informiert werden. Auch wenn sie bei Bewertungen oder Empfehlungen für einzelne Mitarbeiter eine Rolle spielt, sollte das offen kommuniziert werden.

Hilfreich ist eine einfache Übersicht darüber, wo KI eingesetzt wird. Darin kann festgehalten werden, in welchen Kursen und Anwendungen KI zum Einsatz kommt und wofür sie genutzt wird. So lässt sich schnell nachvollziehen, wo sie eine Rolle spielt und welche Informationen Mitarbeiter dazu erhalten sollten.

Zusammenfassung

KI-gestützte Lernangebote brauchen kein kompliziertes Regelwerk. Entscheidend ist, dass klar ist, was erlaubt ist, wo geprüft werden muss und wer Verantwortung übernimmt.

Klare Vorgaben schaffen Sicherheit und machen den Einsatz im Alltag einfacher. So kann KI im eLearning dort unterstützen, wo sie wirklich einen Mehrwert bietet. Gleichzeitig entsteht ein verlässlicher Rahmen für den weiteren Einsatz in der betrieblichen Weiterbildung.

---

Unser Team an E-Learning Experten bietet Ihnen zuerst eine umfassende Beratung und konzeptionelle Schritte für Ihre E-Learning-Plattform.

Unser Ziel: Ihnen das beste Resultat zu liefern, von Anfang an.
Ihre Lernenden zu begeistern und zu engagieren. Lösungen zu entwickeln die Ihren individuellen Anforderungen entsprechen.

Wir sind Experten für E-Learning Technologie. Wählen Sie uns, um Ihre kundenspezifische LMS Lösungen anzubieten.