Der Rat der 27 EU-Mitgliedstaaten hat am 21. Mai 2024 den AI Act und damit einen einheitlichen Rahmen für den Einsatz von Künstlicher Intelligenz in der Europäischen Union verabschiedet. Ziel unserer Arbeit war zu erörtern, welche Auswirkungen dieses Gesetz auf den Einsatz von KI in der Hochschullehre hat.

Dafür wurde der Arbeit zunächst eine Kategorisierung, wo ein KI-Einsatz in der Hochschullehre möglich ist, zugrunde gelegt. Im Anschluss erfolgte eine Analyse des rechtlichen Rahmens des EU AI Acts. Es wurde untersucht, inwiefern eine Einteilung der Anwendungsbereiche in Risikoklassen möglich ist und welche Implikationen dies für den Hochschulbereich hat. Die überwiegende Mehrheit der KI-Anwendungen wurde der Kategorie des transparenzpflichtigen Risikos zugewiesen, d. h. diese Systeme unterliegen der Transparenzpflicht. Es ist hervorzuheben, dass diese Verpflichtung primär die Anbieter der jeweiligen Systeme betrifft. In diesem Zusammenhang ist von Bedeutung, ob die Hochschule die Software selbst entwickelt und anbietet.

Im nächsten Schritt wurden Auswirkungen ermittelt, welche sich unabhängig von der Zuordnung der Anwendungsbereiche in die Risikokategorien aus der Verordnung für die Integration von KI an Hochschulen ergeben. Die Ermittlung der indirekten Auswirkungen erfolgt unter Zuhilfenahme des PESTEL-Modells, welches eingesetzt wird, um Auswirkungen aus multiperspektivischer Sicht zu betrachten. Zu den hochschulpolitischen Auswirkungen zählt insbesondere die Notwendigkeit einer Anpassung der Lehrpläne sowie einer Weiterbildung des Hochschulpersonals. Auf soziokultureller Ebene lässt sich eine verstärkte Akzeptanz von KI-Systemen beobachten. Gleichzeitig birgt aus wirtschaftlicher Perspektive die Einführung strengerer Anforderungen an Hochrisiko-KI-Systeme eine Kostensteigerung. Aus technologischer Perspektive lässt sich eine zunehmende Relevanz neuer Tools, wie beispielsweise Risikomanagementsysteme für hochriskante KI-Systeme, im Hochschulbereich beobachten. Die rechtliche Dimension zeigt, dass die Einführung eines Compliance-Management-Systems zunehmend an Bedeutung gewinnt, um den gesetzlichen Anforderungen gerecht zu werden.

Die Ergebnisse dieser Arbeit fließen in die Entwicklung eines Kriterienkatalogs ein, der KI-Tools auf ihre Konformität mit rechtlichen, ethischen, sicherheitsrelevanten und pädagogischen Anforderungen überprüft.