Mit der am 1. August 2024 in Kraft getretenen Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 über künstliche Intelligenz (KI-VO) hat die Europäische Union einen verbindlichen Rechtsrahmen geschaffen. Ziele der KI-VO sind die Entwicklung und Nutzung vertrauenswürdiger Künstlicher Intelligenz in der EU zu fördern sowie Innovationen zu ermöglichen und Risiken zu minimieren. Einzelne Vorschriften der KI-VO treten gestaffelt in Kraft.
Zu den am 2. August 2026 in Kraft getreten Vorschriften der KI-VO zählen auch die KI-Kennzeichnungspflichten nach Art. 50 KI-VO. Seitdem muss in bestimmten Fällen eine Kennzeichnung erfolgen. Die Nutzenden müssen z. B. darüber in Kenntnis gesetzt werden, wenn sie mit einem interaktiven KI-System wie einem Chatbot agieren. Die Transparenzanforderungen sollen das Risiko von Täuschung und Manipulation mittels KI-generierter Inhalte verringern. Hochschulen sind oder werden von der KI-VO in nahezu allen Aufgabenbereichen betroffen sein: in Studium und Lehre, Forschung und Transfer, Personalverwaltung, Hochschulkommunikation sowie bei Betrieb und Entwicklung der IT-Infrastruktur. Die rechtlichen Verpflichtungen richten sich nicht nur nach der Bezeichnung oder technischen Grundlage eines KI-Systems, sondern vor allem nach seinem konkreten Verwendungszweck und der Rolle, die die Hochschule dabei wahrnimmt