Datenschutz, KI,- IT und Informationssicherheit 

Mit dem Artificial Intelligence Act (kurz: AI Act oder KI-Verordnung) schafft die EU einen verbindlichen Rechtsrahmen für den Einsatz von Künstlicher Intelligenz. Ein zentrales Thema dabei: die Kompetenz der Menschen, die mit KI-Systemen arbeiten – und die Frage, ob Unternehmen künftig einen festen Ansprechpartner oder gar eine verantwortliche Person für Künstliche Intelligenz benötigen.

Der relevante Rechtsrahmen hierfür ergibt sich aus Artikel 4 AI Act, ergänzt durch Erwägungsgrund 20. Dieser verpflichtet Anbieter und Betreiber von KI-Systemen, dafür zu sorgen, dass alle mit KI befassten Personen – sowohl intern als auch extern – über ein „ausreichendes Maß an KI-Kompetenz“ verfügen. Damit geht der Gesetzgeber einen klaren Schritt in Richtung Professionalisierung des KI-Einsatzes in der Unternehmenspraxis.

Was bedeutet „ausreichende KI-Kompetenz“ konkret?

Das Gesetz bleibt in seiner Formulierung bewusst offen – wie so oft im europäischen Recht. Eine pauschale Antwort gibt es nicht, denn was „ausreichend“ ist, hängt maßgeblich von folgenden Faktoren ab:

• Welche Vorkenntnisse, Qualifikationen oder Erfahrungen bringen die betroffenen Mitarbeitenden mit?
• In welchem Bereich und mit welcher Tragweite wird das KI-System eingesetzt?
• Wie kritisch sind die Anwendungsfälle – etwa im Hinblick auf Risiken für Betroffene oder regulatorische Anforderungen?

Je sensibler der Einsatzbereich, desto höher sind in der Regel auch die Anforderungen an die Fachkenntnis.

Ist ein KI-Beauftragter Pflicht?

Nein – der AI Act verlangt nicht ausdrücklich die Benennung eines KI-Beauftragten, wie man es beispielsweise vom Datenschutzbeauftragten nach DSGVO kennt. Dennoch kann sich aus dem Gesetz ein faktisches Erfordernis ergeben: Unternehmen müssen in der Lage sein, die notwendige KI-Kompetenz sicherzustellen, regelmäßig zu überprüfen und bei Bedarf nachzuschärfen.

Und genau hier kommt die Rolle eines KI-Beauftragten oder „AI Officers“ ins Spiel – als zentrale Ansprechperson für alle KI-bezogenen Fragen und als Koordinator:in für Schulungen, Prozesse, Qualitätssicherung und regulatorische Anforderungen.

Was macht ein KI-Beauftragter konkret?

Ein KI-Beauftragter hat keine rein technische Funktion. Gefordert ist ein interdisziplinäres Profil – mit einem tiefen Verständnis sowohl technischer als auch rechtlicher und organisatorischer Zusammenhänge:

• Verstehen und bewerten, wie KI-Systeme technisch funktionieren und welche Risiken mit ihnen verbunden sind.
• Sicherstellen, dass die Systeme rechtskonform entwickelt, genutzt und dokumentiert werden.
• Koordinieren, dass alle relevanten Stakeholder (z. B. Fachabteilungen, IT, Geschäftsführung, externe Dienstleister) in die Entwicklung und Nutzung eingebunden sind.
• Schulen und sensibilisieren, um eine tragfähige KI-Kompetenz im gesamten Unternehmen aufzubauen.

Was sagt der AI Act zur internen Kompetenz konkret?

Der Gesetzgeber fordert nicht nur Fachwissen über die konkrete Technik. Vielmehr müssen Unternehmen in der Lage sein, die Anwendung eines KI-Systems in ihrer spezifischen Umgebung nachvollziehbar, sicher und rechtskonform zu gestalten. Dabei sind laut Erwägungsgrund 20 insbesondere folgende Fähigkeiten gefordert:

• Kenntnisse über technische Komponenten und deren korrekte Anwendung,
• Fähigkeit zur kritischen Interpretation der Systemergebnisse,
• Verständnis für die regulatorischen Anforderungen entlang der gesamten KI-Wertschöpfungskette.

Kurz: Unternehmen brauchen mehr als IT-Know-how – gefragt ist ein durchdachtes Zusammenspiel aus Technik, Recht, Ethik und unternehmerischer Verantwortung.

Fazit: Ein KI-Beauftragter kann Wettbewerbsvorteil und Rechtssicherheit schaffen

Auch wenn die Benennung einer verantwortlichen Person gesetzlich (noch) nicht vorgeschrieben ist: Unternehmen, die Künstliche Intelligenz strategisch einsetzen, werden mittelfristig nicht umhin kommen, interne Zuständigkeiten zu definieren – sei es über eine interne Rolle oder durch die Beauftragung externer Expertise.

Denn der Aufbau und die Pflege von KI-Kompetenz ist kein einmaliges Projekt, sondern ein kontinuierlicher Prozess.

Wie wir Sie unterstützen können

Sie setzen KI bereits ein – oder planen dies?

Wir helfen Ihnen dabei,

• den Status Quo der internen Kompetenz zu erfassen,
• passende Qualifizierungsmaßnahmen zu planen,
• eine KI-Strategie zu entwickeln, die regulatorischen Anforderungen gerecht wird,
• und – bei Bedarf – einen KI-Beauftragten zu benennen oder externe Expertise einzubinden.

Sprechen Sie uns an. Wir begleiten Sie gern auf dem Weg zur KI-konformen Organisation. Wir haben die fachliche Qualifikation, bestätigt durch den Berufsverband der Datenschutzbeauftragten,  durch diesen erworben.