Künstliche Intelligenz schafft ein völlig neues berufliches Ökosystem. Organisationen benötigen zunehmend Menschen, die KI-Governance bewerten, KI-Managementsysteme beurteilen, Risiko- und Folgenkontrollen prüfen, technische Nachweise hinterfragen und unabhängige Absicherung darüber bieten können, wie künstliche Intelligenz entwickelt, bereitgestellt und genutzt wird.
Diese Nachfrage deutet auf einen potenziell wichtigen neuen Markt für Personenzertifizierung hin: KI-Auditoren, KI-Governance-Fachleute, KI-Risikospezialisten und andere Praktiker, deren Kompetenz unabhängig nachgewiesen werden muss.
Diese Entwicklung ist eine natürliche Folge eines umfassenderen Wandels in Regulierung und Konformitätsbewertung. ISO/IEC 42001 hat einen internationalen Rahmen für Managementsysteme für Künstliche Intelligenz geschaffen, der EU AI Act führt Governance- und Kompetenzerwartungen in Organisationen ein, und ISO/IEC 17024:2026 bietet einen Rahmen, über den berufliche Kompetenz unabhängig zertifiziert werden kann.
Die Frage verschiebt sich daher von der Frage, ob Organisationen KI-Governance brauchen, hin zu einer praktischeren: Wer ist kompetent, sie zu gestalten, zu auditieren und abzusichern?
KI-Governance wird zu einer organisatorischen Disziplin
Künstliche Intelligenz wurde einst vor allem als Thema der Technologieentwicklung betrachtet.
Das ändert sich rasch.
Organisationen müssen heute KI-Risiken, Verantwortlichkeit, menschliche Aufsicht, Daten-Governance, Transparenz, Cybersicherheit, regulatorische Pflichten, Systeme Dritter und die Überwachung über den Lebenszyklus berücksichtigen.
Diese Verantwortlichkeiten erstrecken sich zunehmend über mehrere Organisationsfunktionen.
KI-Governance erfordert daher Fachleute, die über technische, regulatorische, managementsystembezogene und Absicherungsdisziplinen hinweg agieren können, statt sich ausschließlich auf die Modellentwicklung zu konzentrieren.
ISO/IEC 42001 schafft ein neues Absicherungsumfeld
ISO/IEC 42001:2023 legt Anforderungen an die Einführung, Umsetzung, Aufrechterhaltung und fortlaufende Verbesserung eines Managementsystems für Künstliche Intelligenz fest.
Die Norm bietet Organisationen einen strukturierten Rahmen, um KI-bezogene Risiken und Chancen zu steuern und eine verantwortungsvolle Entwicklung, Bereitstellung und Nutzung von KI-Systemen nachzuweisen.
Mit zunehmender Verbreitung von KI-Managementsystemen werden Organisationen Personen benötigen, die beurteilen können, ob diese Systeme angemessen ausgelegt und wirksam umgesetzt sind.
Auditoren bewerten Managementsysteme wie Qualitäts-, Umwelt-, Arbeitsschutz-, Informationssicherheits- oder Energiemanagement anhand etablierter Normen.
Auditoren müssen zunehmend KI-Governance, Lebenszykluskontrollen, Risiken, Auswirkungen, Daten, Transparenz, menschliche Aufsicht und das Zusammenspiel zwischen technischen Systemen und organisatorischem Management verstehen.
Der KI-Auditor benötigt möglicherweise ein anderes Kompetenzprofil
Das Auditieren eines Managementsystems für Künstliche Intelligenz erfordert mehr als die Vertrautheit mit Normabschnitten eines Managementsystems.
KI bringt technische und Governance-Konzepte mit sich, die klassische Auditoren bisher möglicherweise nicht bewerten mussten.
Ein kompetenter KI-Auditor muss unter Umständen Wissen aus mehreren Disziplinen verbinden.
Auditgrundsätze, Nachweise, Stichproben, Feststellungen, Korrekturmaßnahmen und die Bewertung der Wirksamkeit von Managementsystemen verstehen.
Organisatorische Verantwortlichkeiten, Richtlinien, Aufsichtsstrukturen und Rechenschaftspflichten für KI-Systeme verstehen.
Bewerten, wie Organisationen Risiken im Zusammenhang mit künstlicher Intelligenz identifizieren, bewerten, behandeln und überwachen.
Die Rolle von Datenqualität, Herkunft, Repräsentativität, Integrität und Governance in KI-Systemen verstehen.
Über ein ausreichendes Verständnis von KI-Systemen, Modellen, Entwicklungslebenszyklen und Grenzen verfügen, um technische Nachweise angemessen zu hinterfragen.
Verstehen, wie KI-Management mit Gesetzgebung, Branchenanforderungen und Pflichten zur Konformitätsbewertung zusammenwirkt.
KI-Governance-Fachleute werden breiter aufgestellt sein als Auditoren
Das Auditieren ist nur ein Teil der entstehenden Berufslandschaft.
Organisationen benötigen auch Menschen, die Governance-Strukturen gestalten, Risikobewertungen koordinieren, KI-Inventare verwalten, Richtlinien festlegen, Kontrollen überwachen und die Einhaltung regulatorischer Vorgaben unterstützen können.
Daraus ergeben sich mehrere mögliche Berufsprofile.
Mit der Reifung dieser Berufsrollen werden Organisationen zunehmend eine verlässliche Möglichkeit benötigen, zwischen Personen zu unterscheiden, die an einer KI-Schulung teilgenommen haben, und Personen, die eine festgelegte berufliche Kompetenz unabhängig nachgewiesen haben.
Schulung allein ist nicht dasselbe wie Zertifizierung
Der KI-Bildungsmarkt wächst rasant.
Kurse, Workshops, Online-Programme und berufliche Weiterbildungen können wertvolles Wissen und Bewusstsein vermitteln.
Der Abschluss einer Schulung belegt jedoch nicht automatisch Kompetenz.
Die Personenzertifizierung beantwortet eine andere Frage.
Die Person absolviert ein festgelegtes Bildungsprogramm, das Wissen oder Fertigkeiten entwickeln soll.
Ein unabhängiger Zertifizierungsprozess bewertet, ob die Person festgelegte Kompetenzanforderungen eines Zertifizierungsprogramms erfüllt.
Diese Unterscheidung kann bei der KI-Governance besonders wichtig werden, da Organisationen sicher sein müssen, dass Fachleute komplexe technische und regulatorische Situationen bewerten können, statt lediglich Begriffe zu erklären.
ISO/IEC 17024 liefert die Zertifizierungsarchitektur
ISO/IEC 17024 ist die internationale Norm mit Anforderungen an Stellen, die Personen zertifizieren.
Die Norm soll einheitliche, verlässliche und international anerkannte Regelungen für die Personenzertifizierung unterstützen.
Für einen neuen Beruf wie die KI-Governance müsste ein glaubwürdiges Zertifizierungsprogramm daher klar festlegen:
Genau festlegen, welche berufliche Rolle oder Kompetenz das Zertifikat repräsentiert.
Das für die Zertifizierung erforderliche Wissen, die Fertigkeiten, Fähigkeiten und das fachliche Urteilsvermögen festlegen.
Angemessene Ausbildungs-, Erfahrungs-, Schulungs- oder berufliche Voraussetzungen bestimmen.
Bestimmen, wie Kompetenz durch schriftliche, mündliche, praktische oder szenariobasierte Bewertung beurteilt wird.
Sicherstellen, dass Zertifizierungsentscheidungen unabhängig, unparteiisch und auf ausreichende Nachweise gestützt bleiben.
Festlegen, wie fortbestehende Kompetenz in einem sich schnell verändernden KI-Umfeld nachgewiesen wird.
Die schwierigste Frage lautet: Was ist ein KI-Auditor?
Der Begriff „KI-Auditor“ kann sehr Unterschiedliches bedeuten.
Eine Fachkraft auditiert vielleicht ein Managementsystem nach ISO/IEC 42001.
Eine andere bewertet ein KI-Modell technisch auf Robustheit, Verzerrungen oder Leistung.
Eine weitere prüft die Einhaltung rechtlicher Vorgaben nach dem EU AI Act.
Wieder eine andere bewertet Cybersicherheit, Daten-Governance oder algorithmische Auswirkungen.
Unterschiedliche KI-Absicherungsrollen benötigen möglicherweise unterschiedliche Zertifizierungen
Bewertet, ob das KI-Managementsystem einer Organisation den anwendbaren Anforderungen entspricht und wirksam umgesetzt ist.
Gestaltet und betreibt organisatorische Governance-Strukturen, Richtlinien, Verantwortlichkeiten und Aufsichtsregelungen.
Konzentriert sich auf die Identifizierung, Bewertung, Behandlung und Überwachung von Risiken im Zusammenhang mit KI-Systemen und deren Nutzung.
Bewertet mögliche Auswirkungen von KI-Systemen auf Personen, Organisationen oder andere Stakeholder.
Bewertet technische Merkmale wie Systemleistung, Robustheit, Prüfung, Validierung oder andere festgelegte Kriterien.
Bewertet organisatorische oder produktbezogene Pflichten aus der KI-Gesetzgebung und den damit verbundenen Konformitätsanforderungen.
KI-Audits erfordern die Fähigkeit, Nachweise zu hinterfragen
Die Dokumentation zur KI-Governance kann ausgefeilt wirken.
Richtlinien, Risikoregister, Model Cards, Folgenabschätzungen, Überwachungs-Dashboards und technische Berichte können alle als Nachweis dienen.
Ein Auditor muss jedoch feststellen, ob diese Nachweise tatsächlich eine wirksame Kontrolle belegen.
- Weiß die Organisation, wo KI eingesetzt wird?
- Sind KI-Systeme angemessen nach Risiko eingestuft?
- Sind Verantwortlichkeiten und Rechenschaftspflichten klar zugewiesen?
- Werden KI-Risiken über den gesamten Lebenszyklus bewertet?
- Sind Folgenabschätzungen aussagekräftig oder nur formal?
- Lassen sich Aussagen zur Daten-Governance durch Nachweise belegen?
- Sind Mechanismen der menschlichen Aufsicht in der Praxis wirksam?
- Werden KI-Systeme Dritter angemessen kontrolliert?
- Ist die Überwachung in der Lage, aufkommende Probleme zu erkennen?
- Handelt das Management, wenn Kontrollen der KI-Governance versagen?
KI-Risikorahmenwerke erhöhen den Bedarf an kompetenten Fachleuten
ISO/IEC 42001 ist nicht das einzige Rahmenwerk, das die organisatorische KI-Governance prägt.
Das NIST AI Risk Management Framework beispielsweise gliedert die Tätigkeiten des KI-Risikomanagements in die Funktionen Govern, Map, Measure und Manage.
Organisationen, die auf internationalen Märkten tätig sind, benötigen zunehmend Fachleute, die mehrere Rahmenwerke für KI-Governance und -Risiko verstehen und in praxisnahe organisatorische Kontrollen übersetzen können.
Der EU AI Act fügt eine Kompetenzdimension hinzu
Der EU AI Act führt ausdrücklich das Konzept der KI-Kompetenzein.
Anbieter und Betreiber von KI-Systemen müssen nach besten Kräften Maßnahmen ergreifen, um sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen.
Das angemessene Niveau hängt unter anderem von technischen Kenntnissen, Erfahrung, Ausbildung, Schulung und dem Kontext ab, in dem das KI-System eingesetzt wird.
Zertifizierungsprogramme dürfen nicht zu oberflächlich werden
Das rasante Wachstum der KI schafft einen kommerziellen Anreiz, Zertifizierungen sehr schnell einzuführen.
Glaubwürdigkeit erfordert jedoch mehr als eine kurze Prüfung rund um KI-Begriffe.
Eine berufliche Zertifizierung sollte die Komplexität und Verantwortung der zertifizierten Rolle widerspiegeln.
Kandidaten lernen Begriffe auswendig, legen eine kurze Multiple-Choice-Prüfung ab und erhalten einen weit gefassten Berufstitel.
Kandidaten weisen Wissen, praktische Interpretation, Risikourteil, Auditfähigkeit und die Fähigkeit nach, realistische Situationen der KI-Governance zu bewerten.
Szenariobasierte Bewertung kann unerlässlich sein
KI-Governance erfordert häufig Urteilsvermögen statt einfacher Richtig-oder-falsch-Antworten.
Eine Fachkraft muss unter Umständen entscheiden, ob eine KI-Risikobewertung ausreicht, ob eine Auswirkung wesentlich ist, ob Nachweise glaubwürdig sind oder ob eine Governance-Kontrolle dem Risiko angemessen ist.
Zertifizierungsprogramme können daher von Bewertungsmethoden profitieren, die über klassische Wissensprüfungen hinausgehen.
Kandidaten müssen realistische Szenarien der organisatorischen KI-Governance bewerten.
Bewerten, ob Kandidaten ausreichende, unzureichende oder widersprüchliche Nachweise erkennen können.
Bewerten, ob Kandidaten KI-bezogene Risiken erkennen und priorisieren können.
Kandidaten müssen fachliche Schlussfolgerungen unter Befragung erläutern und verteidigen.
Beobachtung der Kandidaten bei Planung, Durchführung und Berichterstattung eines Audits der KI-Governance.
Bewerten, wie Kandidaten reagieren, wenn Anforderungen, Nachweise und organisatorische Gegebenheiten nicht vollständig eindeutig sind.
Rezertifizierung könnte bei KI entscheidend sein
Künstliche Intelligenz entwickelt sich schneller als viele traditionelle Berufsdisziplinen.
Vorschriften, Normen, Technologien und Praktiken des Risikomanagements können sich innerhalb kurzer Zeit erheblich verändern.
Ein einmal erworbenes und unbefristet aufrechterhaltenes Zertifikat bietet daher möglicherweise nur begrenzte Sicherheit über fortbestehende Kompetenz.
- kontinuierliche berufliche Weiterbildung;
- Änderungen an KI-Normen und -Vorschriften;
- neue KI-Technologien und Risikomuster;
- berufliche Praxis oder Auditerfahrung;
- Entwicklungen in Ethik und Governance;
- aktualisierte Kompetenzbewertung; und
- Erhalt relevanter technischer Kenntnisse.
Unabhängigkeit und Unparteilichkeit der Auditoren werden wichtig sein
Mit der Kommerzialisierung der KI-Governance können Fachleute gleichzeitig Beratungs-, Umsetzungs-, Schulungs- und Auditleistungen erbringen.
Daraus ergeben sich bekannte Bedenken der Konformitätsbewertung hinsichtlich Unabhängigkeit und Unparteilichkeit.
Zertifizierungsprogramme und Arbeitgeber müssen zwischen Fachleuten unterscheiden, die beim Aufbau des KI-Governance-Systems einer Organisation helfen, und solchen, die dieses System unabhängig bewerten.
Könnte KI die KI auditieren?
Der entstehende Beruf hat noch eine weitere Dimension.
KI-Werkzeuge selbst können Auditoren zunehmend unterstützen, indem sie Dokumente prüfen, große Datensätze analysieren, Anomalien erkennen, Prüfpfade erstellen oder ausgewählte Kontrollen testen.
Dies könnte die Auditfähigkeit erheblich steigern.
Es ersetzt jedoch nicht die Kompetenz des Auditors.
KI kann Auditoren helfen, mehr Informationen zu analysieren, Muster zu erkennen und die Aufmerksamkeit auf potenzielle Risikobereiche zu lenken.
Die Fachkraft bleibt dafür verantwortlich festzustellen, ob Schlussfolgerungen gerechtfertigt, Nachweise verlässlich und Feststellungen angemessen sind.
Der Zertifizierungsmarkt könnte sich in Stufen entwickeln
Nicht jede KI-Governance-Fachkraft benötigt dasselbe Maß an Fachwissen.
Ein ausgereiftes Zertifizierungs-Ökosystem könnte daher mehrere Kompetenzstufen oder rollenspezifische Wege entwickeln.
Belegt das Verständnis zentraler Konzepte zu KI-Governance, Risiko, Ethik und Managementsystemen.
Belegt die Fähigkeit, Kontrollen der KI-Governance und des Risikomanagements umzusetzen und zu betreiben.
Belegt die Kompetenz, die KI-Managementregelungen einer Organisation intern zu bewerten.
Belegt die Kompetenz, umfassende Audits von KI-Managementsystemen zu planen, zu leiten, durchzuführen und darüber zu berichten.
Belegt fortgeschrittene Fähigkeiten in der Identifizierung, Bewertung, Behandlung und Überwachung von KI-Risiken.
Belegt umfassendere Fähigkeiten, organisatorische KI-Governance-Programme zu gestalten, zu steuern und zu beaufsichtigen.
Internationale Anerkennung könnte ein großer Vorteil werden
Künstliche Intelligenz ist von Natur aus international.
KI-Plattformen, Anbieter, Entwicklungsteams und Nutzer sind häufig in mehreren Rechtsordnungen tätig.
Eine Personenzertifizierung auf Basis klar definierter Kompetenzprogramme und glaubwürdiger Grundsätze der Konformitätsbewertung könnte zu einheitlicheren beruflichen Erwartungen über Märkte hinweg beitragen.
Dies ist besonders relevant für multinationale Organisationen, die einen gemeinsamen Kompetenzmaßstab für Personal in KI-Governance und -Absicherung suchen.
Der Markt wird Glaubwürdigkeit benötigen, nicht nur mehr Zertifikate
KI-Zertifizierungen dürften sich rasch vervielfachen.
Entscheidend wird nicht sein, wie viele Zertifikate es gibt.
Entscheidend wird sein, ob Arbeitgeber, Regulierungsbehörden, Zertifizierungsstellen und Kunden Nachweise, die tatsächlich berufliche Kompetenz belegen, von solchen unterscheiden können, die in erster Linie einen Kursabschluss belegen.
Der nächste KI-Zertifizierungsmarkt sollte nicht auf der Frage „Wer hat einen KI-Kurs absolviert?“ aufgebaut sein. Er sollte auf der Frage beruhen: „Wem kann man zutrauen, KI-Governance professionell zu bewerten?“
Was sollten Zertifizierungsstellen und Programmeigner berücksichtigen?
Organisationen, die Zertifizierungsprogramme für KI-Auditoren und Governance-Fachleute entwickeln, sollten bei der vom Beruf geforderten Kompetenz ansetzen und nicht bei der Prüfung selbst.
Genau festlegen, welche Tätigkeiten die zertifizierte Fachkraft ausüben soll.
Das für diese Rolle erforderliche Wissen, die Fertigkeiten, das Urteilsvermögen und die Erfahrung bestimmen.
Eine angemessene Unabhängigkeit zwischen Lernaktivitäten und Kompetenzzertifizierung wahren.
Wissensprüfungen gegebenenfalls mit praktischer, szenariobasierter oder auditorientierter Bewertung kombinieren.
Sicherstellen, dass kommerzielle, beratende oder schulungsbezogene Interessen Zertifizierungsentscheidungen nicht beeinträchtigen.
Rezertifizierungsregelungen schaffen, die auf schnellen technologischen und regulatorischen Wandel reagieren können.
Vom KI-Bewusstsein zur professionellen KI-Absicherung
Organisationen gehen über ein allgemeines KI-Bewusstsein hinaus.
Sie benötigen zunehmend Personen, die KI-Grundsätze in Governance-Strukturen übersetzen, Nachweise bewerten, Risiken erkennen, technische Aussagen hinterfragen und absichern können, dass Kontrollen wirksam funktionieren.
Dieser Wandel bildet die Grundlage für einen neuen Markt für berufliche Zertifizierung.
ISO/IEC 42001 liefert einen organisatorischen Managementrahmen. ISO/IEC 17024 liefert einen Rahmen für die Personenzertifizierung. Regulierung und Rahmenwerke für das Risikomanagement erhöhen den Bedarf an kompetenten Praktikern.
Der nächste Schritt ist die Entwicklung ausgereifter, glaubwürdiger Kompetenzprogramme, die diese Elemente miteinander verbinden.
Sind wir bereit, die Menschen zu zertifizieren, die KI steuern?
Die Marktchance ist erheblich, doch Glaubwürdigkeit wird über ihren langfristigen Wert entscheiden.
Heute entwickelte Zertifizierungsprogramme können prägen, was Organisationen unter Begriffen wie KI-Auditor, KI-Governance-Fachkraft und KI-Risikospezialist verstehen.
Sind diese Programme kompetenzbasiert, unparteiisch und an anerkannten Grundsätzen der Konformitätsbewertung ausgerichtet, können sie wesentlich zum Vertrauen in die entstehende KI-Wirtschaft beitragen.
Vertrauenswürdige KI erfordert mehr als vertrauenswürdige Technologie. Sie erfordert kompetente Menschen, die diese Technologie steuern, bewerten und hinterfragen können.