L’intelligenza artificiale sta creando un ecosistema professionale completamente nuovo. Le organizzazioni iniziano ad aver bisogno di persone in grado di valutare la governance dell’IA, esaminare i sistemi di gestione dell’IA, verificare i controlli su rischi e impatti, mettere in discussione le evidenze tecniche e fornire assurance indipendente su come l’intelligenza artificiale viene sviluppata, implementata e utilizzata.
Questa domanda indica un nuovo mercato potenzialmente importante per la certificazione del personale: auditor dell’IA, professionisti della governance dell’IA, specialisti del rischio IA e altri operatori la cui competenza deve essere dimostrata in modo indipendente.
Si tratta di una conseguenza naturale di una più ampia trasformazione normativa e della valutazione della conformità. La ISO/IEC 42001 ha istituito un quadro internazionale per i sistemi di gestione dell’intelligenza artificiale, l’AI Act dell’UE introduce aspettative di governance e competenza nelle organizzazioni e la ISO/IEC 17024:2026 fornisce un quadro attraverso il quale la competenza professionale può essere certificata in modo indipendente.
La domanda si sta quindi spostando dal se le organizzazioni abbiano bisogno di una governance dell’IA a qualcosa di più pratico: chi è competente per progettarla, sottoporla ad audit e fornirne assurance?
La governance dell’IA sta diventando una disciplina organizzativa
Un tempo l’intelligenza artificiale era considerata principalmente una questione di sviluppo tecnologico.
La situazione sta cambiando rapidamente.
Le organizzazioni devono ora considerare rischio dell’IA, responsabilità, supervisione umana, governance dei dati, trasparenza, cybersecurity, obblighi normativi, sistemi di terze parti e monitoraggio lungo il ciclo di vita.
Queste responsabilità si estendono sempre più a molteplici funzioni organizzative.
La governance dell’IA richiede quindi professionisti in grado di operare trasversalmente tra discipline tecniche, normative, di sistemi di gestione e di assurance, anziché concentrarsi esclusivamente sullo sviluppo dei modelli.
La ISO/IEC 42001 crea un nuovo contesto di assurance
La ISO/IEC 42001:2023 specifica i requisiti per istituire, attuare, mantenere e migliorare continuamente un sistema di gestione dell’intelligenza artificiale.
La norma fornisce alle organizzazioni un quadro strutturato per gestire rischi e opportunità legati all’IA e per dimostrare uno sviluppo, una fornitura e un utilizzo responsabili dei sistemi di IA.
Con la diffusione dei sistemi di gestione dell’IA, le organizzazioni avranno bisogno di persone in grado di valutare se tali sistemi sono adeguatamente progettati ed efficacemente attuati.
Gli auditor valutano sistemi di gestione come qualità, ambiente, salute e sicurezza sul lavoro, sicurezza delle informazioni o gestione dell’energia rispetto a norme consolidate.
Gli auditor devono sempre più comprendere governance dell’IA, controlli lungo il ciclo di vita, rischi, impatti, dati, trasparenza, supervisione umana e l’interazione tra sistemi tecnici e gestione organizzativa.
L’auditor dell’IA può richiedere un profilo di competenze diverso
Sottoporre ad audit un sistema di gestione dell’intelligenza artificiale richiede più della familiarità con i requisiti dei sistemi di gestione.
L’IA introduce concetti tecnici e di governance che gli auditor tradizionali potrebbero non aver mai dovuto valutare.
Un auditor dell’IA competente potrebbe dover combinare conoscenze di diverse discipline.
Comprendere i principi di audit, le evidenze, il campionamento, i rilievi, le azioni correttive e la valutazione dell’efficacia del sistema di gestione.
Comprendere responsabilità organizzative, politiche, strutture di supervisione e accountability per i sistemi di IA.
Valutare come le organizzazioni identificano, valutano, trattano e monitorano i rischi associati all’intelligenza artificiale.
Comprendere il ruolo di qualità, provenienza, rappresentatività, integrità e governance dei dati nei sistemi di IA.
Possedere una comprensione sufficiente di sistemi di IA, modelli, cicli di sviluppo e limiti per mettere in discussione in modo appropriato le evidenze tecniche.
Comprendere come la gestione dell’IA interagisce con la legislazione, i requisiti di settore e gli obblighi di valutazione della conformità.
I professionisti della governance dell’IA avranno un ruolo più ampio degli auditor
L’audit rappresenta solo una parte del panorama professionale emergente.
Le organizzazioni hanno bisogno anche di persone in grado di progettare strutture di governance, coordinare valutazioni del rischio, gestire inventari dell’IA, definire politiche, monitorare i controlli e supportare la conformità normativa.
Ciò crea diversi profili professionali potenziali.
Con la maturazione di questi ruoli professionali, le organizzazioni avranno sempre più bisogno di un modo affidabile per distinguere tra chi ha frequentato una formazione sull’IA e chi ha dimostrato in modo indipendente una competenza professionale definita.
La sola formazione non equivale alla certificazione
Il mercato della formazione sull’IA si sta espandendo rapidamente.
Corsi, workshop, programmi online e formazione professionale possono fornire conoscenze e consapevolezza preziose.
Ma il completamento di una formazione non dimostra automaticamente la competenza.
La certificazione del personale risponde a una domanda diversa.
La persona completa un programma formativo definito volto a sviluppare conoscenze o abilità.
Un processo di certificazione indipendente valuta se la persona soddisfa i requisiti di competenza definiti da uno schema di certificazione.
Questa distinzione può diventare particolarmente importante nella governance dell’IA, dove le organizzazioni hanno bisogno della certezza che i professionisti sappiano valutare situazioni tecniche e normative complesse e non soltanto spiegarne la terminologia.
La ISO/IEC 17024 fornisce l’architettura di certificazione
La ISO/IEC 17024 è la norma internazionale che stabilisce i requisiti per gli organismi che operano la certificazione delle persone.
La norma è concepita per supportare modalità di certificazione del personale coerenti, affidabili e riconosciute a livello internazionale.
Per una professione emergente come la governance dell’IA, uno schema di certificazione credibile dovrebbe quindi definire chiaramente:
Definire con precisione quale ruolo o competenza professionale rappresenta il certificato.
Stabilire le conoscenze, abilità, capacità e il giudizio professionale richiesti per la certificazione.
Stabilire istruzione, esperienza, formazione o prerequisiti professionali appropriati.
Stabilire come la competenza sarà valutata mediante prove scritte, orali, pratiche o basate su scenari.
Garantire che le decisioni di certificazione restino indipendenti, imparziali e basate su evidenze sufficienti.
Stabilire come dimostrare il mantenimento della competenza in un contesto dell’IA in rapida evoluzione.
La domanda più difficile: che cos’è un auditor dell’IA?
Il termine «auditor dell’IA» può avere significati molto diversi.
Un professionista può sottoporre ad audit un sistema di gestione ISO/IEC 42001.
Un altro può valutare tecnicamente un modello di IA in termini di robustezza, bias o prestazioni.
Un altro ancora può esaminare la conformità legale ai sensi dell’AI Act dell’UE.
Un altro può valutare cybersecurity, governance dei dati o impatti algoritmici.
Ruoli diversi di assurance dell’IA possono richiedere certificazioni diverse
Valuta se il sistema di gestione dell’IA di un’organizzazione è conforme ai requisiti applicabili ed è efficacemente attuato.
Progetta e gestisce strutture di governance, politiche, responsabilità e modalità di supervisione dell’organizzazione.
Si concentra sull’identificazione, valutazione, trattamento e monitoraggio dei rischi associati ai sistemi di IA e al loro utilizzo.
Valuta i potenziali impatti dei sistemi di IA su persone, organizzazioni o altre parti interessate.
Valuta caratteristiche tecniche come prestazioni del sistema, robustezza, prove, validazione o altri criteri definiti.
Valuta gli obblighi organizzativi o di prodotto derivanti dalla legislazione sull’IA e dai relativi requisiti di conformità.
L’audit dell’IA richiede la capacità di mettere in discussione le evidenze
La documentazione di governance dell’IA può apparire sofisticata.
Politiche, registri dei rischi, model card, valutazioni d’impatto, dashboard di monitoraggio e rapporti tecnici possono tutti costituire evidenze.
Ma un auditor deve stabilire se tali evidenze dimostrano effettivamente un controllo efficace.
- L’organizzazione sa dove viene utilizzata l’IA?
- I sistemi di IA sono classificati in modo appropriato in base al rischio?
- Responsabilità e accountability sono chiaramente assegnate?
- I rischi dell’IA vengono valutati lungo l’intero ciclo di vita?
- Le valutazioni d’impatto sono significative o meramente procedurali?
- Le affermazioni sulla governance dei dati sono supportate da evidenze?
- I meccanismi di supervisione umana sono efficaci nella pratica?
- I sistemi di IA di terze parti sono adeguatamente controllati?
- Il monitoraggio è in grado di individuare problemi emergenti?
- Il management interviene quando i controlli di governance dell’IA falliscono?
I quadri di gestione del rischio IA aumentano il bisogno di professionisti competenti
La ISO/IEC 42001 non è l’unico quadro che orienta la governance dell’IA nelle organizzazioni.
L’AI Risk Management Framework del NIST, ad esempio, organizza le attività di gestione del rischio IA attorno alle funzioni Govern, Map, Measure e Manage.
Le organizzazioni che operano su mercati internazionali potrebbero avere sempre più bisogno di professionisti in grado di comprendere più quadri di governance e di rischio dell’IA e di tradurli in controlli organizzativi pratici.
L’AI Act dell’UE aggiunge una dimensione di competenza
L’AI Act dell’UE introduce esplicitamente il concetto di alfabetizzazione in materia di IA.
I fornitori e i deployer di sistemi di IA sono tenuti ad adottare misure per garantire, nella misura del possibile, un livello sufficiente di alfabetizzazione in materia di IA del proprio personale e delle altre persone che si occupano del funzionamento e dell’utilizzo dei sistemi di IA per loro conto.
Il livello appropriato dipende da fattori quali conoscenze tecniche, esperienza, istruzione, formazione e contesto in cui il sistema di IA viene utilizzato.
Gli schemi di certificazione devono evitare di diventare troppo superficiali
La rapida crescita dell’IA crea la tentazione commerciale di introdurre certificazioni molto rapidamente.
Ma la credibilità richiede più di un breve esame costruito attorno alla terminologia dell’IA.
Una certificazione professionale dovrebbe riflettere la complessità e la responsabilità del ruolo certificato.
I candidati memorizzano concetti, superano un breve esame a scelta multipla e ricevono un titolo professionale generico.
I candidati dimostrano conoscenze, interpretazione pratica, giudizio sul rischio, capacità di audit e la capacità di valutare situazioni realistiche di governance dell’IA.
La valutazione basata su scenari può essere essenziale
La governance dell’IA comporta spesso un giudizio piuttosto che semplici risposte giuste o sbagliate.
Un professionista potrebbe dover stabilire se una valutazione del rischio IA è sufficiente, se un impatto è rilevante, se un’evidenza è credibile o se un controllo di governance è proporzionato al rischio.
Gli schemi di certificazione possono quindi trarre vantaggio da metodi di valutazione che vanno oltre i tradizionali test di conoscenza.
Richiedere ai candidati di valutare scenari realistici di governance dell’IA in un’organizzazione.
Valutare se i candidati sanno distinguere evidenze sufficienti, insufficienti o contraddittorie.
Valutare se i candidati sanno riconoscere e prioritizzare i rischi legati all’IA.
Richiedere ai candidati di illustrare e difendere conclusioni professionali in risposta a domande.
Osservare i candidati mentre pianificano, conducono e rendicontano un audit di governance dell’IA.
Valutare come i candidati reagiscono quando requisiti, evidenze e realtà organizzative non sono perfettamente chiari.
La ricertificazione potrebbe essere decisiva nell’IA
L’intelligenza artificiale si sviluppa più rapidamente di molte discipline professionali tradizionali.
Normative, standard, tecnologie e pratiche di gestione del rischio possono cambiare in modo significativo in poco tempo.
Una credenziale ottenuta una volta e mantenuta a tempo indeterminato può quindi offrire una garanzia limitata del mantenimento della competenza.
- sviluppo professionale continuo;
- modifiche a standard e normative sull’IA;
- nuove tecnologie di IA e nuovi profili di rischio;
- pratica professionale o esperienza di audit;
- sviluppi etici e di governance;
- valutazione aggiornata della competenza; e
- mantenimento delle conoscenze tecniche pertinenti.
Indipendenza e imparzialità dell’auditor saranno importanti
Con la commercializzazione della governance dell’IA, i professionisti potrebbero fornire contemporaneamente servizi di consulenza, implementazione, formazione e audit.
Ciò solleva le note questioni di indipendenza e imparzialità tipiche della valutazione della conformità.
Gli schemi di certificazione e i datori di lavoro devono distinguere tra i professionisti che aiutano a progettare il sistema di governance dell’IA di un’organizzazione e quelli che valutano tale sistema in modo indipendente.
L’IA potrebbe sottoporre ad audit l’IA?
Esiste un’altra dimensione della professione emergente.
Gli stessi strumenti di IA possono assistere sempre più gli auditor nell’esame di documenti, nell’analisi di grandi insiemi di dati, nell’individuazione di anomalie, nella preparazione di audit trail o nella verifica di controlli selezionati.
Ciò potrebbe aumentare in modo significativo le capacità di audit.
Ma non elimina la necessità di competenza dell’auditor.
L’IA può aiutare gli auditor ad analizzare più informazioni, individuare schemi e concentrare l’attenzione sulle potenziali aree di rischio.
Il professionista resta responsabile di stabilire se le conclusioni sono giustificate, se le evidenze sono affidabili e se i rilievi sono appropriati.
Il mercato della certificazione potrebbe svilupparsi per livelli
Non tutti i professionisti della governance dell’IA necessitano dello stesso livello di competenza.
Un ecosistema di certificazione maturo potrebbe quindi sviluppare diversi livelli di competenza o percorsi specifici per ruolo.
Dimostra la comprensione dei concetti fondamentali di governance, rischio, etica e sistemi di gestione dell’IA.
Dimostra la capacità di attuare e gestire controlli di governance e di gestione del rischio dell’IA.
Dimostra la competenza per valutare internamente le modalità di gestione dell’IA di un’organizzazione.
Dimostra la competenza per pianificare, guidare, condurre e rendicontare audit completi di sistemi di gestione dell’IA.
Dimostra capacità avanzate di identificazione, valutazione, trattamento e monitoraggio dei rischi dell’IA.
Dimostra una capacità più ampia di progettare, gestire e supervisionare programmi di governance dell’IA dell’organizzazione.
Il riconoscimento internazionale potrebbe diventare un vantaggio decisivo
L’intelligenza artificiale è intrinsecamente internazionale.
Piattaforme di IA, fornitori, team di sviluppo e utenti operano spesso in più giurisdizioni.
Una certificazione del personale basata su schemi di competenza chiaramente definiti e su principi credibili di valutazione della conformità potrebbe contribuire a una maggiore coerenza delle aspettative professionali tra i mercati.
Ciò è particolarmente rilevante per le organizzazioni multinazionali che cercano un riferimento comune di competenza per il personale di governance e assurance dell’IA.
Il mercato avrà bisogno di credibilità, non soltanto di più credenziali
Le certificazioni sull’IA sono destinate a moltiplicarsi rapidamente.
La questione importante non sarà quanti certificati esistano.
Sarà se datori di lavoro, autorità, organismi di certificazione e clienti sapranno distinguere le credenziali che dimostrano realmente la competenza professionale da quelle che attestano principalmente il completamento di un corso.
Il prossimo mercato della certificazione dell’IA non dovrebbe basarsi sulla domanda «Chi ha completato un corso sull’IA?», ma sulla domanda «Di chi ci si può fidare per valutare professionalmente la governance dell’IA?»
Che cosa dovrebbero considerare organismi di certificazione e proprietari di schemi?
Le organizzazioni che sviluppano programmi di certificazione per auditor e professionisti della governance dell’IA dovrebbero partire dalla competenza richiesta dalla professione e non dall’esame stesso.
Stabilire esattamente quali attività il professionista certificato deve svolgere.
Stabilire le conoscenze, abilità, capacità di giudizio ed esperienza richieste per tale ruolo.
Mantenere un’adeguata indipendenza tra attività formative e certificazione della competenza.
Combinare, ove opportuno, test di conoscenza con valutazioni pratiche, basate su scenari o orientate all’audit.
Garantire che interessi commerciali, di consulenza o di formazione non compromettano le decisioni di certificazione.
Stabilire modalità di ricertificazione in grado di rispondere ai rapidi cambiamenti tecnologici e normativi.
Dalla consapevolezza sull’IA all’assurance professionale dell’IA
Le organizzazioni stanno andando oltre una generica consapevolezza sull’IA.
Hanno sempre più bisogno di persone in grado di tradurre i principi dell’IA in strutture di governance, valutare evidenze, identificare rischi, mettere in discussione affermazioni tecniche e fornire la garanzia che i controlli funzionino efficacemente.
Questa trasformazione crea le basi per un nuovo mercato della certificazione professionale.
La ISO/IEC 42001 fornisce un quadro di gestione organizzativa. La ISO/IEC 17024 fornisce un quadro per la certificazione del personale. La regolamentazione e i quadri di gestione del rischio aumentano il bisogno di operatori competenti.
Il passo successivo è lo sviluppo di schemi di competenza maturi e credibili, in grado di collegare questi elementi.
Siamo pronti a certificare le persone che governano l’IA?
L’opportunità di mercato è considerevole, ma sarà la credibilità a determinarne il valore a lungo termine.
Gli schemi di certificazione sviluppati oggi possono contribuire a definire ciò che le organizzazioni intendono con termini come auditor dell’IA, professionista della governance dell’IA e specialista del rischio IA.
Se tali schemi saranno basati sulla competenza, imparziali e allineati a principi riconosciuti di valutazione della conformità, potranno contribuire in modo significativo alla fiducia nell’economia emergente dell’IA.
Un’IA affidabile richiederà più di una tecnologia affidabile. Richiederà persone competenti in grado di governare, valutare e mettere in discussione tale tecnologia.