Criteri di rischio IA: guida pratica ISO 42001 con esempi
Imparerai cosa chiede il punto 6.1.1 della ISO 42001: definire i criteri di rischio dell'IA, fissare le soglie di accettabilità e usarli come riferimento per valutazione, trattamento e analisi di impatto.
Cosa prevede il punto 6.1.1
Questa guida pratica alla ISO 42001 spiega con esempi il punto 6.1.1 della pianificazione del Sistema di Gestione per l'Intelligenza Artificiale (AIMS): definire i criteri di rischio e pianificare le azioni per rischi e opportunità; senza criteri, ogni giudizio resta arbitrario.
I criteri di rischio separano l'accettabile dal non accettabile: approvati dalla direzione, documentati, coerenti con contesto (Cap. 4) e leadership (Cap. 5). Prima di valutare, l'azienda decide quanto rischio tollerare su persone, norme, reputazione e continuità.
Non sono un adempimento formale ma uno strumento decisionale: 6.1.2 li usa per classificare i livelli, 6.1.3 per scegliere i controlli, 6.1.4 per fissare il limite tollerabile. Questa guida pratica mostra come costruirli con un esempio realistico.
In sintesi, la norma vuole vedere:
- Criteri approvati prima delle valutazioni.
- Soglie tra accettabile e non accettabile.
- Coerenza tra criteri, contesto e politica IA.
- Tracciabilità verso 6.1.2, 6.1.3 e 6.1.4.
- Riesame periodico con evidenza documentata.
Esempio di controllo tecnico per il punto 6.1.1
Il primo controllo è la matrice di accettabilità approvata: griglia probabilità × gravità con quattro fasce; la fascia critica è sempre non accettabile, quella alta richiede trattamento entro 90 giorni. Firmata dalla Direzione Generale e versionata, dimostra che i criteri di rischio esistono prima delle valutazioni.
Una guida pratica seria registra nel registro dei rischi fascia e soglia applicate, così ogni decisione resta verificabile. Il gate automatizzato in pipeline MLOps confronta il punteggio pre-rilascio con la soglia codificata: se la supera, blocca il rilascio e apre un ticket, e il log del blocco è l'evidenza richiesta in audit.
Esempio di soglie di accettabilità per fascia di rischio
| Fascia | Punteggio | Accettabilità | Azione richiesta |
|---|---|---|---|
| Basso | 1–5 | Accettabile | Monitoraggio annuale |
| Medio | 6–11 | Accettabile con condizioni | Monitoraggio semestrale e owner assegnato |
| Alto | 12–19 | Non accettabile | Trattamento obbligatorio entro 90 giorni |
| Critico | 20–25 | Non accettabile | Stop del sistema fino a riduzione del rischio |
Nota: le soglie numeriche sono un esempio. La norma non impone valori, chiede che i criteri di rischio siano definiti, motivati e applicati in modo coerente.
Cosa scriverebbe "Azienda Italiana S.p.A." sul punto 6.1.1
L'esempio mostra l'estratto della procedura con cui un'azienda manifatturiera definisce, approva e applica i propri criteri di rischio.
Criteri di accettabilità del rischio per i sistemi di IA
Metodo
Due sistemi di IA: chatbot clienti e screening CV. Rischio su quattro dimensioni, scala 1–5 per probabilità e gravità; il punteggio massimo determina la fascia. Riesame annuale o dopo incidenti.
Estratto
| Dimensione | Soglia accettabile | Esempio chatbot | Esempio screening CV |
|---|---|---|---|
| Danni a persone | Gravità ≤ 3 | Risposta errata: gravità 2 | Esclusione ingiusta: gravità 5 |
| Conformità normativa | Nessuna violazione grave | Privacy: presidiata | Discriminazione: richiede controlli |
| Reputazione | Punteggio ≤ 11 | 8 — accettabile con condizioni | 14 — non accettabile |
| Continuità operativa | Punteggio ≤ 11 | 4 — accettabile | 6 — accettabile |
| Esito complessivo | Fascia ≤ Medio | Medio: monitorato | Alto: trattamento obbligatorio |
Esito
Chatbot: rientra nei criteri, monitoraggio semestrale con owner. Screening CV: non accettabile, inviato al trattamento (6.1.3); decisione registrata nel registro dei rischi.
Ruoli e responsabilità
| Ruolo | Responsabilità sui criteri |
|---|---|
| Direzione Generale | Approva criteri e soglie, li verifica al riesame |
| Responsabile AIMS | Redige POL-AI-02 e coordina il riesame annuale |
| Owner del sistema | Applica le soglie in valutazione e propone i trattamenti |
| Auditor interno | Verifica evidenze di applicazione e registrazioni |
Checklist operativa
| Passo | Output |
|---|---|
| Definire dimensioni e scale | Scale 1–5 in POL-AI-02 |
| Fissare soglie per fascia | Matrice probabilità × gravità |
| Approvazione della direzione | Verbale datato e firmato |
| Applicare i criteri in 6.1.2 | Scheda con revisione citata |
| Riesame annuale | Revisione aggiornata e tracciata |
Evidenze attese in audit
| Documento | Cosa controlla l'auditor |
|---|---|
| POL-AI-02 | Criteri definiti, approvati, versionati |
| Verbale Direzione | Approvazione e data del riesame |
| Registro dei rischi | Fascia e soglia applicate per sistema |
| Schede VAL-AI-03 | Punteggi coerenti con la matrice |
| Log gate MLOps | Blocco reale su soglia superata |
Le domande dell'audit interno sul punto 6.1.1
Domande di audit interno su questo punto, con risposte coerenti ed evidenze.
I consigli del Dott. Valerio Bellini sul punto 6.1.1
Dott. Valerio Bellini
«Definite i criteri di rischio prima di valutare qualsiasi sistema di IA e fateli approvare dalla direzione per iscritto. Chi fa il contrario ha decisioni incoerenti, visibili in audit.»
«In verifica chiedo il documento approvato, una valutazione in cui la soglia ha cambiato la decisione e l'evidenza del riesame. La guida pratica dà la struttura.» — Dott. Valerio Bellini, lead auditor ISO 42001
Gli errori più comuni che incontro:
- Criteri definiti dopo le valutazioni: Valutare prima di fissare le soglie: giudizi arbitrari.
- Soglie solo qualitative: «Rischio basso» senza scale non dà decisioni coerenti.
- Criteri scollegati dal contesto: Soglie che ignorano settore e normative: insostenibili.
- Nessuna evidenza di applicazione: Servono decisioni reali registrate in base ai criteri.
- Mancato riesame periodico: Criteri mai aggiornati dopo incidenti o nuove norme.