Risorse strumenti (tooling): guida pratica ISO 42001 con esempi
Il controllo A.4.4 dell'Appendice A richiede di governare gli strumenti software che supportano l'intero ciclo di vita dei sistemi di IA. Ecco come attuarlo e documentarlo, con l'esempio concreto di Azienda Italiana S.p.A.
Cosa prevede il punto A.4.4
Questa guida pratica alla ISO 42001 spiega con esempi il controllo A.4.4 Risorse strumenti: l'organizzazione deve individuare, valutare, approvare e mantenere sotto controllo gli strumenti software usati per progettare, sviluppare, testare e monitorare i sistemi di intelligenza artificiale.
Il controllo si applica a chiunque impieghi tool nell'AIMS: data scientist, sviluppatori, team MLOps e fornitori esterni. Per Azienda Italiana S.p.A. riguarda sia il chatbot di assistenza clienti, costruito su framework e modelli linguistici, sia il sistema di screening dei CV basato su librerie di machine learning, dalle fasi di sviluppo al monitoraggio continuo.
Le risorse strumenti si collegano alle risorse dati (A.4.3) e alle risorse di sistema (A.4.5): strumenti non governati rendono inaffidabili dati e infrastrutture. Il controllo alimenta inoltre la gestione delle vulnerabilità, la verifica dei fornitori e le evidenze richieste in sede di audit interno.
In sintesi, la norma vuole vedere:
- Registro strumenti approvati e aggiornato
- Valutazione dei rischi dei tool di IA
- Controlli di accesso agli ambienti MLOps
- Monitoraggio versioni e vulnerabilità
- Evidenze pronte per l'audit interno
Esempio di controllo tecnico per il punto A.4.4
Primo esempio: per il chatbot di assistenza clienti, Azienda Italiana S.p.A. mantiene un registro degli strumenti approvati: framework di orchestrazione, SDK del modello linguistico, librerie di valutazione e piattaforma di monitoraggio. Ogni strumento ha un proprietario, una versione consentita, una valutazione dei rischi e una fonte verificata; l'installazione di nuovi tool richiede un'approvazione documentata prima dell'uso in produzione, con registro delle motivazioni e data di riesame.
Controllo tecnico collegato: per lo screening dei CV, i pacchetti di machine learning passano solo da un repository interno: le versioni sono bloccate, le dipendenze vengono scansionate automaticamente a ogni rilascio e gli ambienti di sviluppo sono separati da quelli di produzione, con accessi tracciati e revocati alla fine di ciascun progetto. L'intera catena di verifica è descritta passo passo in questa guida pratica.
Matrice delle risorse strumenti
| Strumento | Uso | Rischio | Verifica |
|---|---|---|---|
| Framework orchestrazione LLM | Chatbot clienti | Medio | Versione bloccata |
| Libreria ML screening CV | Ranking candidati | Alto | Scansione a ogni rilascio |
| Piattaforma MLOps | Deploy e monitoraggio | Medio | Accessi revocati a fine progetto |
| Tool di valutazione bias | Test di equità | Alto | Riesame semestrale |
| Repository pacchetti interno | Distribuzione dipendenze | Medio | Fonte unica approvata |
Nota: la matrice è riesaminata a ogni modifica del ciclo di vita dei sistemi di IA e costituisce evidenza diretta in audit interno, come spiegato in questa guida pratica.
Cosa scriverebbe "Azienda Italiana S.p.A." sul punto A.4.4
Questa guida pratica mostra l'estratto della procedura con cui Azienda Italiana S.p.A. governa le risorse strumenti lungo il ciclo di vita dei suoi sistemi di IA: il documento è la prova principale richiesta in audit interno e in fase di certificazione del Sistema di Gestione per l'Intelligenza Artificiale.
Procedura di gestione delle risorse strumenti
Metodo
Censimento dei tool; valutazione del rischio; approvazione formale del Responsabile MLOps; blocco delle versioni; scansione delle vulnerabilità a ogni rilascio; monitoraggio continuo; revoca degli accessi a fine progetto.
Estratto
| Strumento | Proprietario | Versione | Stato |
|---|---|---|---|
| Framework orchestrazione LLM | Team Conversational AI | 3.8.2 | Approvato |
| Libreria ML screening CV | Data Science HR | 1.14.0 | Approvato |
| Piattaforma MLOps | Responsabile MLOps | 5.2 | Approvato |
| Tool valutazione bias | Referente Etica IA | 2.1.0 | In riesame |
| SDK modello linguistico | Team Conversational AI | 4.0.1 | Approvato |
Ruoli e responsabilità
| Ruolo | Responsabilità |
|---|---|
| Responsabile MLOps | Mantiene il registro e approva i nuovi strumenti |
| Data Protection Officer | Verifica l'impatto sui dati personali trattati dai tool |
| Referente Etica IA | Valida gli strumenti di valutazione di bias ed equità |
| Responsabile Sicurezza IT | Gestisce scansioni e rimedio delle vulnerabilità |
Checklist operativa
| Attività | Frequenza |
|---|---|
| Aggiornamento del registro strumenti | A ogni variazione |
| Scansione vulnerabilità delle dipendenze | A ogni rilascio |
| Riesame degli accessi agli ambienti MLOps | Trimestrale |
| Verifica di licenze e condizioni d'uso | Annuale |
Esito
Registro allineato alla produzione; nessuna vulnerabilità critica aperta; accessi revocati entro 5 giorni dalla chiusura dei progetti; prossimo riesame della matrice pianificato con la verifica semestrale dell'AIMS.
Le domande dell'audit interno sul punto A.4.4
Domande di audit interno su questo punto, con risposte coerenti ed evidenze.
I consigli del Dott. Valerio Bellini sul punto A.4.4
Dott. Valerio Bellini
«Il mio consiglio: trattate il registro degli strumenti come un asset vivo, non come un allegato compilato una volta all'anno.»
«In audit interno chiedo sempre tre cose: registro aggiornato, versioni bloccate e scansioni delle vulnerabilità. In audit interno, se manca il registro delle risorse strumenti, è quasi certamente una non conformità.»
Gli errori più comuni che incontro:
- Registro strumenti non aggiornato: Tool in produzione assenti dall'inventario AIMS
- Nessuna valutazione del rischio: Strumenti adottati senza analisi di sicurezza
- Versioni non bloccate: Dipendenze aggiornate senza verifica né tracciatura
- Accessi mai revocati: Account attivi dopo la chiusura dei progetti IA
- Scansioni vulnerabilità assenti: Nessuna evidenza di controllo sulle librerie ML