Nuovo deploy rilevato: Lead Scoring con Spiegabilità (v1.2.0), produzione, BU Retail Credit. Classificazione: Allegato III 5(b) — valutazione affidabilità creditizia. HIGH RISK.
AGENTE · AI ACT HIGH-RISK VALIDATOR
Ogni nuovo agente AI viene classificato rispetto all'AI Act prima del deploy.
AI Act High-Risk Validator esegue la classificazione AI Act di ciascun nuovo agente o sistema AI prima del deploy. Valuta la classificazione contro l'Allegato III (sistemi ad alto rischio) e gli Allegati IV/V. Attiva il workflow FRIA (Fundamental Rights Impact Assessment) quando richiesto.
AI Act High-Risk Validator al lavoro.
FRIA obbligatorio prima del deploy. Template pre-compilato a Carla Mancini (DPO) e Andrea Ruggeri (AI Officer). Scadenza 60 giorni prima go-live.
Ricevuto. Avviamo la FRIA questa settimana.
Registrato. Deploy bloccato in staging fino a validazione FRIA. Evento tracciato in audit.
Perché esiste.
L'AI Act (Regolamento UE 2024/1689) classifica i sistemi AI in quattro categorie di rischio: minimo, limitato, elevato (Allegato III), inaccettabile. Per i sistemi a rischio elevato, il regolamento richiede adempimenti specifici: registrazione nel registro UE, FRIA, trasparenza verso l'utente, sorveglianza umana, accuratezza e robustezza dichiarata.
Come applica la classificazione.
La sfida operativa non è conoscere la norma. È applicarla sistematicamente su ogni nuovo sistema AI che entra in produzione, senza dipendere dalla memoria di un singolo DPO o AI Officer. La classificazione mancata è un rischio regolatorio; la classificazione tardiva compromette i tempi di delivery. L'agente presidia il pre-deploy. La classificazione avviene in modo strutturato e tracciato, per ogni agente, prima che raggiunga la produzione.
La decisione finale resta al responsabile AI Act.
L'agente identifica i casi di classificazione ambigua e li segnala al responsabile AI Act per valutazione manuale. La classificazione finale resta del responsabile secondo le procedure del cliente. Il sistema non forza una classificazione quando il caso d'uso attraversa più categorie dell'Allegato III.
Tre ruoli di governance, un presidio comune.
Responsabile AI Act
Il CDO, AI Officer, o ruolo equivalente ottiene il pre-screening automatico di ogni nuovo agente. Non rischia di mancare la classificazione di un sistema che richiede FRIA o registrazione nel registro UE.
Proposta n. 2024-081 In revisione
Disclosure mancante
art. 21 TUF · strumento finanziario regolato
Alt. 1 …nel rispetto dell'art. 21 TUF e delle disposizioni Consob vigenti.
Alt. 2 …con disclosure completa allegata al documento di offerta.
Traccia audit registrata · 14:31
DPO
Ha la traccia ispezionabile delle classificazioni AI Act per audit del Garante Privacy o dell'autorità AI Act nazionale. Le query sul registro restituiscono l'intera catena di classificazione, FRIA e autorizzazione deploy per ogni sistema.
fnol.receive 09:14:22 ALLOW
triage.classify 09:14:25 ALLOW
idd.check 09:14:31 WARN
liquidation.propose 09:15:02 ALLOW
SELECT * FROM audit_log WHERE claim_id = '2024-0847'
Responsabile compliance
Vede aggregato l'inventario degli agenti per categoria di rischio. L'esposizione regolatoria del runtime è misurabile e gestibile. Rilevanza tipica in banking, insurance, healthcare, public sector, energy.
Pratica KYC-2024-091 In verifica
Documento ID VERIFICATO
Biometria · SCA PSD2 LINKING OK
Beneficial owner REGISTRO IMPRESE
Pratica passata a AML Screening
Un nuovo agente di scoring viene classificato e bloccato in staging fino al FRIA.
Il deploy attiva l'agente in automatico.
Una banca sta per deployare un nuovo agente di Lead Scoring con Spiegabilità per il credito al consumo. Il deploy attiva AI Act High-Risk Validator in automatico. L'agente legge la descrizione del nuovo sistema: caso d'uso 'valutazione preliminare di clienti per credito al consumo', dati 'anagrafici + dichiarazioni reddito + dati pubblici', output 'scoring + reason code'. Confronta con l'Allegato III.
Allegato III 5(b): HIGH RISK. FRIA attivato.
Il sistema rientra nell'Allegato III punto 5(b) — sistemi destinati a valutare l'affidabilità creditizia di persone fisiche. Categoria: HIGH RISK. L'agente attiva il workflow FRIA: notifica al DPO e al responsabile AI Act con descrizione del sistema, classificazione applicata, riferimento esplicito all'Allegato III 5(b), template FRIA pre-compilato, scadenza per il completamento.
DPO e AI Officer validano e autorizzano il deploy.
Il DPO e il responsabile AI Act validano la classificazione, completano il FRIA, autorizzano il deploy. L'evento — classificazione, FRIA attivato, decisioni, autorizzazione — resta nel registro audit del runtime, interrogabile con un client SQL standard.
Configurazione e risorse tecniche.
Le regole sono dichiarative. Il responsabile AI Act, il DPO e il team compliance del cliente definiscono in formato leggibile le regole di classificazione (mapping caso d'uso–Allegato AI Act, criteri di valutazione, template FRIA), le soglie di blocco automatico (sistemi classificati come "rischio inaccettabile"), le procedure di notifica e di escalation. Le regole vivono nel repository del cliente, versionate.
L'AI Act è in vigore graduale: disposizioni diverse hanno date di applicabilità diverse. Il repository delle regole di classificazione richiede aggiornamento periodico a cura del team compliance del cliente. L'agente esegue le regole configurate; la responsabilità della completezza del mapping rispetto al panorama regolatorio aggiornato resta del team compliance.
- Linguaggio
- TypeScript (Node.js)
- Modello LLM
- a scelta del cliente: Anthropic, OpenAI, Mistral, modelli open source ospitati internamente, AWS Bedrock per modello privato
- Controlli built-in usati
- pii-detector, prompt-injection, topic-guardrail
- Trigger
- deploy di nuovo agente nel runtime Polyant + import di sistemi AI esterni nel perimetro AI Act del cliente
- Regole AI Act
- dichiarative, versionate, scritte dal team AI Act + DPO; aggiornamento periodico a cura del team compliance in base al calendario di applicazione del regolamento
- Template FRIA
- dichiarativi, versionati
- Nota classificazione
- la completezza del mapping rispetto alle disposizioni in vigore graduale dell'AI Act è responsabilità del team compliance del cliente
- Memoria
- persistente per istanza
- Registro
- immutabile, audit AI Act ispezionabile con client SQL standard
Domande frequenti sull'agente.
Per agenti classificati come 'rischio inaccettabile' (vietati dall'AI Act, es. social scoring di massa), sì: blocco automatico con segnalazione al responsabile AI Act. Per agenti classificati come 'Allegato III high-risk', l'agente attiva il workflow FRIA ma non blocca il deploy in autonomia: il blocco è gestito dalla procedura del cliente in attesa del completamento FRIA e dell'autorizzazione dei responsabili.
L'agente identifica i casi di classificazione ambigua e li segnala al responsabile AI Act per valutazione manuale. La classificazione finale resta del responsabile secondo le procedure del cliente. Il sistema non forza una classificazione quando il caso d'uso attraversa più categorie dell'Allegato III.
L'AI Act prevede date di applicazione graduali per disposizioni diverse (alcune già in vigore, altre a 2025-2026). Il team compliance del cliente aggiorna il repository ogni volta che nuove disposizioni entrano in vigore. Il pattern consigliato è una review trimestrale con il responsabile AI Act per verificare la coerenza del mapping.
Il pattern tipico è 12-18 settimane. Discovery e mapping del perimetro AI Act del cliente 2-4 settimane, scrittura delle regole dichiarative con il team compliance 6-8 settimane, integrazione con il workflow FRIA esistente 2-3 settimane, hand-off 1-2 settimane.
Da una conversazione di 30 minuti alla squadra in produzione.
Una conversazione di 30-45 minuti per capire come AI Act High-Risk Validator si configurerebbe sul caso del cliente. Quale perimetro di sistemi AI, quali regole di classificazione, quale workflow FRIA già in uso.