La consultazione pubblica è attiva dal 18/02/2025 al 20/03/2025.
Questo argomento accoglie i commenti relativi all’allegato F - Casi d’uso.
I commenti dovranno includere il numero del paragrafo o sotto-paragrafo (se presente) e un riferimento puntuale al brano di testo al quale si riferiscono (ad esempio paragrafo 4.3, terzo capoverso).
Con riferimento ai casi d’uso si evince una dettagliata descrizione degli elementi richiesti per una rispettiva valutazione, sebbene mi è parso di notare anche una carenza delle informazioni circa la necessità di appurarne esperienze pregresse eventuali, assicurando oer ogni tipologia di caso d’uso un manuale standard di riferimento per quanto concerne le caratteristiche pertinenti, che sia un fondamento sulla base del quale garantire il rispetto di idonei standard di qualità e sicurezza. Se puo rappresentare un suggerimento consono, suggerirei anche un paragrafo dedicato ad una raccolta di informazioni circa benefici e ruschi oltre che implicazioni, generate in un tempo passato al fine di fornure una base di partenza dalla quale assicurare piena definizione delle rispettive caratteristiche.
In merito alla sezione sottostante mi permetto anche di suggerire quanto sotto documentato:
F. 2.D.A monitoraggio
Le disposizioni normative applicabili, in considerazione dell’eventuale circostanza di emergenza correlata all’acquisizione di informazioni in merito al profilo di qualità, sicurezza ed efficacia di un dato prodotto di IA che possano riflettere un serio pericolo per la tutela dei diritti fondamentali dei cittadini, ciascun fabbricante dovrebbe cercare di poter assicurare un adeguato sistema di reclamo, nonché tempestivo ritiro dal commercio, finalizzate ad assicurare la massima protezione dei soggetti, assicurando altrettanto efficaci e tempestive linee di comunicazione alle Autorità Competenti interessate alla vigilanza del farmaco, pena impossibilità di ottenimento della rispettiva autorizzazione alla produzione. A fronte di tale contesto, in sede di ispezione le autorità competenti preposte devono poter verificare l’implementazione di appositi registri che possano documentare ciascun reclamo ricevuto in merito ad eventuali difetti, con associate rispettive evidenze documentali di avvenuta comunicazione alle autorità competenti interessate. Nell’ambito delle comunicazioni, rientrano anche quelle relative ad eventuali limitazioni della fornitura di prodotto medicinale, attestante anche il paese di destinazione.
Con riferimento alla sezione dedicata ai Casi d’uso, per quanto concerne l’uso di un Dominio applicativo suggerirei l’adozione di misure relative al rispettivo modello di distribuzione pertinenti rispetto agli obiettivi da soddisfare e alle finalità per le quali risulti essere adoperato, caratterizzato da procedure e misure organizzative rispettivamente commisurati ai rischi. Qualora ad esempio risulti essere s9ggetto al rispettivo impiego in a,bito sanitario, ne consegue come si dvidenzino elevate necessità di tutela della protezione dei dati personali, essendo anche ricompresi nell’ambito di una categoria particolare per la sensibilità degli stessi, fermo restando la necessità di faranture adeguate misure volte ad assicurare la tracciabilita in merito.
Modello di distribuzione
Potrei suggerire pertanto l’adozione di misure volte a garantire la documentazione dell’intero inter che abbia caratterizzato la fornitura di un dato sistema di IA, sin dal rilascio dello stesso, previa conformità a determinate caratteristiche ai fini della rispettiva validazione, in merito al quale assicurare debita documentazione volta ad attestare le rispettive responsabilità in merito da parte del personale autorizzato, assicurandone la presenza di apposite indicazioni d’uso che siano caratterizzate da dettagliate informazioni conformi a quanto dettato nell 'ambito degli sccordi contrattuali pattuiti.
Gli aspetti che possano assicurare un uso consono e sicuro per quanto concerne l’impiego di sistemi di IA può essere soddisfatto qualora sia possibile soddisfacente requisiti di pertinenza e coerenza tra gli ordini eseguiti, i contratti stipulati, le finalità di impiego del sistema mediante la presa vusione di documentazioni soggette verosimilmente ad una registrazione sistematica e continuativa dei dati di output generati, ovvero degli esiti, al fine di verificarne la conformità a determinati parametri di sicurezza, rispetto a quanto in anticipo sia stato oggetto di autorizzazione di impiego, a seguito di una procedura autorizzativa avvuata. Nell’ambito delle stesse non puo che essere incluso il certificato di convalida immediatamente a seguito emesso, fermo restando le documentazioni inerenti la tracciabilità della spedizione da parte di un dato fornitore, nonché rispettiva ricezione debitamente sottoscritta da parte del personale responsabile.
Obiettivi
La pertinenza di impiego inevitabilmente non puo che interessare anche gli obiettivi, i quali debba essere sempre coerenti circa gli accordi contrattuali e le finalità di impiego, nonchè debitamente dimostrati se soddisfatti grazie all’uso di sistemi automatici di emissione di certificati di conformità al termine di ciascun processo di impiego o al fine di generare inferenze.
Descrizione
La presente sezione non puo che essere dedicata ad un’accurata altrettanto descrizione delle caratteristiche del sistema al fine di assicurare la pertinenza e la coerenza rispetto agli obiettivi, nonché accordi pattuiti, incluse le finalità di impiego. Rappresenta quella sezione dedicata ad una descrizione di come un dato sistema sia coinvolto nel l’ottimizzazione dei processi o nella manifestazione di inferenze, con la necessità pertanto di assicurare un background di informazioni raccolte sulla base delle quali si è inteso sviluppare il presente sistema, garantendo una iniziale descrizione delle caratteristiche tecniche e non, nonché funzionali e non, in qualità di fonti giustificative circa il rispettivo impiego, che abbiano condotto all’uso di tale sistema ovvero alle modalità di adozione delle decisioni, delle raccomandazion, nonché previsioni da parte dello stesso, in merito alle quali assicurare la conformità ai requisiti dettati dal Regolamento, nonché alle finalità di impiego.
Medesime circostanze di pertinenza e coerenza, debbano essere assicurate anche per quanto concerne le caratteristiche e le capacità, includendo informazioni in merito ai margini ammisibili, nonchè probabilità circa le vulnerabilità delle componenti del sistema, ovvero dei maggiori rischi di errore, oltre a debite evidenze raccolte in antecedenza a supporto della pertinenza delle caratteristiche e delle proprietà nel soddisfare le finalità per le quali siano adoperati.
Gli aspetti decisionali non possono che coinvolgere altrettanto anche i soggetti che ne facciano uso, ovvero l’essere umano, in merito alle quali assicurare siano soppesati rispetto ai rischi associati, avendo cura di dettagliare ogni azione da svolgere, che abbia pertanto debita pertinenza con i presunti rischi che possano scaturire dal rispettivo impiego, secondo una scala di gradazione accurata e in funzione della quale garantire il ricorso al supporto umano per finalità di risoluzione, corruzione o espletamento di una data attivita, assicurando idoneaa assinzione di responsabilità in merito mediante apposite sottoscrizioni.
Per quanto concerne le dinamiche dell’ambiente decisionale,
Sarebbe sempre necessario assicurare informazioni tecniche che ne confermino la conformità rispetto agli usi e agli accordi pattuiti, includendo esperienze e test eseguiti, a supporto giustificativo del rispettivo impiego.
Caratteristiche dei dati
L’attendibilità di un dato sistema di IA certamente è subordinata alla qualita dei dati generati, on riferimento ai quali occorre assicurare fonti attendibili, in merito ai quali pertanto garantire debite evidenze identificative, per una prerogativa primaria di impiego di sole fonti autorizzate e pertanto soggette ad un apposita fase ai fini di una convalida, rispettando standard di qualità previste ai sensi della normativa vigente in materia. Resta intesa la necessità di assicurare un’idonea appropriatezza anche per quanto concerne il trattamento dati nell’ambito di accordi istituzionali, potendo suggerire la necessità di adozione di accordi standard mediante appositi moduli contrattuali da rispettare al fine di soddisfare prerogative di imparzialità necessarie, nonché debite ripartizioni di responsabilità nel rispetto delle finalità di impiego, soggette ad una rispettiva autorizzazione, oltre che alla normativa vigente in materia sulla base dei ruoli svolti.
Varietà
Gli aspetti inerenti le rispettive varietà ne condivido l’elencazione potendo sempre suggerire debite evidenze giustificatuve documentate circa la pertinenza rispetto alle finalità di impiego, i rischi in termini di bias sulla base della rispettiva tipologia, nonché una descrizione sintetica del processo grazie almquale abbiano acquisito la conformità a standard di qualità elevati, ai sensi di una policy in materia necessità da generare.
Velocità
Con riferimento alla presente sezione suggerisco sempre la necessità di assicurare debiti riferimenti circa gli standard o linee internazionali o nazionali sulla base dei quali assicurare la qualità e la sicurezza di impiego, ovvero l’esonero sa eventuali rischi, la cui rispettiva convalida debba pertanto interessare anche la presente caratteristica, inclusa la variabilita.m
Qualità
Anche in tal caso suggerisco la definizione di unnapposito processo proceduralenper soddisfare determinati requisiti elencati, con emissione di certificati di qualità che ne attestino il rispettivo impiego.
Dati personali
Per quanto concerne la peesente sezione, resta sempre intesa la necessità di assicurare la conformità al Regolamento Europeo in materia di protezione dei dati personali GDPR 679.2016, con una necessità di definizione di un’apposita informativa conforme alla normativa, da sottoporre al diretto interessato, al fine di assicursremil consenso al trattamento mediante apposita sottoscrizione di un dato modulo di consenso informato.
Innanzitutto complimenti per le Linee Guida.
Molto interessante in particolare la indicazione di un certo numero di casi d’uso e la relativa pubblicazione.
Suggerirei due meccanismi aggiuntivi:
Sarebbe auspicabile creare anche una “collezione” di casi d’uso. non riesco a capire se la concatenazione di casi d’uso debbano essere testate od essendo la somma di casi certi possano essere collezionate, si veda ad esempio la concatenazione dei fascicoli dell’articolo 41 del cad.