La consultazione pubblica è attiva dal 18/02/2025 al 20/03/2025.
Questo argomento accoglie i commenti relativi al capitolo 7. Comunicazione.
I commenti dovranno includere il numero del paragrafo o sotto-paragrafo (se presente) e un riferimento puntuale al brano di testo al quale si riferiscono (ad esempio paragrafo 4.3, terzo capoverso).
Sarebbe utile fornire indicazioni su come adattare la comunicazione a diversi pubblici, poiché le informazioni destinate ai cittadini con limitate competenze digitali dovrebbero essere presentate in modo diverso rispetto a quelle destinate agli esperti del settore. Perciò, suggerirei di aggiungere una sezione specifica su come creare comunicazioni accessibili e inclusive.
La sezione menziona gli obblighi di informativa previsti dall’AI Act, ma non spiega come le PA dovrebbero adempiere a questi obblighi in pratica. In tal senso, sarebbe molto utile fornire un template per l’informativa sull’uso dell’IA, che le PA possano adattare al proprio contesto specifico.
Infine, la sezione potrebbe essere rafforzata evidenziando l’importanza di ascoltare il feedback dei cittadini. Suggerirei di aggiungere indicazioni su come raccogliere il feedback dei cittadini sull’uso dell’IA e come utilizzare questo feedback per migliorare i servizi e le comunicazioni.
Per le ragioni di cui sopra, propongo una revisione strutturale del paragrafo che includa: un’introduzione che enfatizzi l’importanza della comunicazione per la trasparenza e la fiducia nell’uso dell’IA; una guida alla creazione di comunicazioni efficaci, con esempi concreti di materiali comunicativi; indicazioni per la creazione di comunicazioni inclusive, adattate a diversi pubblici; un template per l’informativa sull’uso dell’IA; e, infine, una sezione che sottolinei l’importanza di ascoltare il feedback dei cittadini e di rimanere aggiornati sulle migliori pratiche di comunicazione in materia di IA.
Nel par. 7.3 dovrebbe essere esplicitata la necessità di informare il cittadino quando la comunicazione fornita è realizzata con l’uso dell’AI e informarlo che essa può contenere errori (allucinazioni). Il cittadino deve avere un canale per chiedere conferma delle informazioni ricevute per evitare che possa prendere per buone le informazioni dell’AI e magari trovarsi in difficoltà.
L’amministrazione dovrebbe istituire una sorta di “sportello” che in caso di controversie aiuti il cittadino a non essere “punito” in caso di errori di informazioni ricevute dall’AI.
7.3. ADOTTARE L’IA NELLA COMUNICAZIONE ISTITUZIONALE
Si suggerisce di prevedere espressamente la protezione dei dati personali e le misure antispam tra le opportunità di formare i dipendenti che utilizzano l’AI nella comunicazione istituzionale.
[7.2] Sarebbe stata utile, soprattutto per questa sezione, un dialogo di AgID con il Garante per la protezione dei dati personali, al fine di validare il contenuto ed evitare il più possibile eventuali interventi del Garante difformi da quanto qui rappresentato.
Oltre ad un’adeguata informativa sul trattamento dei dati personali, occorre fornire un documento in linguaggio semplice (non “legalese”) che spieghi in parole povere il trattamento dei dati al cittadino utente. Questo per evitare fraintendimenti legati alla natura spesso convoluta e tecnica di documenti legali quali le informative sul trattamento dei dati personali.
(Capitolo 7 delle Linee Guida)**
L’adozione dell’Intelligenza Artificiale nella Pubblica Amministrazione richiede un approccio alla comunicazione basato su trasparenza, responsabilità e accessibilità. La fiducia dei cittadini nei servizi pubblici digitali dipende dalla capacità delle amministrazioni di informare in modo chiaro e comprensibile sull’utilizzo dell’IA nei processi decisionali.
Federmanager ritiene che le migliori pratiche sviluppate nel settore industriale possano rappresentare un riferimento per la PA nella gestione della comunicazione istituzionale con l’IA. In particolare, le esperienze del settore privato dimostrano che un utilizzo responsabile della tecnologia, unito a strategie di informazione adeguate, favorisce l’accettazione dell’IA e ne ottimizza il valore per utenti e organizzazioni.
Federmanager propone un modello di governance della comunicazione che integri principi di trasparenza, protezione dei dati e chiarezza informativa, al fine di garantire che l’uso dell’IA nella PA sia comprensibile, etico e inclusivo.
L’AI Act e le Linee Guida prevedono che la PA garantisca trasparenza e chiarezza informativa sull’uso dell’IA nei processi pubblici. Ciò include l’obbligo di informare gli utenti quando interagiscono con sistemi di IA e di segnalare contenuti generati artificialmente.
I dirigenti industriali hanno già implementato modelli avanzati di gestione della trasparenza nei processi automatizzati, che possono essere adottati dalla PA per:
Le PA devono fornire informazioni dettagliate e facilmente comprensibili sull’uso dell’IA, in conformità al GDPR e all’AI Act. Questo include la descrizione dei sistemi adottati, i criteri decisionali, gli impatti sui cittadini e la possibilità di intervento umano nelle decisioni automatizzate.
Il settore industriale ha sviluppato modelli avanzati di compliance e comunicazione con gli utenti sui sistemi IA, che possono essere applicati alla PA per:
L’IA può migliorare la comunicazione istituzionale della PA, rendendola più efficiente, accessibile e interattiva. Tuttavia, l’utilizzo di queste tecnologie deve essere responsabile e supervisionato, evitando eccessiva automazione e garantendo sempre un’interazione umana adeguata.
Le imprese hanno già implementato modelli avanzati di comunicazione basata su IA, che possono essere replicati nella PA per:
Federmanager ritiene che la trasparenza e la comunicazione chiara siano elementi centrali per un’adozione efficace e responsabile dell’IA nella Pubblica Amministrazione. L’esperienza del settore industriale dimostra che una comunicazione chiara e accessibile sull’uso dell’IA può aumentare la fiducia degli utenti e ridurre i rischi legati a disinformazione e mancanza di consapevolezza.
Federmanager si propone come interlocutore per supportare la PA nella definizione di modelli di comunicazione efficaci, trasparenti e orientati al cittadino, promuovendo l’adozione di un’IA etica e affidabile nei servizi pubblici.
Al paragrafo 7.3 nell’ambito dell’uso dell’IA nella comunicazione si pone come obbligo quello “essere trasparente e segnalare l’uso di strumenti di IA” . Rispetto a questo la formulazione della norma sembrerebbe includere anche tutte quegli scenari nei quali l’utilizzo dell’AI avviene per i Deployers sempre filtrato da un soggetto umano che si assume la responsabilità delle risposte generate dall’AGI. (Human-in-the-loop). In questo sembrerebbe essere addrittura più restrittiva di quanto previsto all’art.50 comma 4 dell’AI Act.
OBBLIGHI DI INFORMATIVA (CAP 7. PAR 7.2)
Si ritiene necessario evidenziare l’importanza del principio di proporzionalità riguardo gli obblighi di informativa e delle tutele per gli individui, tra cui il diritto all’opposizione e l’intervento umano nelle decisioni automatizzate.
È fondamentale garantire trasparenza e tutela dei diritti, ma occorre evitare oneri sproporzionati, soprattutto in contesti in cui l’IA non ha impatti significativi sui diritti dei cittadini. Per esempio, un software di supporto interno alla Pubblica Amministrazione ¶, che assiste i dipendenti senza impattare direttamente sugli utenti esterni, non dovrebbe essere soggetto agli stessi obblighi di un sistema decisionale automatizzato che influisce sui diritti dei cittadini.
Questa distinzione dovrebbe riflettersi in modo chiaro nelle linee guida, evitando di imporre requisiti eccessivi in situazioni in cui l’IA ha un impatto minimo, ma garantendo un livello di tutela adeguato nei casi in cui può influenzare direttamente i cittadini.
Fornire strumenti per ridurre l’asimmetria informativa, in modo che le amministrazioni locali possano adottare l’IA con consapevolezza e non dipendere esclusivamente dai fornitori privati (shopping tecnologico).
7.1 Misure di trasparenza
Sarebbe opportuno prevedere una unica informativa che comprenda anche il trattamento dei dati, in modo da raccomandare le PA nell’ essere trasparenti nell’utilizzo di sistemi di IA che trattano dati personali, inserendo nell’informativa al trattamento dei dati prevista dagli artt. 13 e 14 del Regolamento (UE) 2016/679 una apposita sezione dedicata all’IA, specificando che i dati influenzano le decisioni e quali siano le conseguenze per gli utenti fruitori di servizi pubblici, rendendo note le finalità, i criteri e i metodi utilizzati dai sistemi di IA. Inoltre, le PA dovrebbero assicurarsi che le informazioni fornite siano accessibili a tutti i soggetti interessati.
Par. 7.1 – misure di trasparenza – Nell’introduzione, dopo il periodo “La trasparenza è un requisito fondamentale per assicurare la fiducia nei confronti delle tecnologie utilizzate…”
Osservazione – si propone di aggiungere: A tal fine, le PA dovranno affidarsi ai propri responsabili comunicazione o a professionisti esterni con specifiche competenze sia tecniche sia di comunicazione istituzionale e pubblica al fine di garantire la piena attuazione dei principi di trasparenza nei confronti dei cittadini.
Par. 7.3 – Adottare l’IA nella comunicazione istituzionale – secondo capoverso - L’IA, quindi, può trasformare la comunicazione pubblica, pur richiedendo un’attenta gestione delle sfide etiche e operative.
Osservazione – si suggerisce di sostituire il verbo “trasformare” con “supportare”, eventualmente riformulando il periodo così: L’IA, quindi, come strumento a disposizione della PA può supportare le attività di comunicazione pubblica…
Par. 7.3 – parte finale del paragrafo, proposta di aggiunta.
Osservazione – Si propone di aggiungere il seguente paragrafo: Le azioni di comunicazione che devono o possono essere adottare dalle PA è necessario vengano inserite nei piani di comunicazione annuali degli enti, dove adottati, o comunque indicati e illustrati nei relativi documenti di programmazione annuali (ad es. DUP e il Piano della Performance) consultabili e valutabili dalla cittadinanza secondo adeguati indicatori di impatto.
Leda Guidi a nome di Compubblica (Presidente)
7.1 Misure di trasparenza
Le linee guida menzionano il tema della verifica della veridicità dei dati prodotti e riconoscono l’importanza della trasparenza e dell’affidabilità dei contenuti IA. Tuttavia pur partendo dall’ assenza, allo stato attuale, di strumenti specifici di fact-checking automatizzato che possano validare i contenuti generati dall’IA, o verificare l’originalità di un testo e rilevare informazioni false o alterate, appare utile la proposta di metodologie e sequenza operate che possano aumentare le probabilità di veridicità dei dati prodotti, e ‘certificare’ le corrette modalità operative seguite dagli utenti nell’uso degli strumenti IA.
7.1. Misure di trasparenza.
Non è chiaro il passaggio in cui si fa riferimento ai contenuti come deepfake “che devono essere etichettati come tali, per evitare rischi di manipolazione o disinformazione”.
La PA può produrre deep fake? occorre un sistema di sicurezza che renda riconoscibile un documento (o video, o altro) originale.
7.2 Obblighi di informativa.
Gli obblighi di informativa verso i cittadini devono essere rispettati dalle PA anche in relazione alle regole contenute nella legge 241/1990. In particolare nell’esercizio del proprio diritto alla opposizione le procedure ed i canali attraverso cui possono opporsi a una decisione automatizzata, dal momento che comportano la revisione da parte di un operatore umano, devono rispettare per un principio di equità, le indicazioni e le regole stabilite dalla legge 241/1990.
Paragrafo 7.1, Obblighi per i sistemi ad alto rischio. In caso di utlizzo “mediato” del sistema di IA (come ad esempio in ambito sanitario), si chiede di chiarire se l’utente è il professionista che si avvale del sistema di IA o il cittadino che riceve i risultati.
La differenza è notevole nel caso dell’esercizio dei diritti, soprattutto quello di opposizione.
Paragrafo 7.2. Si suggerisce di indicare che la PA che utilizza un sistema di IA deve o dovrebbe indicare se le interazioni del cittadino con il sistema di AI verranno utilizzate per addestrare/migliorare la soluzione stessa, non ritenendosi sufficiente il solo obbligo informativo sulla tipologia di IA impiegata.
Inoltre, la PA che si avvale di dataset non propri, specie se di società private e non di altri enti pubblici, dovrebbe esplicitamente indicarlo.
PAR 7.1 – Misure di trasparenza
Le Linee Guida stabiliscono determinati requisiti di trasparenza che devono essere rispettati dalle PPAA che adottano sistemi di intelligenza artificiale. Tra questi, il requisito della “documentazione tecnica” prevede che “i fornitori di sistemi di IA, in particolare quelli considerati ad alto rischio (es. riconoscimento biometrico, sistemi di valutazione per l’accesso ai servizi essenziali) DEVONO mantenere una documentazione che descriva il funzionamento del sistema; tale documentazione deve essere messa a disposizione delle autorità competenti in caso di necessità”. La disposizione risulta ancora ancora troppo generica, finendo così per realizzare una norma di solo programma. Inoltre, non risulta allineata a quanto prescritto dal par. 5.4 delle Linee Guida, secondo cui “l’AI Act stabilisce l’obbligo di conservazione documentazione tecnica sui sistemi di IA ad alto rischio, inclusa una descrizione del funzionamento, delle prestazioni e delle procedure di monitoraggio e controllo adottate per garantire la conformità ai requisiti di legge”. La documentazione tecnica è infatti oggetto di specifico articolo e conseguente allegato da parte del Reg. AI Act: le Linee Guida avrebbero dovuto adottare il medesimo modello nella descrizione del contenuto della documentazione tecnica, che risulta invece sparpagliato entro tutto il corpo del testo delle Linee Guida, considerando inoltre di integrare le disposizioni dell’AI Act con contenuti ritenuti necessari o indispensabili nel contesto di organizzazione e funzionamento di una PA nazionale. Allo stato attuale, la documentazione tecnica che deve essere conservata da una PA non risulta individuata in maniera completa ed autosufficiente così da facilitare le Amministrazioni nella governance dei sistemi di IA.
Inoltre, sarebbe utile prevedere un obbligo del fornitore a fornire la documentazione tecnica (e gli eventuali aggiornamenti della stessa) anche alla PA che utilizza regolarmente il sistema fornito o, qualora il modello o sistema di IA sia stato acquisito dalla PA o da essa sviluppato e posseduto, che sia la PA a detenere direttamente o aggiornare la documentazione tecnica. Questo obbligo potrebbe essere, a sua volta, oggetto di specifica clausola inserita nei contratti di fornitura conclusi tra PA e fornitore. In questo modo si faciliterebbe il compito di conservazione della documentazione intestato alle PPAA.
La detenzione da parte della PA, inoltre, consente di facilitare il cittadino nell’ottenere l’ostensione di tale documentazione tecnica, anche e soprattutto, ai fini difensivi di cui all’art. 24, L. n. 241/1990.
PAR 7.1 e 7.2 – Misure di trasparenza e obblighi di informativa
Nel paragrafo in commento si afferma che “le PA DEVONO essere trasparenti nell’utilizzi di sistemi di IA che trattano dati personali, dando adeguata, esaustiva e accessibile informativa agli interessati, come questi influenzano le decisioni e quali siano le conseguenze per gli utenti fruitori di servizi pubblici, rendendo note le finalità, i criteri e i metodi utilizzati dai sistemi di IA. Inoltre, devono assicurarsi che le informazioni fornite siano accessibili a tutti i soggetti interessati”.
Le Linee Guida trascurano che il contenuto dell’informativa sul trattamento dei dati personali può influenzare il contenuto della documentazione tecnica e, di conseguenza, non considerano le differenze di contenuto della documentazione tecnica in caso di utilizzo di sistemi di IA che trattano (o meno) dati personali. Sarebbe opportuno distinguere la documentazione tecnica che le PA devono detenere ai fini della trasparenza e della compliance alla normativa nazionale ed europea tra le ipotesi di sistemi di IA che trattano (o meno) dati personali, considerando inoltre le modalità specifiche di informativa a seconda delle ipotesi considerate. In questo senso, si suggerisce di modificare la prescrizione del par. 7.2 che stabilisce che “le PA DOVREBBERO elaborare informative dettagliate e personalizzate per ogni sistema di IA utilizzato, adattando la comunicazione alla specificità del contesto e alle esigenze degli utenti” nel senso di (I) porla come premessa introduttiva agli obblighi di informativa, (ii) formularla, anziché come una prescrizione di carattere indicativo, come un obbligo (DEVONO) e (iii) chiedendo altresì di considerare le specifiche differenze che riguardano i sistemi di IA che trattano, o meno, i dati personali. La modifica della prescrizione nei termini appena precisati dovrebbe, inoltre, comportare la suddivisione del par. 7.2 in due sezioni o più sezioni, che individuino i differenti contenuti dell’informativa a seconda del sistema di IA considerato.
Le Linee Guida non forniscono invece indicazioni sulle modalità e i tempi con cui tale informativa potrebbe essere fornita ai cittadini da parte delle PPAA: si suggerisce pertanto di modificare le Linee Guida nel senso di individuare uno (o più) strumenti con cui le PPAA possono rendere accessibile tale informativa, non solo ai soggetti direttamente incisi dal funzionamento del sistema di IA ma a tutti i soggetti interessati e, più in generale, alla totalità dei consociati, eventualmente distinguendo il contenuto dell’informativa a seconda dei soggetti cui è fornita. Si suggerisce inoltre di chiarire le tempistiche ovvero il momento (anche del procedimento) a partire dal quale l’informativa deve essere resa accessibile ai soggetti coinvolti o interessati.
Questo argomento è stato automaticamente chiuso dopo 35 giorni. Non sono permesse altre risposte.