I cittadini hanno molte perplessità, e anche timori. su come l'Intelligenza Artificiale - specie la GenAI - possa essere usata dagli enti governativi. E questo sta avendo un effetto diretto, frenante, sulla propensione che le PA hanno di attivare servizi erogati direttamente ai cittadini e basati appunto su AI generativa. Solo un quarto delle PA li attiverà da qui al 2027, secondo Gartner.

La paura di incorrere in qualche imbarazzante e potenzialmente pericolosa debacle è insomma troppo grande tra le organizzazioni pubbliche e governative. Una conclusione a cui le PA, spiega Gartner, sono arrivate dopo aver effettivamente analizzato opportunità e rischi dei potenziali scenari d'uso della GenAI. Secondo gli analisti, le PA hanno sì intenzione di usare la GenAI in futuro, ma per ora si stanno concentrando solo su sperimentazioni (al massimo implementazioni molto limitate) e soprattutto sulla definizione dei necessari framework di governance.

Il timore delle PA è quello di non avere controllo sul rischio che le AI generative, nelle interazioni con i cittadini, diano informazioni inutili, sbagliate o del tutto insensate. Un rischio sempre presente e che si è già concretizzato nel mondo delle imprese. Nel caso degli enti pubblici, però, un evento del genere sarebbe davvero grave, perché sarebbe interpretato come una mancanza di empatia verso i cittadini e come un fallimento nel soddisfare le loro aspettative, sottolinea Gartner.

Il consiglio di Gartner alle PA è quello di familiarizzare con la GenAI partendo da applicazioni e servizi interni, cioè non erogati verso i cittadini. In questo le PA svilupperebbero comunque le competenze e le esperienze necessarie per gestire meglio l'AI generativa, senza però il rischio che eventuali problemi impattino negativamente sull'accettazione di nuovi servizi da parte dei cittadini.

La GenAI potà essere gradualmente implementata anche verso l'esterno, ma in fasi successive, ragionando caso per caso in funzione dei rischi percepiti. Questo però non basta, perché le PA devono anche rendersi "credibili" nell'uso dell'AI, definendo e implementando schemi trasparenti per la governance delle nuove tecnologie e applicazioni. Sia per quelle sviluppate in casa, sia per quelle che si acquisiscono da fornitori esterni.

La governance dell'AI deve concentrarsi su quelli che i cittadini percepiscono come i rischi principali della GenAI: correttezza delle informazioni veicolate, privacy dei dati coinvolti, sicurezza delle interfacce conversazionali. Ciascun rischio va valutato, affrontato e risolto prima e dopo una specifica implementazione.

Inoltre, sottolinea Gartner, le organizzazioni governative devono adottare approcci basati su empatia e human-centered design quando si tratta di progettare servizi (interni ed esterni) basati su AI. In questo modo possono fare in modo che i nuovi servizi siano in linea con le aspettative dei cittadini in merito a come e quando le nuove tecnologie di AI dovrebbero effettivamente essere utilizzate.