Già da qualche tempo l'IEEE sta affontando il tema dell'applicazione delle tecnologie di
machine learning e di intelligenza artificiale nelle imprese e nell'erogazione di nuovi servizi ai cittadini. Uno dei temi più caldi riguarda gli impatti che questa applicazione può avere sul
benessere in senso lato dei cittadini stessi, dato che sempre più il lavoro e la vita in generale
saranno regolati - anche indirettamente e parzialmente - da algoritmi di machine learning e da sistemi autonomi.
Per questo l'organizzazione ha dato l'avvio alla definizione di tre nuovi standard che intendono mettere in primo piano i
problemi sociali ed etici che possono essere collegati alle applicazioni di AI, problemi che spesso non vengono considerati da chi progetta tali applicazioni e vengono quindi scoperti solo in un secondo tempo. L'obiettivo è spingere il mercato a considerare,
già in fase di sviluppo delle nuove soluzioni, non solo gli effetti pratici del machine learning ma anche quelli più
intangibili.
Lo si vede in particolare nella proposta di standard
P7008, battezzata
Standard for Ethically Driven Nudging for Robotic, Intelligent and Autonomous Systems. Il tema qui è quello dei "nudge", ossia i
suggerimenti espliciti o impliciti che i sistemi di intelligenza artificiale possono dare a un operatore o a un utente umano. Questi suggerimenti dovrebbero secondo l'IEEE essere anche eticamente, e non solo pragmaticamente, accettabili.
La proposta di standard
P7009 (
Standard for Fail-Safe Design of Autonomous and Semi-Autonomous Systems) è più tecnica e delinea le procedure attraverso cui verificare se e quanto un sistema autonomo si mantiene in grado, anche in caso di malfunzionamento, di
non provocare danni alle persone e all'ambiente.
L'IEEE si rende conto che il concetto di benessere possa essere poco definito e per questo nasce l'ultimo degli standard proposti:
P7010, o
Wellbeing Metrics Standard for Ethical Artificial Intelligence and Autonomous Systems. Questo standard definisce
indicatori e metriche relativi al benessere umano che possono essere più facilmente influenzati dal funzionamento dei sistemi autonomi.