Conformità all’AI: cos’è, perché è importante e come iniziare

I processi di conformità all’AI aiutano le aziende a evitare i rischi finanziari, legali e di immagine associati all’uso degli strumenti di AI.

Più le aziende utilizzano l’AI, più è probabile che si imbattano in situazioni in cui la tecnologia prende pieghe inaspettate o errate. Ad esempio, un’azienda ha abbandonato il suo strumento di assunzioni basato sull’AI dopo aver scoperto che perpetuava una discriminazione di genere a causa dei materiali utilizzati per addestrarlo.² Altre indagini hanno scoperto che alcune richieste di prestito basate su algoritmi possono portare a discriminazioni nei confronti dei richiedenti di colore.³

Le preoccupazioni per questi problemi stanno facendo crescere l’impegno per standardizzare il modo in cui l’AI viene sviluppata e utilizzata dalle aziende. Nel 2024, l’Unione europea è diventata il primo grande mercato a imporre norme sull’AI con l’introduzione della legge sull’AI. Altre giurisdizioni, tra cui Stati Uniti e Cina, stanno sviluppando le proprie normative sull’AI.

I costi della mancata conformità possono essere elevati. Ai sensi del Regolamento generale sulla protezione dei dati (GDPR) dell’UE, le aziende possono incorrere in multe fino a 20 milioni di euro o il 4% del loro fatturato annuo globale, a seconda di quale sia l’importo più elevato. Negli Stati Uniti, la Federal Trade Commission (FTC) può adottare misure coercitive nei confronti delle aziende per violazioni legate all’AI, come l’uso di algoritmi di apprendimento automatico distorti.⁴

La conformità è essenziale anche per proteggere la reputazione del marchio. Un sondaggio del 2024 condotto da KPMG ha rilevato che il 78% dei consumatori ritiene che le organizzazioni che utilizzano l’AI abbiano la responsabilità di contribuire a garantire che venga sviluppata in modo etico.⁵ In caso contrario, si rischia di perdere la fiducia delle aziende e dei consumatori.

Contribuendo a garantire che i sistemi AI siano affidabili, trasparenti e responsabili, le aziende possono promuovere l’innovazione, migliorare l’efficienza e ottenere un vantaggio competitivo sul mercato.