Gli algoritmi dell’IA addestrati principalmente su volti bianchi hanno implicazioni razziali online. Le tecnologie dell’IA modificano i volti delle persone di colore per assomigliare a quelli bianchi.
Secondo i ricercatori dell’Università Nazionale Australiana (ANU), i volti bianchi generati dall’intelligenza artificiale (IA) sono ora più realistici dei volti umani veri. Tuttavia, questo non è stato riscontrato per le immagini di persone di colore. La dott.ssa Amy Dawel, autrice principale dello studio, ha spiegato che gli algoritmi dell’IA sono principalmente addestrati su volti bianchi, il che potrebbe avere gravi implicazioni per le persone di colore, rafforzando i pregiudizi razziali online.
Questo problema è già evidente nelle attuali tecnologie dell’IA utilizzate per creare ritratti professionali. Quando utilizzata per persone di colore, l’IA modifica il colore della pelle e degli occhi in quelli delle persone bianche. Questi sviluppi nell’IA stanno superando la nostra capacità di riconoscere il suo potere. Inoltre, le persone non sempre si rendono conto di essere ingannate dall’iperrealismo dell’IA. Coloro che pensavano che i volti generati dall’IA fossero reali erano paradossalmente i più sicuri che i loro giudizi fossero corretti.
Il team di ricerca ha una spiegazione su perché le persone vengano ingannate così facilmente. Sembra che ci siano ancora differenze fisiche tra l’IA e i volti umani reali, ma le persone le interpretano erroneamente. Ad esempio, i volti generati dall’IA bianchi sono spesso più proporzionati, ma gli osservatori lo interpretano come un segno della loro umanità.
Tuttavia, non possiamo fare affidamento su questi segnali fisici per molto tempo, poiché la tecnologia dell’IA sta avanzando rapidamente e le differenze tra l’IA e i volti umani probabilmente scompariranno presto. Questo potrebbe facilitare la diffusione di disinformazione online.
Il team di ricerca sostiene che sia necessario agire per limitare la futura proliferazione di informazioni fuorvianti e il potenziale furto di identità che accompagna le immagini dell’IA. È importante che ci sia maggiore trasparenza sull’IA in modo che i ricercatori e la società civile possano identificare i problemi prima che diventino gravi. Inoltre, è necessario educare il pubblico sull’uso improprio delle tecnologie dell’IA al fine di ridurre i rischi.
Poiché le persone non sono più in grado di differenziare correttamente tra volti reali e generati dall’IA, la società ha bisogno di strumenti in grado di identificare accuratamente un impostore dell’IA. Dawel conclude che educare le persone sul realismo percepito dei volti generati dall’IA potrebbe aiutare il pubblico a essere adeguatamente scettico riguardo alle immagini che vedono online. Lo studio è stato pubblicato sulla rivista Psychological Science.
Links:
