La FCC degli Stati Uniti ha stabilito restrizioni immediate sulle chiamate automatizzate con voci generate dall’IA per prevenire frodi e truffe telefoniche.
Preoccupato che voci generate dall’IA vengano utilizzate per ingannarti o ingannare i tuoi cari al telefono? La Federal Communications Commission (FCC) degli Stati Uniti ha stabilito il 8 febbraio, con effetto immediato, che le chiamate automatizzate che utilizzano voci generate dall’IA rientrano nelle restrizioni sulla “voce artificiale o preregistrata” previste dal Telephone Consumer Protection Act (TCPA), che limita anche le chiamate di telemarketing e i sistemi di chiamata automatica.
“Sembra qualcosa del futuro lontano, ma è già qui. Le tecnologie di clonazione vocale e creazione di immagini generate dall’intelligenza artificiale sono ora più accessibili e più probabili da utilizzare per frodi”, ha dichiarato la presidente della FCC, Jessica Rosenworcel, in una dichiarazione.
I chiamanti che utilizzano voci generate dall’IA devono prima ottenere il consenso prima di effettuare una chiamata non di emergenza, e una persona reale che seleziona i messaggi generati dall’IA da riprodurre “non annulla la chiara proibizione legale di iniziare una chiamata utilizzando una voce preregistrata o artificiale”, si legge nella regola dichiarativa. Come segnala CNET osserva, queste chiamate possono essere segnalate utilizzando un modulo sul sito web della FCC.
Queste chiamate devono fornire informazioni di identificazione e divulgazione su chi effettua la chiamata. Se la chiamata rientra nell’ambito del telemarketing o della pubblicità, deve anche offrire un metodo per rinunciare.
“Questa tecnologia può confonderci quando ascoltiamo, guardiamo e clicchiamo, perché può ingannarci facendoci credere che tutto ciò che è falso sia legittimo”, ha continuato Rosenworcel. “Già vediamo questo accadere con Tom Hanks che promuove piani dentali online, un video vile con Taylor Swift e chiamate da parte di candidati per cariche politiche che sono progettate per confonderci su dove e quando votare”.
“Abbiamo anche storie di nonni che credono che sia davvero il loro nipote al telefono che chiede soldi, solo per scoprire in seguito che si tratta di un cattivo attore che sfrutta la loro disponibilità a inviare denaro alla famiglia”, ha aggiunto il commissario Geoffrey Starks.
“A gennaio, gli elettori potenziali nelle primarie del New Hampshire hanno ricevuto una chiamata, presumibilmente dal presidente Biden, che diceva loro di rimanere a casa e ‘salvare il loro voto’ saltando le primarie dello stato. La voce della chiamata sembrava quella del presidente, ma ovviamente non lo era. Erano chiamate di clonazione vocale”, ha aggiunto il commissario Geoffrey Starks. “L’uso dell’IA generativa ha portato una nuova minaccia ai piani di soppressione degli elettori e alla stagione delle campagne elettorali con la maggiore credibilità delle false chiamate automatizzate”.
Questa mossa segue un Avviso di Indagine lanciato nel novembre 2023, che mirava a comprendere meglio l’impatto che l’IA potrebbe avere nella protezione dei consumatori dalle “chiamate telefoniche e messaggi di testo indesiderati e illegali ai sensi del TCPA”. Come si è scoperto, l’uso dell’IA non è riservato solo ai cattivi: Rosenworcel ha spiegato che l’IA potrebbe aiutare nel riconoscimento dei modelli per individuare le chiamate automatizzate generate dall’IA.
“L’implementazione responsabile ed etica delle tecnologie dell’IA è cruciale per trovare un equilibrio, garantendo che i benefici dell’IA siano utilizzati per proteggere i consumatori dai danni anziché amplificare i rischi che affrontano in un panorama digitale sempre più complesso”, ha spiegato il commissario Anna M. Gomez.
“Ora, con questa Dichiarazione Interpretativa, avremo un altro strumento per contrastare le truffe di clonazione vocale e sbarazzarci di questa spazzatura telefonica”, ha concluso Rosenworcel.
