La crescente preoccupazione per i deepfake
Negli ultimi anni, i deepfake hanno sollevato preoccupazioni sempre più diffuse, generando timori su un futuro in cui la loro qualità potrebbe diventare così elevata da sfuggire ai metodi di rilevamento più sofisticati attualmente disponibili. In uno scenario del genere, la tecnologia dei deepfake potrebbe trasformarsi in un’arma potente nelle mani di criminali e di individui sostenuti da stati ostili, capaci di generare contenuti falsi in grado di diffamare o incastrare persone scomode. Sebbene questa prospettiva inquietante possa sembrare parte di un futuro distopico, recenti studi suggeriscono che i segnali di questo incubo stiano già emergendo. Infatti, i metodi per creare deepfake sono ora in grado di eludere una delle tecniche di identificazione più tradizionali: l’assenza di un battito cardiaco. Peter Eisert, professore all’Università Humboldt di Berlino, ha dichiarato che i recenti video deepfake di alta qualità possono presentare un battito cardiaco realistico e minime variazioni nel colore del viso, rendendoli molto più difficili da rilevare.
Come vengono creati i deepfake
I deepfake vengono realizzati attraverso la manipolazione di video e file audio, utilizzando tecniche avanzate di deep learning. Questi strumenti consentono di alterare espressioni facciali e gesti in modo sottile, come nel caso dello scambio di volti tra diverse persone. Sebbene talvolta questa tecnologia venga impiegata per scopi ludici, come applicazioni che trasformano gli utenti in animali o mostrano come apparirebbero da anziani, il potenziale di abuso è sempre presente. Fino ad ora, un elemento distintivo dei deepfake era rappresentato dal battito cardiaco, un segno vitale che la medicina utilizza da secoli per monitorare la salute degli individui e, in effetti, per verificare la loro vita. L’analisi della trasmissione della luce attraverso la pelle e i vasi sanguigni sottostanti ha dato vita a strumenti medici moderni, come il pulsossimetro, che misura i livelli di ossigeno nel sangue e il battito cardiaco.
Innovazioni nella rilevazione dei deepfake
In questo contesto, la fotopletismografia remota (rPPP) emerge come un metodo innovativo di telemedicina, capace di stimare i segni vitali a distanza utilizzando webcam. Si è ipotizzato che la rPPP, oltre a fornire vantaggi per la salute, potesse anche rivelarsi utile nell’identificazione dei deepfake. Ricerche precedenti avevano suggerito che i rilevatori di deepfake basati su rPPP fossero efficaci nel distinguere tra video autentici e falsificati, alimentando la convinzione che i deepfake non potessero ancora imitare i battiti cardiaci. Tuttavia, sembra che questa convinzione stia già perdendo di validità, rendendo necessaria una revisione delle tecniche di rilevamento attualmente in uso.
Il rilevatore di deepfake sviluppato da Eisert e il suo team
Nel corso della loro ricerca, Eisert e il suo team hanno sviluppato un rilevatore di deepfake all’avanguardia, capace di estrarre e analizzare automaticamente il battito cardiaco da video, richiedendo solo dieci secondi di ripresa del volto di una singola persona. Questo sistema innovativo utilizza tecniche avanzate per compensare il movimento e ridurre il rumore presente nel video. Inoltre, il team ha creato un dataset di video di riferimento, utilizzati per generare deepfake di diverse identità, registrando nel contempo il battito cardiaco dei soggetti tramite un elettrocardiogramma (ECG). Questo approccio ha fornito una misura utile per testare l’accuratezza della rPPP, rivelando che il sistema presentava solo una differenza di due o tre battiti al minuto rispetto ai dati reali. Successivamente, la rPPP è stata testata su due collezioni di video di persone autentiche, dimostrando la sua capacità di estrarre segnali di battito cardiaco da tutti i video genuini.
Le sfide dei deepfake noti
Ma cosa accade con i deepfake noti? Il team ha applicato recenti tecniche di deepfake per scambiare volti all’interno dei video autentici della loro collezione. Come anticipato, la rPPP ha rilevato battiti cardiaci anche in questi deepfake, nonostante i ricercatori non avessero intenzionalmente incluso tali segnali. Preoccupante è il fatto che questo battito falso apparisse spesso altamente realistico. Eisert ha commentato che i risultati mostrano che un battito cardiaco realistico può essere aggiunto intenzionalmente da un attaccante, ma può anche essere ‘ereditato’ involontariamente dal video genuino di riferimento. Piccole variazioni nel tono della pelle della persona reale vengono trasferite al deepfake insieme al movimento facciale, replicando così il battito originale nel video falso.
Possibili soluzioni per il futuro
La domanda che sorge spontanea è: abbiamo già perso la battaglia contro i deepfake? La risposta potrebbe non essere così negativa. Gli esperimenti condotti hanno dimostrato che, sebbene i deepfake attuali possano mostrare un battito cardiaco realistico, non presentano variazioni fisiologicamente realistiche nel flusso sanguigno all’interno del viso, né nel tempo né nello spazio. Eisert ha concluso che questa debolezza dei deepfake all’avanguardia dovrebbe essere sfruttata dalla prossima generazione di rilevatori di deepfake. I risultati di questo studio sono stati pubblicati sulla rivista Frontiers in Imaging, contribuendo a una comprensione più profonda delle sfide e delle opportunità nel campo della rilevazione dei deepfake. Per ulteriori dettagli, puoi consultare il statement rilasciato dagli autori.
