Gli scienziati del centro di ricerca e sviluppo IDEAS NCBR hanno sviluppato un prototipo di software per verificare se stiamo parlando con una persona reale tramite una fotocamera online e non con un deepfake. La soluzione mira a contrastare le frodi e a tutelare la tua immagine online.
Si sente parlare sempre di più di casi di frode che utilizzano la tecnologia Deepfejk, una tecnologia avanzata per l’elaborazione di materiali visivi o audio utilizzando l’intelligenza artificiale (AI). Tecnologia Deepfc Ti consente di creare registrazioni realistiche difficili da distinguere dai materiali multimediali falsi originali: registrazioni video o audio. Deepfejk può essere utilizzato nel settore dell’intrattenimento o dell’istruzione, ma viene spesso utilizzato anche per la disinformazione, la manipolazione e la frode.
In Polonia, nel marzo 2024, video falsi con la partecipazione del CEO di InPost Rafal Brzewska, del presidente Andrzej Duda o del calciatore Robert Lewandowski hanno promosso “programmi di investimento” fraudolenti volti a estorcere denaro – sono stati menzionati in una lettera inviata da IDEAS NCBR al PAP martedì . Gli autori del documento hanno inoltre riferito che nel gennaio di quest’anno un impiegato di banca di Hong Kong ha ritirato 25 milioni di dollari a truffatori che, utilizzando la tecnologia deepfake, si sono spacciati per il direttore finanziario dell’azienda durante una videoconferenza.
“I deepfake stanno diventando sempre più avanzati e più difficili da rilevare, ponendo nuove sfide alla sicurezza digitale“- pensano i ricercatori di IDEAS NCBR, centro di ricerca e sviluppo nel campo dell’intelligenza artificiale.
Un progetto pilota chiamato ProvenView
Gli scienziati di questa istituzione hanno creato un progetto pilota chiamato ProvenView. La soluzione è stata inventata da Shahriar Ebrahimi e dalla dottoranda Parisa Hassanzadeh. Si tratta di ricercatori iraniani che lavorano nel gruppo “System Security and Data Privacy” guidato dal Prof. Dottorato di ricerca Stefan Dzimbowski.
Lo studio utilizza Zero-Knowledge Proof (ZKP), una tecnologia di crittografia che consente di dimostrare l’autenticità di determinate informazioni senza rivelare dettagli su di esse.
“T”Dieci anni fa, la tecnologia ZKP era considerata un campo puramente teorico, più vicino alla matematica pura che alle applicazioni informatiche (…) La soluzione ProvenView è un altro ottimo esempio di come ZKP possa essere utilizzato per combattere le minacce del moderno mondo digitale“- ha detto nella dichiarazione il professor Dzembovsky.
Come confermano i creatori di questo programma, ProvenView può essere utilizzato per le interazioni online e la protezione dei contenuti. Ad esempio, al termine della riunione online, l’utente potrà verificare se il video dell’altra persona proviene effettivamente dalla sua webcam.
“Questa soluzione potrebbe essere utile sia per i singoli utenti, che possono utilizzarla per consentire incontri online, sia per i creatori di contenuti, che possono così rafforzare la protezione delle loro immagini pubblicate in un video di YouTube contro il furto e l’utilizzo, ad esempio in ambito pornografico.“- ha spiegato Shahriar Ebrahimi, citando il documento.
I ricercatori hanno fornito un esempio semplificato di come funziona ProvenView. Nel primo passaggio, viene creato il compositore video originale Prova della sua autenticità – Una registrazione digitale che confermi che il materiale multimediale è il suo autore. Il software che consente questa registrazione può essere integrato nell’applicazione di registrazione video o essere un programma separato. Quindi, quando qualcuno vuole verificare l’autenticità del video, può vedere questa prova digitale.
“Ed è qui che ci viene in aiuto la dimostrazione a conoscenza zero: grazie alla matematica avanzata, questa dimostrazione può essere verificata senza dover guardare il video stesso. Chiunque può creare tali prove di autenticità sui propri dispositivi“- ha spiegato Shahryar Al-Ibrahimi Ha aggiunto che in futuro questa soluzione potrebbe diventare un componente aggiuntivo per un browser web o un programma di editing video.
ProvenView è una soluzione sperimentale e non è ancora pronta per l’implementazione.
Al-Ibrahimi ha sottolineato che attualmente la prova dell’autenticità del video non può essere ottenuta prima che il video sia terminato, e non può essere ottenuta – per verificare la provenienza del materiale multimediale – prima di circa un’ora dopo la conversazione. Gli scienziati di IDEAS NCBR sperano che in futuro sarà possibile dimostrare l’autenticità del video in tempo reale.
Nel maggio 2024, ProvenView ha ricevuto un premio durante lo ZK Hack Kraków Hackathon.
IDEAS NCBR è stata fondata nel 2021 dal Centro Nazionale per la Ricerca e lo Sviluppo. La sua missione è supportare lo sviluppo di questa tecnologia in Polonia creando una piattaforma che colleghi le comunità accademiche e imprenditoriali. Il centro forma inoltre una nuova generazione di scienziati che si concentrano sull’applicazione pratica degli algoritmi sviluppati e sulla loro successiva commercializzazione.(porta)
/fonte: naukawpolsce.pl /
