Utilizzo degli occhiali intelligenti di Meta con intelligenza artificiale e LLM per doxare gli sconosciuti

Gli ultimi occhiali per realtà aumentata (AR) di Meta, denominati Orion, hanno attirato molta attenzione la scorsa settimana, ma un progetto avviato da due studenti di Harvard sta riaccendendo le discussioni sugli occhiali intelligenti Ray-Ban di Meta.

Gli occhiali Ray-Ban Meta Smart Glasses sono dotati di una fotocamera ad alta definizione (HD) e di uno speaker integrato, consentendo agli utenti di godere di un’esperienza digitale a mani libere. Con questi occhiali, gli utenti possono effettuare chiamate, ascoltare musica e catturare o trasmettere in streaming foto e video senza soluzione di continuità.

Una dimostrazione creata dagli studenti AnhPhu Nguyen e Caine Ardayfio rivela come il filmato degli occhiali, combinato con la tecnologia di riconoscimento facciale, possa potenzialmente esporre informazioni private di estranei in spazi pubblici. Nonostante la tecnologia di base sia disponibile da anni, questa dimostrazione evoca un senso di disagio, in particolare perché molte persone non erano a conoscenza di quanto tale tecnologia fosse facilmente accessibile per il civile medio. Ciò ha portato numerosi utenti a marchiare la tecnologia come distopica, riflettendo il modo in cui molti l’avevano immaginata. Eppure, attualmente è una realtà.

Nguyen ha pubblicato un video su X (ex Twitter) che mostra la tecnologia, denominata I-XRAY, in azione.

Siamo pronti per un mondo in cui i nostri dati saranno esposti a colpo d’occhio? @CaineArdayfio e io offriamo una risposta per proteggerti qui: https://t.co/LhxModhDpk
pic.twitter.com/Oo35TxBNtD

– AnhPhu Nguyen (@AnhPhuNguyen1) 30 settembre 2024

Questa tecnologia utilizza la fotocamera degli occhiali per trasmettere in streaming video in diretta sul loro account Instagram. Hanno programmato un’applicazione per computer per monitorare lo streaming e usare l’intelligenza artificiale per identificare i volti.

Una volta riconosciuto un volto, questo viene elaborato tramite servizi di riconoscimento facciale come PimEyes, che di conseguenza abbina l’immagine alle foto accessibili al pubblico dell’individuo online. Queste immagini vengono quindi analizzate utilizzando modelli linguistici di grandi dimensioni (LLM) per estrarre informazioni come il nome della persona, l’occupazione e altro. Questi dati possono quindi essere confrontati con database disponibili al pubblico per scoprire numeri di telefono e persino numeri di previdenza sociale parziali.

Come accennato in precedenza, quasi tutta la tecnologia impiegata in I-XRAY è disponibile da anni, comprese le telecamere, gli strumenti di riconoscimento facciale come PimEyes e i database come FastPeopleSearch e Cloaked.com.

Ciò che accresce la natura inquietante di questa dimostrazione è il modo discreto e istantaneo in cui funziona. I Ray-Ban Meta Glasses 2 mostrati nel video assomigliano a degli occhiali standard e, sebbene siano dotati di un indicatore di privacy per quando la registrazione video è attiva, può essere difficile notarlo in ambienti esterni molto illuminati. Di conseguenza, una persona che indossa questi occhiali potrebbe registrarti senza che tu lo sappia.

Inoltre, la natura autonoma della raccolta di informazioni esacerba il disagio. Gli LLM coinvolti possono scoprire dettagli come nomi e informazioni personali da varie fonti online automaticamente, senza alcun coinvolgimento umano. Il video illustra questi studenti che doxano un individuo per strada, utilizzando casualmente le informazioni raccolte per fingere familiarità, come se si fossero incontrati a una funzione della comunità.

L’intento principale di questo progetto è quello di evidenziare quanto facilmente degli estranei possano accedere alle informazioni personali nel panorama digitale odierno. Il duo di studenti ha scelto di non rilasciare alcun codice pubblicamente, ma ha condiviso metodi per consentire agli individui di proteggere la propria privacy. Molti di questi database offrono servizi gratuiti per aiutare a rimuovere le informazioni personali. Tuttavia, resta un compito arduo eliminare completamente la tua presenza online. Con queste misure, puoi provare a rendere le tue informazioni leggermente meno accessibili.

Fonte