Il termine “truffa” si applica a qualsiasi cosa, da un sofisticato attacco mirato a un losco annuncio pre-roll sul tuo sito di streaming video preferito. La cattiva notizia è che progettare queste truffe sta diventando sempre più semplice.
La democratizzazione delle immagini false
Esiste una linea sottile ma distinta tra truffa e spam, ma i due regni si sovrappongono regolarmente. Ciò è particolarmente vero quando si tratta di pubblicità online, sia che tu stia navigando sul Web o scorrendo i social media. Gli inserzionisti non approvano ogni pubblicità che mostrano, ma si affidano invece ai rapporti degli utenti per eliminare i cattivi attori.
Se trascorri molto tempo online, probabilmente ogni giorno scorri innumerevoli pubblicità losche. Forse i più interessanti di questi sono i prodotti che non esistono e sono invece fabbricazioni realizzate a mano o utilizzando l’intelligenza artificiale generativa come DALL-E o Midjourney.
Attirare potenziali acquirenti con prodotti contraffatti non è una novità, ma una volta avresti avuto bisogno di visione, alcune abilità con Photoshop e un po’ di tempo libero. Con l’arrivo dei generatori di testo in immagini, puoi dedicare tutto il tempo che desideri inserendo suggerimenti in un generatore di immagini finché non ottieni i risultati che stai cercando. Il cielo è il limite quando si tratta del tipo di prodotti che puoi realizzare.
Nell’aprile 2024 Snopes ha riportato che un gran numero di truffe “Cat’s Eye Dazzle” stavano colpendo i social media come una tempesta. La truffa prevedeva la creazione di fiori finti che assomigliassero a gatti, per attirare utenti sui social network come Facebook. Sono comparse inserzioni su eBay per i semi, mentre altri “venditori” hanno utilizzato portali di shopping self-hosted per incassare.
Per alcuni, il fatto che questi fiori siano falsi e generati dall’intelligenza artificiale è immediatamente evidente. Altre truffe simili non sono così inverosimili. Il canale YouTube Atomic Shrimp ha creato un video documentando il fenomeno, esplorando elenchi più ragionevoli di rose e girasoli blu “veri”, nessuno dei quali esiste.
Fiori che sembrano gatti e piante dai colori impossibili sono solo due esempi di truffe che sembrano aver catturato centinaia se non migliaia di persone. Ci sono voluti alcuni secondi per generare queste immagini e alcuni altri per pubblicarle su Facebook.
Le voci AI conferiscono credibilità ai video
Probabilmente sei ben consapevole dell’aumento delle funzionalità di conversione da testo a voce, con piattaforme social come TikTok che semplificano la generazione di una voce fuori campo che suoni naturale ma che sia anche facile da capire. Ormai, la voce della “signora TikTok” riguarda tanto il marchio di TikTok quanto uno strumento utile per i creatori di contenuti.
Ma le voci dell’intelligenza artificiale sono molto più di questo. ChatGPT può generare voci fuori campo se paghi per il livello premium e servizi simili come ElevenLabs per avere piani gratuiti disponibili. Ho visto canali YouTube più piccoli gestiti da creatori che non si sentono a proprio agio nel parlare davanti alla telecamera ricorrere a voci generate dall’intelligenza artificiale. Questo può essere quasi ridicolo, ma almeno è fondato su buone intenzioni.
Il vantaggio principale è che una voce fuori campo conferisce credibilità al tuo video. Qualche anno fa avresti dovuto dedicare tempo, impegno o finanziamenti per aggiungere una voce fuori campo al tuo video. Avresti bisogno di attrezzature e pratica o di un doppiatore assunto. Ora è semplice come scrivere una sceneggiatura di cui sei soddisfatto e scegliere la voce che desideri utilizzare.
Ciò rende ancora più credibili le pubblicità ingannevoli di programmi per arricchirsi rapidamente e prodotti in dropshipping. Se l’annuncio sembra un vero affare, probabilmente sei propenso a riporre più fiducia nel prodotto. Le persone che pubblicano questi annunci lo sanno, ecco perché c’è stata un’esplosione di questa pratica nell’ultimo anno.
Per ora, non è troppo difficile identificare la voce fuori campo generata dall’intelligenza artificiale. Le inflessioni e la pronuncia possono sembrare un po’ robotiche e il ritmo naturale del linguaggio umano non è proprio quello. Allacciate le cinture, perché questi strumenti miglioreranno e alla fine non sarete in grado di notare la differenza.
I truffatori di app di incontri lanciano reti più ampie
Una cosa è essere adescati con prodotti contraffatti e una voce fuori campo robotica, ma che dire di una truffa che prende di mira personalmente te? Questo è esattamente ciò che sta accadendo su larga scala nello spazio degli appuntamenti online, grazie alla potenza di modelli linguistici di grandi dimensioni che possono conversare come persone reali (beh, abbastanza vicine all’esserlo).
Utilizzando chatbot basati sull’intelligenza artificiale, i truffatori possono creare un’ampia rete per intrappolare le loro vittime utilizzando software in grado di trattenere efficacemente una conversazione abbastanza a lungo da attirare l’attenzione di qualcuno. Ci sono alcuni modi in cui questo viene utilizzato e tutti sembrano invasivi.
Alcuni utilizzano i chatbot per inviare messaggi a vaste fasce di persone e poi ricontattare nella speranza di incontrare qualcuno che gli piace veramente. All’inizio del 2024 ce n’erano innumerevoli rapporti di un uomo che ha incontrato sua moglie utilizzando questa tecnica. Che tu ci creda o no, esiste un numero enorme di app e servizi mobili che promettono di chattare con potenziali partner per te (a pagamento, ovviamente).
Le cose prendono una piega decisamente più sinistra quando questi strumenti vengono utilizzati per trovare obiettivi per truffe finanziarie. I truffatori online sfruttano da tempo il desiderio umano fondamentale di compagnia nel tentativo di estrarre denaro dai loro marchi. Ora possono mettere i chatbot al lavoro per loro, subentrando quando lo ritengono necessario.
Abbinalo a un generatore di immagini AI che ti dà accesso a tutti i bei volti originali che desideri e i truffatori non avranno più nemmeno bisogno di rubare le immagini del profilo degli appuntamenti di qualcun altro.
Il video AI è ormai realtà
La conversione da testo a video convincente non è propriamente ottimizzata al momento, ma con strumenti come OpenAI SORA all’orizzonte è destinato a diventare una forza da non sottovalutare. Con solo un prompt, lo strumento di OpenAI può generare immagini in movimento dall’aspetto realistico (anche se se tu guarda attentamente puoi individuare i difetti).
Se non altro, i video generati dall’intelligenza artificiale non faranno altro che esacerbare i problemi posti da altri contenuti generati dall’intelligenza artificiale. Attraverso l’uso di un’intelligenza artificiale in costante miglioramento, non è difficile immaginare un futuro in cui è possibile generare immagini di prodotti falsi, video del prodotto utilizzato in luoghi rilevanti da persone “reali” e una voce fuori campo per il video che è possibile utilizzare per pubblicizzarlo.
Se ti senti particolarmente intraprendente, puoi utilizzare un modello linguistico ampio per aumentare la reputazione del tuo prodotto…
L’intelligenza artificiale può anche falsificare le recensioni
Le recensioni false non sono una novità. Li abbiamo visti tutti e molti di noi ci sono caduti (che lo sappiamo o no). Ma fino a pochi anni fa, le recensioni false richiedevano un certo impegno. Con l’avvento di modelli linguistici di grandi dimensioni, le recensioni false possono letteralmente scriversi su vasta scala.
L’uso improprio di grandi modelli linguistici per generare recensioni e promuovere prodotti o attività commerciali è una cosa, ma la tecnologia funziona in entrambi i sensi. Che ne dici di utilizzare questa tecnologia per creare recensioni che critichino ingiustamente un prodotto rivale? Non è mai stato così facile generare un massetto negativo, anche se devi copiarlo e incollarlo tu stesso.
Abbina le recensioni generate dall’intelligenza artificiale con truffe più tradizionali sulla spazzolatura e per di più hai la credibilità di un’etichetta di “acquisto verificato”. Alla fine spetta ai titolari delle piattaforme combattere questo fenomeno nuova ondata di contenuti online ingannevoli.
Le cose possono solo andare…
Questi strumenti miglioreranno nel tempo, rendendo più difficile distinguere il reale dal fantastico. Dovrai essere saggio con la tecnologia se vuoi stare al passo con i truffatori. Se capisci cosa è possibile, sei meglio armato per capire cosa è reale e cosa non lo è.
Facebook è particolarmente pieno di immagini generate dall’intelligenza artificiale, quindi individuare i falsi generati dall’intelligenza artificiale è un’abilità preziosa. Dovresti sempre diffidare delle pubblicità online, sia che le trovi sui tuoi siti Web preferiti o su un social network.
Consiglio: Fai sempre le tue ricerche prima di acquistare qualcosa, che si tratti di un pezzo di tecnologia o di un pacchetto di semi che hai visto su Facebook.
