Le persone hanno usato l'intelligenza artificiale per realizzare dozzine di falsi tributi di celebrità a Charlie Kirk. Milioni di persone ci hanno creduto

Tre giorni dopo l'omicidio pubblico di Charlie Kirk, su YouTube è apparso un video che annunciava il debutto dell'ultimo singolo della cantautrice Adele, un grande tributo all'eredità dell'attivista conservatore.

Riposa in pace Charlie Kirk! una voce che somigliava un po' a quella di Adele cantava durante a  video  mostrando Kirk con la sua giovane figlia. Gli angeli cantano il tuo nome. La tua storia è scritta nelle stelle, un fuoco che non si spegnerà.

Secondo i post di YouTube i tributi alle celebrità erano abbondanti. Venivano da Ed Sheeran Eminem Taylor Swift Celine Dion Lady Gaga Rihanna Post Malone Dax Lil Wayne Jelly Roll Selena Gomez Justin Bieber e Imagine Dragons.

Ma nessuno di loro era reale. Sono stati tutti generati utilizzando l’intelligenza artificiale. E spesso presentavano miniature false che mostravano gli artisti in lacrime o con espressioni tristi.

PolitiFact ha analizzato 24 video di YouTube che affermavano di mostrare canzoni tributo dedicate a Kirk. Insieme, questi video hanno ottenuto più di 4,6 milioni di visualizzazioni e alcuni sono stati condivisi su altre piattaforme.

Due canzoni tributo a Charlie Kirk sono state attribuite a Ed Sheeran. Ma sono stati realizzati con l’intelligenza artificiale. (Schermata/YouTube)

Uno è stato caricato il giorno dell'assassinio di Kirk e illustra la velocità con cui i creatori possono generare brani relativi a un evento importante.

Quasi tutti i video contenevano disclaimer che affermavano che contenevano contenuti alterati o sintetici, ma molti spettatori hanno lasciato commenti che dimostravano che credevano che queste canzoni fossero vere.

Grazie Justin ha scritto a un commentatore che pensava di rispondere a Bieber.

Non mi aspettavo questo da Bieber, ne ha scritto un altro.

Commenti su un video di YouTube intitolato Justin Bieber – Ti mancherà Charlie Kirk (A Tribute To Charlie Kirk). La canzone è stata realizzata con l'intelligenza artificiale. (Schermata/YouTube)

I tributi musicali suonano come se avrebbero potuto portare un'intera band una settimana in uno studio, ha affermato Bryan Pardo, professore di informatica della Northwestern University e capo dell'Interactive Audio Lab. Questo è parte del motivo per cui le persone ci credono.

La maggior parte delle persone non si rende conto di quanto siano arrivati ​​​​i contenuti generati dall’intelligenza artificiale, ha affermato.

Gli esperti affermano che gli strumenti di intelligenza artificiale possono imitare discretamente le voci degli artisti, soprattutto quando un ascoltatore non ha trascorso molto tempo ad ascoltarli. Ma ci sono modi per identificare le anomalie sonore tipiche dell’uso dell’intelligenza artificiale.

Gli strumenti possono generare rapidamente brani in base a semplici istruzioni, anche simili allo stile di un artista

I generatori di musica AI come Suno e Udio vengono addestrati utilizzando un vasto set di brani esistenti. Con una breve richiesta all'utente creano nuova musica in modo rapido ed economico.

PolitiFact lo ha testato.

Scrivi una canzone sul lutto per la morte improvvisa di una figura ispiratrice della politica nello stile di Taylor Swift che abbiamo scritto nei messaggi per gli account gratuiti di Suno e Udio. Gli strumenti hanno rifiutato le richieste perché non hanno il permesso di generare le sembianze di un artista.

Abbiamo riprovato utilizzando un linguaggio più generico: creare una canzone sul dolore per la morte improvvisa di una figura ispiratrice della politica nello stile di una cantante pop di 35 anni con una fascia demografica giovane, prevalentemente femminile.

Entrambi gli strumenti hanno prodotto brani in pochi istanti: due brani diversi per prompt.

(Schermata/audio)

Questo non rende felici i musicisti. Importanti società musicali tra cui Sony Music Entertainment Universal Music Group e Warner Records attraverso la Recording Industry Association of America  citato in giudizio  entrambe le piattaforme di intelligenza artificiale nel giugno 2024 accusandole di utilizzare musica protetta da copyright per addestrare i loro strumenti di intelligenza artificiale.

Suno ha affermato in una dichiarazione in tribunale che il modello è stato addestrato utilizzando decine di milioni di registrazioni, ma ha sostenuto che il processo costituisce un fair use.

Artisti tra cui gli Imagine Dragons Katy Perry Nicki Minaj e Stevie Wonder  ha sostenuto in una lettera del 2024 che  addestrare robot IA sul lavoro degli artisti ridurrà il valore del nostro lavoro e ci impedirà di essere equamente ricompensati per questo.

Dobbiamo proteggerci dall’uso predatorio dell’intelligenza artificiale per rubare le voci e le sembianze di artisti professionisti, violare i diritti dei creatori e distruggere l’ecosistema musicale, si legge nella lettera.

Questi strumenti utilizzano una tecnologia simile a quella utilizzata da ChatGPT, ha affermato Tom Collins, professore associato di tecnologia di ingegneria musicale dell'Università di Miami. Tali modelli vengono addestrati su enormi set di dati con l’obiettivo di produrre un linguaggio simile a quello umano.

I testi e la strumentazione della voce possono rivelare indizi generativi dell'intelligenza artificiale

Alcuni  AI   artisti  hanno guadagnato un seguito e almeno un artista AI lo ha fatto  si assicurò un contratto discografico .

Attraverso commenti video come quelli sulle canzoni tributo, i fan a volte mostrano di non rendersi conto che stanno ascoltando musica creata dall'intelligenza artificiale.

Questi modelli sono sicuramente nella fase in cui se non conosci le capacità liriche di un artista o la qualità della sua voce cantata in base a molte ore di ascolto in precedenza o recentemente nella tua vita, penso che puoi essere ingannato relativamente facilmente, ha detto Collins.

Quindi quali sono alcuni segnali che le persone possono ascoltare?

Il professore di informatica e ingegneria dell'Università Siwei Lyu di Buffalo ha affermato che riprodurre la musica in loop per alcuni round può rivelare alcune anomalie. La voce, ad esempio, può sembrare eccessivamente fluida o robotica, contenere schemi respiratori insoliti, consonanti imbrattate o vibrato irrealisticamente regolare, ha detto. Lyu ha analizzato le canzoni senza limitazioni di responsabilità dell'intelligenza artificiale e ha trovato elementi sintetici nell'audio, inclusi improvvisi cambiamenti nella qualità e nella chiarezza della voce.

Ad esempio un tributo a Kirk  canzone  erroneamente attribuito a Dax e Lil Wayne inizia con una qualità vocale bassa prima di passare a un suono più forte e chiaro, ha detto Lyu. Ha anche rilevato cambiamenti nella chiarezza della voce ai timestamp 0:46 e 0:56.

Sia Lyu che Collins hanno affermato che il mixaggio di voce e strumentazione potrebbe non essere così nitido come nella versione in studio di una traccia reale.

Collins ha paragonato la creazione di musica basata sull'intelligenza artificiale con la generazione di immagini: se hai generato l'immagine di una persona, forse quella persona ha sei dita o ha due dita che si fondono insieme. Quel tipo di fusione o quella torbidità, il cui equivalente audio è come singole note che in realtà non sembrano essere una nota di chitarra o una nota di pianoforte, ma qualcosa nel mezzo.

I testi generati dall'intelligenza artificiale sono spesso generici e potrebbero presentare bruschi cambiamenti di qualità, ha affermato Lyu. Gli schemi delle rime potrebbero essere troppo regolari, il linguaggio potrebbe essere un cliché e anche la musica potrebbe non avere la sfumatura emotiva tipica delle performance reali.

Collins ha affermato che i testi generati dall’intelligenza artificiale sono tipicamente stereotipati e semplicistici poiché mirano a soddisfare le indicazioni del prompt. Un suggerimento sul lutto potrebbe produrre testi che contengono le parole candele e paradiso.

L'analisi GPTZero ha rilevato una probabilità del 98% che i testi di un duetto tributo presumibilmente realizzato da Adele e Ed Sheeran fossero generati dall'intelligenza artificiale. (Schermata/GPTZero)

Collins ha affermato che si aspetta che questi strumenti diventino più sofisticati producendo musica meno facilmente identificabile come intelligenza artificiale. Se andiamo avanti di un altro paio d'anni, potrei immaginare che l'approssimazione del mimetismo sarebbe di gran lunga migliore e sarebbe più difficile anche per me dirlo a Collins.

La politica di YouTube a partire da  2023  richiede ai creatori di rivelare quando hanno creato contenuti alterati o sintetici realistici, incluso l'utilizzo di strumenti di intelligenza artificiale. Se i creatori non divulgano tali informazioni, i loro contenuti potrebbero essere sospesi dal Programma partner di YouTube o incorrere in altre sanzioni.

In molte delle canzoni tributo tale divulgazione non è ben visibile; è sepolto sotto la descrizione del video che non verrà visualizzato sul desktop a meno che lo spettatore non faccia più clic.

C'è una responsabilità sulle piattaforme di streaming che non stanno realmente rispettando riguardo alla verifica, ha detto Collins.

Questo controllo dei fatti era originariamente pubblicato da PolitiFact che fa parte del Poynter Institute. Vedi le fonti per questo fact check Qui .

carina ricco vita privata