Vídeo: La intel·ligència artificial reconeixerà els vídeos falsos perfectes
2024 Autora: Richard Flannagan | [email protected]. Última modificació: 2023-12-16 00:00
Fa un any, Manish Agrawala de Stanford va ajudar a desenvolupar una tecnologia de sincronització dels llavis que va permetre als editors de vídeo alterar les paraules dels altaveus de manera gairebé imperceptible. L'eina podria inserir fàcilment paraules que una persona mai no va parlar, fins i tot enmig d'una frase, o esborrar les paraules que va dir. Tot semblarà realista a simple vista i fins i tot per a molts sistemes informàtics.
Aquesta eina ha facilitat la correcció d’errors sense tornar a rodar escenes senceres i també ha adaptat programes de televisió o pel·lícules per a diferents públics de diferents llocs. Però aquesta tecnologia també ha creat noves oportunitats inquietants per a vídeos falsos difícils de trobar, amb la clara intenció de distorsionar la veritat. Per exemple, un vídeo republicà recent utilitzava una tècnica més dura per a una entrevista amb Joe Biden.
Aquest estiu, Agrawala i els seus col·legues de Stanford i UC Berkeley han presentat un enfocament basat en la intel·ligència artificial de la tecnologia de sincronització dels llavis. El nou programa detecta amb més precisió més del 80 per cent de falsificacions, reconeixent les discrepàncies més petites entre els sons de les persones i la forma de la seva boca.
Però Agrawala, director de l’Institut d’Innovació en Mitjans de Comunicació de Stanford i professor d’informàtica a Forest Baskett, que també està afiliat a l’Institut d’Intel·ligència Artificial Centrada en l’Home de Stanford, adverteix que no hi ha una solució tècnica a llarg termini per a falsificacions profundes.
Com funcionen les falsificacions
Hi ha motius legítims per manipular el vídeo. Per exemple, qualsevol persona que filme un programa de televisió, una pel·lícula o un anunci de ficció pot estalviar temps i diners mitjançant eines digitals per corregir errors o personalitzar els guions.
El problema sorgeix quan aquestes eines s’utilitzen deliberadament per difondre informació falsa. I moltes de les tècniques són invisibles per a l’espectador mitjà.
Molts vídeos falsos i profunds es basen en intercanvis de rostres, superposant literalment la cara d'una persona al vídeo d'una altra persona. Però, tot i que les eines per canviar la cara poden ser convincents, són relativament grolleres i solen deixar artefactes digitals o visuals que un ordinador pot detectar.
D’altra banda, les tecnologies de sincronització dels llavis són menys visibles i, per tant, són més difícils de detectar. Manipulen una porció molt més petita de la imatge i després sintetitzen moviments de llavis que coincideixen exactament amb com es mouria la boca d’una persona si digués certes paraules. Segons Agrawal, tenint prou mostres de la imatge i la veu d'una persona, un fals productor pot fer que una persona "digui" qualsevol cosa.
Detecció de falsificacions
Preocupat per l’ús poc ètic d’aquesta tecnologia, Agrawala va treballar amb Ohad Freed, estudiant de doctorat a Stanford, per desenvolupar una eina de detecció; Hani Farid, professor de la University of California, Berkeley School of Information; i Shruti Agarwal, estudiant de doctorat a Berkeley.
Al principi, els investigadors van experimentar amb una tècnica purament manual en què els observadors van estudiar imatges de vídeo. Va funcionar bé, però a la pràctica feia molta feina i requeria temps.
Els investigadors van provar una xarxa neuronal basada en la intel·ligència artificial que seria molt més ràpida de fer el mateix anàlisi després d’entrenar-se en vídeo amb l’expresident Barack Obama. La xarxa neuronal va detectar més del 90% de la sincronització labial pròpia d'Obama, tot i que la precisió d'altres parlants va caure fins al 81%.
Una prova real de la veritat
Els investigadors diuen que el seu enfocament és només una part del joc del gat i el ratolí. A mesura que milloren les tècniques de falsificació profunda, deixaran encara menys claus.
En definitiva, diu Agrawala, el veritable problema no és tant lluitar contra vídeos profundament falsos com combatre la desinformació. De fet, assenyala, gran part de la desinformació sorgeix de distorsionar el significat del que realment deien les persones.
"Per reduir la desinformació, hem de millorar l'alfabetització mediàtica i desenvolupar sistemes de rendició de comptes", diu. "Això pot significar lleis que prohibeixen la producció deliberada de desinformació i les conseqüències de violar-les, així com mecanismes per eliminar el dany resultant".
Recomanat:
Com serien Marilyn Monroe, Elvis i altres a la vellesa: la intel·ligència artificial ha envellit els ídols que van marxar aviat
Marilyn Monroe tenia molta por de la vellesa, però fins i tot la mort als 36 anys no la va salvar d'aquesta perspectiva. Un periodista va decidir, per interès, veure com haurien quedat les estrelles mundials que van deixar aquest món a una edat primerenca si haguessin sobreviscut fins als nostres dies. Mitjançant un programa informàtic senzill, va envellir no només a Marilyn, sinó també a altres actors i músics icònics i va publicar el resultat del seu experiment a Instagram
La intel·ligència artificial va "revifar" els herois de famosos quadres, dibuixos animats i presidents de bitllets de banc
Un artista gràfic va decidir utilitzar la tecnologia moderna per veure com els personatges de grans teles, així com altres herois dibuixats, podrien semblar si de sobte cobressin vida i deixessin imatges, pantalles de televisió, bitllets de banc … El nom d’aquest experimentador és Nathan Shipley i viu a San Francisco. Els resultats del treball de l’artista, o millor dit, la intel·ligència artificial controlada per ell, són impressionants. Mona Lisa, personatges de dibuixos animats populars, polítics
Pintura d’intel·ligència artificial venuda en subhasta per primera vegada
A la darrera subhasta de la casa de subhastes, Christie ʼ a la llista de lots va decidir incloure un quadre amb el títol "Retrat d'Edmond de Belamy". La seva peculiaritat rau en el fet que no va ser creat per un gran artista, sinó que és una creació d’intel·ligència artificial
Exposició sobre el paper de la intel·ligència artificial en l'art que se celebrarà a l'ermita
El 6 de juny, l’Estat Major de l’Hermitage acollirà la inauguració de l’exposició, que va rebre el nom d’Intel·ligència Artificial i el Diàleg de les Cultures. El Fons d'Inversió Directa de Rússia participa en l'organització d'aquest esdeveniment. Cal destacar que el dia d’inauguració d’aquesta exposició coincideix amb el primer dia del Fòrum Econòmic Internacional de Sant Petersburg
Més intel·ligent: 13 famoses amb intel·ligència intel·lectual Genius (segona part)
Avui en dia, per esdevenir famós i tenir un veritable èxit, de vegades no és suficient la destresa, l'enginy i la tendència. Al cap i a la fi, ser una estrella de Hollywood a escala internacional és el títol que s’hauria de justificar sempre i en tot. Per tant, avui us parlarem de diverses de les estrelles més famoses que poden presumir d’un alt quocient intel·lectual