Nga Ben Summer BBC
Një ekspert ka paralajmëruar se “fermat e përmbajtjes” jashtë vendit po përdorin Inteligjencën Artificiale (IA) për të krijuar postime në mediat sociale rreth politikës së Mbretërisë së Bashkuar.
Kompania e teknologjisë Meta hoqi nga Facebook disa faqe me seli në Vietnam, pasi një hetim i BBC-së në Uells zbuloi se ato po përhapnin lajme të rreme.
Paralajmërimi, nga Profesor Martin Innes i Universitetit të Cardiffit, vjen ndërsa Komisioni Zgjedhor po zhvillon një softuer për të dalluar dhe luftuar mashtrimet e thella përpara zgjedhjeve të parlamenteve të Uellsit dhe Skocisë në maj.
BBC ka zbuluar gjithashtu shembuj të videove të gjeneruara nga inteligjenca artificiale, të shpërndara nga faqe në Uells, të cilat tregojnë në mënyrë të rreme politikanë uellsianë në situata kompromentuese, duke përfshirë mbështetjen e një rivali dhe puthjen e një kolegu.
Disa politikanë uellsianë i treguan BBC-së për përvojat e tyre si viktima të “deepfakes”.
“Nuk mendoj se do të gjeni një politikan të cilit nuk i është bërë kjo… ta them me zë të lartë më trishton shumë”, tha deputeti laburist Alex Davies-Jones.
Çfarë është një deepfake?
Deepfakes janë video, fotografi ose klipe audio të ndryshuara ose të manipuluara dixhitalisht për ta bërë diçka të rreme të duket e vërtetë.
Disa janë qesharake, por të tjerat mund të dëmtojnë reputacionin.
Dhe mjetet e inteligjencës artificiale që shndërrojnë tekstin në imazh e kanë bërë gjenerimin e tyre më të lehtë se kurrë më parë.
BBC Wales gjeti një numër faqesh në Facebook që publikonin lajme të rreme rreth politikanëve të Mbretërisë së Bashkuar, shpesh të shoqëruara me imazhe të gjeneruara nga inteligjenca artificiale.
Secila prej këtyre faqeve kishte mijëra ndjekës dhe shumë prej tyre postonin të njëjtën përmbajtje, ose shumë të ngjashme.
Ato shpesh kishin emra që nënkuptonin se ishin media lajmesh me seli në Mbretërinë e Bashkuar – por, duke përdorur një funksion transparence në Facebook, ishte e mundur të shihej se pothuajse të gjitha këto faqe drejtoheshin nga Vietnami.
Edhe pse ato paraqisnin disa lajme të vërteta, një sasi e madhe e përmbajtjes së tyre mund të provohej lehtësisht e rreme.
Meta hoqi disa nga këto faqe pasi u kontaktua nga BBC, por, gjatë gjithë hetimit, faqe të reja po krijoheshin pothuajse çdo ditë.
Faqet shpesh përshkruanin politikanë të shumtë, përfshirë Nigel Farage, Boris Johnson, Rishi Sunak dhe Zia Yusuf, në të njëjtën situatë të rreme – për shembull, duke u larguar me nxitim nga një intervistë në BBC pas debateve dramatike me Laura Kuenssberg.
Nuk ka asnjë sugjerim që këto faqe drejtohen nga ose në emër të ndonjë partie politike.
Profesor Martin Innes, drejtor i Institutit të Kërkimeve për Krimin dhe Sigurinë në Universitetin e Cardiffit, tha se faqet ishin “ferma përmbajtjeje” të dizajnuara për t’u bërë virale.
Nga ana tjetër, ato mund t’u fitojnë para pronarëve të tyre nga programi i monetizimit të Facebook-ut, por nuk është e mundur të dihet me siguri nëse secila faqe është e monetizuar.
Facebook shënoi disa lajme me një paralajmërim, duke thënë se ato ishin vërtetuar të rreme nga verifikues faktesh të palëve të treta – për shembull pasi Full Fact demaskoi një lajm rreth liderit të Reform UK, Nigel Farage, që ishte në spital.,.
Por në çdo rast ishte e mundur të gjendeshin histori shumë të ngjashme që nuk e kishin të bashkangjitur këtë paralajmërim.
Shumë nga historitë e postuara nga këto faqe dukeshin se ishin hartuar për të tërhequr vëmendjen e mbështetësve të Farage, por jo të gjitha ishin pozitive për të.
Në disa prej tyre ai u portretizua në mënyrë të rreme duke adoptuar qen, duke dhuruar pasurinë e tij personale për kauza të mira ose duke mirëpritur një foshnjë të re.
Por një tjetër e tregonte atë duke u arrestuar, së bashku me foto të gjeneruara nga inteligjenca artificiale të tij me pranga.
Në faqet shfaqen edhe politikanë të tjerë, përfshirë Sir Keir Starmer, i cili ka thënë në mënyrë të rreme se ishte sëmurë në skenë, ishte paditur për “manipulim zgjedhor” dhe ishte shkarkuar nga detyra e kryeministrit.
Nuk ishin gjithmonë politikanë – një gamë e gjerë personazhesh të famshëm mund të shiheshin të përfshirë në disa nga të njëjtat situata të sajuara gjithashtu.
Innes tha se faqe të tilla “të shtyra nga një domosdoshmëri fitimi” dhe “do të bënin gjithçka që mendojnë se mund të tërheqin vëmendjen nga përmbajtja e tyre, nëse kjo do t’u sillte para”.
Disa nga këto postime duket se morën shumë pëlqime, komente dhe shpërndarje, ndërsa të tjerat pothuajse asnjë pavarësisht numrit të lartë të ndjekësve të faqeve.
Innes tha se nuk mund të ishim të sigurt nëse të gjithë mijëra ndjekësit e faqeve ishin njerëz të vërtetë, duke shtuar se pronarët e faqeve shpesh përdornin robotë për të “falsifikuar algoritmin” dhe për të futur përmbajtje në feed-et e njerëzve.
Seksioni i komenteve sugjeronte se jo të gjithë ata që e panë këtë përmbajtje e besuan.
Shumë veta shprehën dyshime ose bezdi për historitë e rreme – por të tjerë dukeshin se u mashtruan prej tyre.
Kur BBC iu drejtua Metës me shembujt e gjetur, kompania hoqi disa nga faqet nga Facebooku.
Shtoi se kishte një politikë kundër përdorimit të llogarive ose faqeve “joautentike” në platformat e saj.
Si mund të ndikojnë deepfakes në zgjedhjet e Uellsit?
Zgjedhjet e decentralizuara do të zhvillohen në Uells dhe Skoci më 7 maj, të njëjtën ditë me zgjedhjet lokale në disa pjesë të Anglisë.
Ka pasur paralajmërime më parë për të ashtuquajturat “zgjedhje të rreme” në Mbretërinë e Bashkuar – dhe opinione të përziera nëse kjo është materializuar ndonjëherë.
Instituti Alan Turing,, një qendër kombëtare për shkencën e të dhënave dhe inteligjencën artificiale, nuk gjeti “asnjë provë” që falsifikimet ose dezinformatat e mundësuara nga inteligjenca artificiale kishin një ndikim domethënës në rezultatin e zgjedhjeve të përgjithshme në vitin 2024.
Por pothuajse dy vjet më vonë, “barrierat e hyrjes” për krijimin e këtij lloj përmbajtjeje janë ulur, tha Innes.
“Ndërsa më parë ky lloj manipulimi i imazhit [ose] videos do të kërkonte mjaft fuqi llogaritëse dhe njohuri teknike, nuk keni më nevojë për këtë.”
Kjo, tha ai, mund të krijojë një “efekt rrjedhjeje poshtë” ku videot fillojnë të ndikojnë në politikën e decentralizuar.
Rreziku është mjaftueshëm i lartë saqë Komisioni Zgjedhor mund të përfshihet.
Organi i pavarur, i cili mbikëqyr dhe rregullon zgjedhjet në Mbretërinë e Bashkuar, po punon me Ministrinë e Brendshme për një softuer për të identifikuar, ndjekur dhe raportuar mashtrimet e thella.
Drejtori ekzekutiv i saj, Vijay Rangarajan, tha se kjo do të “ndihmonte votuesit të identifikonin dezinformatat gjatë fushatave zgjedhore dhe të zvogëlonte aktivitetin që ndikon negativisht në besimin e votuesve në sjelljen e aktivistëve në fushatë”.
Pas këtij njoftimi, BBC identifikoi një numër videosh të rreme të politikanëve uellsianë, të gjeneruara nga inteligjenca artificiale, të krijuara javët e fundit.
Së bashku, videot kanë më shumë se 200,000 shikime.
Këto përfshinin një video të rreme të Kryeministrit Keir Starmer dhe Kryeministrit të Uellsit Eluned Morgan duke u puthur, dhe një tjetër të udhëheqëses së Plaid Cymru, Rhun ap Iorwerth, duke bërtitur “E dua Reformën”.
Pronarët e faqes në Facebook që qëndron pas këtyre dy videove thanë se ato ishin satirë “e qartë”.
Ata shtuan se i besonin audiencës së tyre që të përdorte “logjikën e shëndoshë”, por treguan se videot ishin të rreme në mbishkrimet e tyre.
Një tjetër, e ndarë nga një faqe anti-Reformë, tregonte Nigel Farage me një flamur uellsian pas tij.
Në video, ai bërtet: “Britania është e mrekullueshme; nuk e shoh qëllimin e të pasurit katër ekipe të ndryshme sportive dhe katër parlamente të ndryshme.”
Nuk ka asnjë të dhënë që Farage t’i ketë thënë ndonjëherë këto fjalë, dhe videoja u shfaq e shtrembëruar në mënyra që përputhen me gjeneratën e inteligjencës artificiale.
Faqja që qëndron pas kësaj videoje është kontaktuar për koment.
Këto shembuj të veçantë, tha Innes, ishin më afër “falsifikimeve të cekëta” sesa “falsifikimeve të thella” – që do të thotë se ishin më pak realiste dhe u krijuan duke përdorur softuer më pak të sofistikuar.
Por identifikimi i falsifikimeve po bëhej “gjithnjë e më i vështirë”, shtoi ai, me ekipin e tij që ndonjëherë kalonte një ditë “duke u kujdesur për” shembujt më të sofistikuar.
Ai tha se planet e Komisionit Zgjedhor për të luftuar mashtrimet e thella “mund të na ndihmojnë të kuptojmë gjërat pas ngjarjes”, por nuk do t’i ndalojnë ose parandalojnë ndikimin e mashtrimeve të thella në zgjedhje.
Davies-Jones, e cila përfaqëson Pontypridd, Rhondda Cynon Taf, tha se ajo i ishte nënshtruar deepfake-ve “të tmerrshme”, duke përfshirë disa që e tregonin atë në “pozicione të ashpra seksuale” me të brendshme.
Ajo shtoi se të flasësh hapur për deepfake-et seksuale pa konsensus mund të jetë “e turpshme” dhe të çojë në “rritje të shënjestrimit” – dhe ekzistenca e tyre “nuk ishte e mirë për asnjë demokraci të shëndetshme”.
Llŷr Powell, i cili ishte kandidati i Reform UK në zgjedhjet e pjesshme të Caerphilly, tha se ekipi i tij kishte gjetur video të gjeneruara nga inteligjenca artificiale të tij dhe të kolegëve të tij, të cilat i fusin fjalë në gojë, duke gënjyer për politikat e tij.
Powell tha se ishte “në favor të lirisë së fjalës” dhe lirisë së shprehjes, por pati një problem kur përdorimi i inteligjencës artificiale bëri që “disa njerëz të besonin se ishte fakt dhe jo parodi”.
Ai shtoi: “Ne nuk duam të sakrifikojmë liritë që kemi në këtë vend, por në të njëjtën kohë publiku ka të drejtë të dijë se çfarë informacioni po i jepet dhe mjeti po keqpërdoret këtu, ashtu si çdo gjë mund të keqpërdoret.”
Janet Finch-Saunders, deputete konservatore për Aberconwy në Uellsin e Veriut, tha se “u ndje keq” kur pa se një foto e saj ishte modifikuar “në një mënyrë shumë të neveritshme” për të krijuar një deepfake të qartë.
Ajo tha se falsifikimet mund të jenë “shumë mashtruese” për njerëzit që ishin “më pak të aftë në teknologji” dhe “kjo është mjaft shqetësuese sepse tani ka shumë më tepër aftësi”.
“Kur je në politikë… ose çfarëdo pune që bën, nuk duhet të sulmohesh personalisht. Dhe sigurisht jo inteligjenca artificiale që të nënçmonte.”
Baronesha Carmen Smith, një kolege e Plaid Cymru, tha: “Deepfakes përbëjnë seriozisht një kërcënim për demokracinë, por ato janë gjithashtu një kërcënim për shumë, shumë njerëz, qofshin këta motra juaj, shoqja juaj, kolegia juaj.
“Ne duhet të qëndrojmë të përditësuar me zhvillimet që po bëhen me mjetet e inteligjencës artificiale… është diçka që duhet ta adresojmë dhe t’i japim përparësi tani.”
Rachel Millward, nënkryetare e Partisë së Gjelbër të Anglisë dhe Uellsit, tha se vetë kishte qenë subjekt i një “deepfake mizogjine” dhe i bëri thirrje qeverisë së Mbretërisë së Bashkuar të rregullojë sektorin e inteligjencës artificiale për të parandaluar që përmbajtje të tilla “të dëmtojnë legjitimitetin e zgjedhjeve të ardhshme”.
Një zëdhënës i Liberal Demokratëve Uellsianë tha se deepfakes ishin një “kërcënim për sigurinë e politikanëve në të gjithë spektrin politik” dhe bëri thirrje për “veprim ndërkombëtar”.
Departamenti i qeverisë së Mbretërisë së Bashkuar për shkencën, inovacionin dhe teknologjinë tha se “potenciali që “deepfakes” të mbjellë përçarje, të përhapë informacion të rremë dhe të ndikojë në opinionin publik” ishte “i njohur mirë”.
Ai tha se platformat e mediave sociale duhet të “trajtojnë në mënyrë proaktive përmbajtjen mashtruese të paligjshme” sipas Aktit të Sigurisë Online, ose “të përballen me veprime zbatuese”.
