Një video e gjeneruar nga inteligjenca artificiale tregon një turmë të rinjsh – kryesisht me ngjyrë – të veshur me balaklava dhe xhaketa të mbushura, duke rrëshqitur poshtë një rrëshqitëse uji në një pishinë të ndyrë me mbeturina që valëviten në sipërfaqe. Mbishkrimi e përshkruan skenën si një park ujor të financuar nga taksapaguesit në Croydon.
Është një nga një valë deepfakes që tregojnë skena shpesh absurde të rënies urbane dhe që pretendojnë rregullisht se janë në të njëjtën lagje në jug të Londrës. Dhjetëra llogari imituese kanë filluar të prodhojnë përmbajtje të ngjashme dhe së bashku kanë grumbulluar miliona shikime në TikTok dhe Instagram Reels.
Këto video të rreme janë bërë pjesë e një trendi shumë më të gjerë – ku ndikuesit dhe krijuesit e përmbajtjes online i portretizojnë qytetet perëndimore si Londra, Mançesteri, San Francisko ose Nju Jorku si të mbipopulluara nga emigrantët dhe krimi.
Është quajtur “pornografi në rënie”. Këto rrëfime – shpesh të ekzagjeruara ose të sajuara, disa padyshim satirike – po nxisin zemërimin dhe reagimin racist midis disa shikuesve që i marrin ato si të mirëqena.
BBC-ja gjurmoi autorin e videove të inteligjencës artificiale të Croydon për podcast-in e ri Top Comment , i cili heton historitë që fshihen pas rrjeteve tona sociale. Ajo që gjetëm ishte një lloj i ri mashtruesish online, i cili lulëzon nga angazhimi dhe hedh poshtë përgjegjësinë për mënyrën se si përmbajtja mund të përdoret për të nxitur narrativa politike përçarëse.
Turpi rreth postimit të materialeve të rreme duket se është zhdukur plotësisht.
Krijuesi, i cili përdor pseudonimin online RadialB, thotë se nuk priste të krijonte imitime ose të ishte politikisht provokues. Ai thotë se përmbajtja e tij synon të jetë qesharake – por gjithashtu dëshiron që njerëzit të besojnë se skenat e tij të rreme janë të vërteta për të tërhequr vëmendjen e tyre.
“Nëse njerëzit e shihnin dhe e dinin menjëherë se ishte e rreme, atëherë thjesht do të shfletonin faqen. Pika kryesore e modeleve të inteligjencës artificiale gjeneruese është se ato duken të vërteta”, më thotë RadialB në telefon. Ai refuzon të tregojë emrin e tij të vërtetë, por zbulon se është në të 20-at dhe nga veriperëndimi i Anglisë. Ai nuk ka qenë kurrë në Croydon.
Ai më thotë se krijimi i parkut ujor, kopshtit zoologjik dhe akuariumit me inteligjencë artificiale në Croydon ishte “vetëm një pjesë e përparimit të gjërave që po bëhen gjithnjë e më qesharake ose absurde”. Disa nga videot “shpërthyen”, thotë ai, sepse ishin shumë grafike, duke treguar njerëz që fluturonin nga rrëshqitëset.
Të rinjtë në videot e tij janë “punonjës të rrugëve”, një term zhargon për të rinjtë urbanë, që shpesh shoqërohet me trafik droge, thotë ai, dhe janë “arketipe kulturore” që ai i shfaq shpesh në videot e tij. Një postim që portretizonte punonjësit e rrugëve në Parlament mori tetë milionë shikime në ditë, thotë ai.
Kur e pyetën për racizmin që videot e tij ndonjëherë provokojnë në komente, ai tha: “Nuk e mohoj”, por shtoi se “komentet filtrohen”, që do të thotë se platformat e mediave sociale fshijnë vërejtjet raciste. TikTok, Instagram dhe X kanë politika që ndalojnë abuzimin racist.
Komenti kryesor
Korrespondentja e BBC-së, Marianna Spring, dhe gazetari investigativ Matt Shea flasin për historitë që fshihen pas rrjeteve tuaja sociale, nga ngjarjet globale që bëhen virale, deri te momentet e çuditshme që shfaqen në jetën reale.
RadialB thotë se kur gjeneron përmbajtje me anë të inteligjencës artificiale, nuk ka ndërmend që njerëzit e portretizuar të jenë të një race ose etnie të caktuar, por thjesht përdor shprehjen “punonjës të rrugës të veshur me xhaketa puffer, tuta sportive dhe balaklava” sepse kjo i bën personazhet “më qesharakë”.
Ndërsa ai mohon çdo qëllim politik, videot e tij portretizojnë objekte absurde të “financuara nga paguesit e taksave”. Ai thotë se “politika angleze është pak si një gropë uji parazitare” dhe sugjeron “t’i zëvendësojmë të gjitha me punëtorë rrugësh”.
Disa nga videot kanë etiketa të vogla ku thuhet se janë “të gjeneruara nga inteligjenca artificiale” ose përmbajnë “media sintetike”, në përputhje me politikat e Tiktok, Instagram dhe X mbi median e inteligjencës artificiale, por disa njerëz që kishin lënë komente na thanë se ishin bindur vërtet nga postimet.
RadialB pranon se videot provokojnë reagime politike: “Mund të postoj gjëra dhe do të kishte rreth 50-vjeçarë dhe 60-vjeçarë në komente që do të tërboheshin dhe do të thoshin të gjitha këto gjëra politike.” Por ai sugjeron se disa nga komentet janë ironike.
Përdorues të tjerë e kanë kundërshtuar këtë valë videosh të përdorura për qëllime të inteligjencës artificiale, duke e cilësuar si një stereotip të padrejtë racor ndaj lagjes së tyre. Një përdorues me ngjyrë i TikTok nga Croydon, i quajtur C.Tino, postoi një përgjigje, duke thënë se ky trend e portretizonte gabimisht zonën si “geto”.
“Këto video po i bëjnë njerëzit të mendojnë se kjo është jeta reale. Po del jashtë kontrollit tani”, tha ai.
Shtrembëroni realitetin
RadialB thotë se ai arriti të fillonte të krijonte këtë përmbajtje për shkak të “rritjeve të mëdha” në cilësinë dhe disponueshmërinë e mjeteve të inteligjencës artificiale. Ai thotë se kjo “e ul shumë barrierën e hyrjes” për këdo që dëshiron të krijojë “gjëra të rreme”.
Ai thotë se shumë nga llogaritë që rishpërndajnë postimet e tij ka të ngjarë ta bëjnë këtë për shikime dhe klikime – dhe në një përpjekje për të fituar para nga përmbajtja në platforma të tjera si Facebook.
Përdorues deri në Izrael dhe Brazil thanë se i ndanë videot sepse “fituan angazhim” ose për t’u “bashkuar me trendin”. Disa llogari të tjera që postojnë në arabisht, dhe që duket se janë të bazuara në Lindjen e Mesme, kanë ndarë gjithashtu video të shumta rreth Londrës që është në rënie – përfshirë ato të Croydon.
Kam gjetur gjithashtu disa profile në TikTok që pretendojnë të jenë llogari lajmesh britanike, të cilat ndajnë vetëm këto lloj videosh të gjeneruara nga inteligjenca artificiale rreth Londrës ose përmbajtje të tjera negative rreth qyteteve në Mbretërinë e Bashkuar dhe SHBA.
Videot e falsifikuara përshtaten me një trend ekzistues të videove që i paraqesin qytetet evropiane dhe amerikane sikur po bien në degradim urban për shkak të krimit dhe imigracionit. Ndonjëherë ato tregojnë shembuj realë të vjedhjes së telefonave, mungesës së strehimit, grafiteve ose problemeve me drogën, por lënë jashtë çdo kontekst më të gjerë.
Megjithatë, gjithnjë e më shumë, ata përdorin inteligjencën artificiale për të shtrembëruar realitetin.
YouTuberi nga Afrika e Jugut, Kurt Caz, ka ndërtuar një audiencë prej më shumë se katër milionë abonentësh duke postuar video udhëtimesh me tituj të tillë si “Sulmuar nga hajdutë në Barcelonë!” dhe “Kërcënuar në qytetin më të keq të Mbretërisë së Bashkuar!”
Por, pasi postoi një video të kohëve të fundit, të quajtur “Shmangni këtë vend në Londër”, ai u akuzua se kishte përdorur inteligjencën artificiale për të manipuluar miniaturën, me qëllim që të forconte portretizimin e kryeqytetit të Mbretërisë së Bashkuar si një nga “qytetet më të rrëmujshme” që ka qenë ndonjëherë.
Aty tregohej një burrë mbi biçikletë me balaklava, përpara tabelave të dyqaneve të shkruara në arabisht.
Por në vetë videon, tabelat në North End të Croydon-it janë në anglisht, çiklisti nuk ka balaklava dhe Caz po i bën atij shenjë miratimi pas një bisede miqësore.
Në X, Kurt Caz i hodhi poshtë kritikat ndaj miniaturës si “karrem klikimesh” dhe tha “nëse do të bësh një artikull goditës për mua, bëje siç duhet”.
Këto ide për Mbretërinë e Bashkuar dhe Evropën në rënie janë përqafuar edhe nga figura të profilit të lartë dhe me ndikim, përfshirë pronarin e X, Tesla dhe Space X, Elon Musk, i cili foli në tubimin “Unite the Kingdom” të aktivistit të ekstremit të djathtë Tommy Robinson vitin e kaluar.
“Ajo që shoh të ndodhë është një shkatërrim i Britanisë. Fillimisht një erozion i ngadaltë, por një erozion në rritje të shpejtë të Britanisë me migrim masiv të pakontrolluar”, tha Musk. Është një temë për të cilën ai poston rregullisht në profilin e tij X, me më shumë se 230 milionë ndjekës.
Ndërkohë që ka debate legjitime që mund të zhvillohen rreth imigracionit dhe krimit, shumë nga kjo përmbajtje shkon përtej provave të disponueshme në realitet.
Në janar, organizata e anketimeve YouGov publikoi të dhëna të reja që sugjeronin se shumica e britanikëve tani besojnë se Londra është e pasigurt, por vetëm një e treta e njerëzve të anketuar në kryeqytet ishin dakord – dhe 81% e tyre thanë se zona e tyre lokale ishte e sigurt.
Por RadialB thotë se qëllimi i tij nuk ishte të bëhej një ndikues i “refuzimit të pornografisë” – dhe në vend të kësaj dëshiron vetëm t’i bëjë njerëzit të qeshin me një lloj “forme arti” që manipulon sistemet e rekomandimeve. Ai duket se i lan duart nga përgjegjësia për mënyrën se si përmbajtja e tij mund të përdoret ose kopjohet.
Llogaria e tij në TikTok u bllokua për ndarjen e përmbajtjes që u zbulua si grafike ose e papërshtatshme, thotë ai. Por tani ai ka krijuar një llogari të re që ndan të njëjtat lloje videosh, duke shfaqur “punonjës të rrugëve” në “pishinat e pafundme” të pista dhe “bufetë e financuara nga taksapaguesit”.
