Zastrašujuće: Jutjub pedofilima preporučivao snimke polugole dece

Kristijane C. (Christiane C:) nije mogla zamisliti da bi se išta loše moglo dogoditi dok je njena kćerka (10) zajedno s prijateljicom uploadala snimak koji ih prikazuje kako se igraju u bazenu u dvorištu.

Nekoliko dana kasnije njena je kćerka podelila vest da je video je imao hiljade pregleda, a ubrzo ih je bilo 400.000.

– Ponovno sam pogledala video i zgrozila se zbog broja pregleda – kaže Kristijane.

Imala je razloga da bude zgrožena, za „The New York Times“ pišu Maks Fišer (Max Fisher) i Amanda Taub.

Jutjub automatski sistem preporuka, koji pokreće većinu od milijardi prikaza na ovoj platformi tako što korisnicima sugeriše što da sledeće pogledaju, počeo je da prikazuje videozapis korisnicima koji su gledali druge zapise s pretpubertetskom i delimično razodevenom decom, otkrila je ekipa istraživača.

Jutjub je odabrao videozapise iz svoje arhive, ponekad uzevši inače neškodljive kućne snimke porodice nesvesnih što se događa, kažu istraživači. U mnogim slučajevima, njegov algoritam preporučio je korisnicima takve zapise nakon što su gledali snimke sa seksualnim sadržajem.

– Te kanale povezuje Jutjubov algoritam. To je zastrašujuće – rekao je Džons Kajzer (Jonas Kaiser,) jedan od tri istraživača „Berkman Klein Centra za internet i društvo“ pri Harvardu, koji je naišao na te videozapise dok je istraživao učinak Jutjuba na Brazil.

Video Kristijanine kćerke Jutjubob sistem je promovisao mesecima nakon što je kompanija upozorena da ima problem s pedofilima. U februaru su „Wired“ i drugi mediji objavili da predatori koriste komentare ispod Jutjub videa s decom kako bi navodili druge pedofile. Tada je Jutjub, nazvavši problem „duboko zabrinjavajućim“, onemogućio komentare ispod mnogih videozapisa koji prikazuju decu.

Snimci dece kao preporuka pedofilima

Ali sistem preporuka, koji i dalje funkcioniše, prikupio je desetke takvih zapisa u novi i lako dostupan repozitorij, te ga pustio publici. Jutjub nikad nije nameravao da služi korisnicima sa seksualnim interesom prema deci, ali na kraju im je njegov automatski sistem omogućio da gledaju takav sadržaj i to – uz preporuku.

Kako prenose mediji u regionu, korisnici uopšte ne moraju da traže snimke dece da bi završili gledajući takve zapise. Platforma ih može odvesti do njih kroz razvoj preporuka. Tako se korisnicima koji gledaju erotske videozapise može preporučiti da pogledaju zapise žena koje izgledaju upadljivo mlađe, a potom i žena koja provokativno poziraju u dečjoj odjeći. Na kraju, nekim korisnicima mogu biti ponuđeni zapisi devojčica od 5 ili 6 godina, obučenih u kupaće kostime ili koje se oblače.

Nakon što je „The Times“ upozorio Jutjub da njegov sistem vrti porodični video ljudima koji su verojatno motivisani seksualnim interesom za decu, kompanija je uklonila neke zapise, ali ostavila mnoge druge, među ostalima i one koji su učitani s naizgled lažnih računa. Sam sistem preporuka takođe je odmah promenjen, tako da više ne grupiše neke od otkrivajućih zapisa. Jutjub kaže da je to verovatno posledica rutinskih podešavanja algoritama, a ne namernog prilagođavanja pravila.

Međutim, YouTube nije sproveo onu promenu za koju istraživači kažu da bi mogla sprečiti ponavljanje takvih slučajeva, isključiti sistem preporuka na videozapise dece, iako platforma može automatski identifikovati takve zapise. Kompanija kaže da su preporuke najveći generator prometa, te da bi njihovo uklanjanje pogodilo „kreatore“ koji se oslanjaju na te klikove. Jutjub je naglasio da će ograničiti preporuke na snimke za koje se smatra da bi decu mogli dovesti u rizik, prenose mediji.

Pratite Krstaricu i preko mobilne aplikacije za Android i iPhone.