- YouTubes förslag algoritmer kallas ut av The New York Times i en ny artikel.
- Enligt forskning utförd avTiderna, YouTubes algoritmer kommer att föreslå gränsöverskridande innehåll till de som söker pedofila videor.
- Dessutom kan algoritmerna också driva gränsinnehåll till dem som inte nödvändigtvis söker efter det.
I går,The New York Times publicerade en oroväckande artikel med inriktning på hur YouTubes algoritmer för att föreslå nytt innehåll oavsiktligt kan hjälpa pedofiler. Faktum är att viss information som samlats in från forskning för stycket tyder på att algoritmerna till och med kan hjälpa till att driva pedofilt innehåll till dem som inte nödvändigtvis letar efter det.
Strax efter att artikeln landade publicerade YouTube en ny post till sin blogg som indirekt adresserar artikeln. I YouTube-inlägget beskriver företaget de åtgärder som det har vidtagits under det senaste året för att bekämpa pedofili på plattformen samt de olika ansträngningarna det har gjort för att skydda barn.
Men YouTube-inlägget erbjuder inga nya strategier. snarare sammanfattar den bara sina olika nuvarande ansträngningar som en försäkring.
I artikeln som visas iThe New York Times, författarna berättar historien om en mamma som lyckligtvis gick med på att låta hennes tioåriga dotter lägga upp en video på YouTube av sig själv och en vän som spelade i poolen i trädgården. Moren blev chockad över att senare hitta den här videon - som helt enkelt visar två unga flickor som simmar och loungar runt poolen i deras tvådelade baddräkter - hade över 400 000 visningar.
Videon blev så populär delvis på grund av YouTubes förslagalgoritmer. Dessa algoritmer är ansvariga för att föreslå innehåll till tittarna baserat på annat innehåll de har sett. På ett sätt skänkte YouTube pedofiler till den här videon av barnen som lekte i poolen.
Pedofiler behöver inte söka efter gränsinnehåll på YouTube eftersom YouTube helt enkelt kommer att föreslå det för dem.
Dessutom fann ett brasilianskt forskarteam att YouTubes algoritmer tenderar att driva allt mer extrema innehåll med sina förslag. Till exempel kan en person börja titta på en video om hur man reparerar en cykel och sedan titta på en video av människor som faktiskt cyklar. Då kan YouTube föreslå att de tittar på en video av cyklister som kraschar och sedan andra fordon kraschar. Innan tittaren vet det får de förslag på våldsamt och störande innehåll - allt härstammande från att titta på en video om hur man reparerar en cykel.
Se också: YouTube-original är gratis för alla att titta på, bara med annonser
På liknande sätt kan poolen video länkas till suggestivt vuxeninnehåll. En person skulle kunna börja titta på erotiskt men lagligt innehåll på YouTube - till exempel en bikinimodells rulle.Det innehållet kan leda till förslag på annat erotiskt baddräktinnehåll, vilket gradvis leder till videor med yngre och yngre modeller. Så småningom leder det till nästan en halv miljon utsikt över två tioåringar i en pool.
YouTube har ett allvarligt problem som kommer att kräva att företaget agerar på etik på bekostnad av vinster.
NärTiderna informerade YouTube om detta problem angående poolen video, företaget tog bort flera relaterade videor men lämnade många andra, inklusive några som verkar vara från falska konton. Den justerade också sina förslag så att annat gränsinnehåll inte visades. YouTube förnekade dock att göra detta med avsikt, men i stället hävdar att algoritmen fortsätter att lära sig.
Nu, i sitt svarblogginlägg, belyser YouTube sina senaste ansträngningar för att hålla barnen säkra på plattformen, inklusive att ta bort kommentarer från nästan alla videor med minderåriga, begränsa minderåriga från direktuppspelning utan en vuxen närvarande i videon, och begränsa rekommendationer som de som beskrivs avTiderna.
Men YouTube har inte gjort den övergripande förändringen som skulle förhindra hela problemet: stänga av förslag till videor med minderåriga. Även om YouTube har förmågan att göra det ganska enkelt, har det inte gjort det, troligtvis eftersom videoförslag driver cirka 70 procent av visningarna. Det är mycket intäkter som står på spel.
Efter den oväntade populariteten i sin dotters video sa mamman som godkände den att hon inte längre kommer att låta sin dotter posta något på plattformen.
