Euroopa Komisjon jõudis täna esialgsele järeldusele, et TikTok on vastuolus digiteenuste määrusega, kuna selle soovitussüsteem suunab kasutajad korduva sisutarbimise mustrisse (nn laukaefekt, ingl k rabbit hole effect).
TikToki „For Your” voog söödab kasutajatele kasutajatele ette katkematu voo personaalseid videoid, ka selliseid, mis on seotud vaimse tervise probleemide ja kehakuvandiga. Mida rohkem kasutaja vaatab teatavat laadi sisu, seda rohkem TikToki algoritm samalaadset sisu soovitama hakkab. Kui lõputult ja korduvalt pakutu on seotud näiteks kurbuse, isoleerituse või välimuse teemaga, võib see olla inimesele kahjulik. See võib kahjustada kasutajate, eriti haavatavas seisundis täiskasvanute ja noorukite vaimset tervist.
Tehnoloogilise suveräänsuse, julgeoleku ja demokraatia eest vastutav juhtiv asepresident Henna Virkkunen „Iga kord, kui keegi vaatab TikToki videot või märgib selle meeldivaks, kasutab algoritm seda ära ja suunab ta korduva sisutarbimise mustrisse, mida tal ei ole lihtne vältida. Digiteenuste määrus kohustab platvorme vastutama soovituslike süsteemide negatiivse mõju eest. Täna avaldatud esialgsed järeldused näitavad taas kord, et TikTok peab hakkama jõulisemalt tegelema oma kasutajate, ka alaealiste heaoluga.”
Täna avaldatud esialgsed järeldused keskenduvad nii riskide hindamisele kui ka nende maandamisele.
Riskide hindamine
Komisjoni esialgne järeldus on, et TikTok ei ole nõuetekohaselt hinnanud seda, kuidas algoritm võib suunata kasutajaid valele teele ja seada ohtu nende enesetunde. Järeldustest nähtub, et algoritmi ülesehitus on selline, et võib suunata kasutajaid korduva sisutarbimise mustrisse. Sisu soovitamisel võetakse arvesse teavet kasutaja harjumuste kohta, näiteks missuguseid videoid ta vaatab ja mis talle meeldib. Kui kasutaja vaatab pidevalt kaalulangetusteemade ja välimusega seotud sisu, tõlgendab süsteem seda kui positiivset huvi teema vastu ning soovitab samalaadset sisu üha rohkem. Korduv kokkupuude sellega võib tõsiselt halvendada kasutajate enesetunnet ning muu hulgas suurendada kurbust, ärevust ja oma kehaga rahulolematust, alandada enesehinnangut või veelgi süvendada olemasolevaid söömishäireid ja vaimset seisundit.
Riskide maandamine
Järeldustes on märgitud ka seda, et TikTok ei ole rakendanud nende riskide maandamiseks proportsionaalseid, mõistlikke ega tulemuslikke meetmeid. Kuigi TikTok üht-teist teinud sellise ohtliku kõrvalmõju leevendamiseks, leiab komisjon, et see ei ole andnud tulemust. Soovitused esitada mitmekülgset sisu ei kõrvalda piisavalt probleemi, kui ühesugust sisu, sealhulgas vaimse tervise hädadega ja välimusega seonduvat esitatakse korduvalt. Kontrollivahendid ei võimalda kasutajatel kontrollida, mida neile soovitatakse. Näiteks nupu „Ei ole huvitatud” vajutamisest ei pruugi piisata soovitusliku sisu muutmiseks. Algoritm peab kasutajatele mõeldud sisu puhul olulisemaks vaatamisaega, mitte eelistust. Praeguses uurimisetapis leiab komisjon, et TikTok peab muutma kasutajatele suunatud sisu ülesehitust. Näiteks tuleks rohkem tugineda kasutajate enda eelistustele ning mitte võtta arvesse soovitatud sisu vaatamist, samuti tuleks suurendada kasutajapoolse kontrolli võimalusi ja kasutatavust ning regulaarselt testida algoritmi.
Järgmised sammud
TikTokil on võimalik tutvuda komisjoni dokumentidega ja esitada kirjalik vastus komisjoni esialgsete järelduste kohta. Kui komisjoni seisukohad leiavad lõplikult kinnitust, võib ta anda välja kohustuste täitmata jätmist käsitleva otsuse, pärast mida võidakse määrata trahv vastavalt rikkumise laadile, raskusastmele, kordumisele ja kestusele. Trahv võib olla kuni 6% teenuseosutaja üleilmsest aastasest kogukäibest.
Komisjoni esialgsed järeldused on üks osa ametlikust uurimisest, kas TikTok vastab digiteenuste määrusele.
Lisateave
