Kas nutikas #AI-strateegia suudab EL-i veenda, et #Facebooki sisu modereerimine on nuusk?

Facebooki tegevjuht Mark Zuckerberg vestles 17. veebruaril Brüsselis Euroopa poliitikakujundajatega (pildil) avaldas valge raamatu, milles tutvustas oma strateegiat kahjuliku sisuga tegelemiseks sotsiaalmeedia platvormidel. Vastusena Euroopa Liidu soovile kinnistada järelevalvet tehnoloogiasektori üle, esitas miljardär juhtkonna, et tööstust tuleks reguleerida mitte kohalikul, vaid globaalsel tasandil.

Ta väitis ka, et tehnoloogiaettevõtete vastutust oma platvormidel esineva kahjuliku sisu eest tuleks piirata, kui neil on olemas tõhusad sisu modereerimise süsteemid. Zuckerbergi ettepanekud aga said Brüsselis otsustavalt külmakraadise vastuvõtu. Isegi pärast kohtumist Zuckerbergiga väitis EL, et Facebooki uus sisu modereerimise ettepanek jäi mitmel rindel ebapiisavaks, eriti kuna ta ei kirjeldanud konkreetseid samme, mida platvorm võtaks ebaseadusliku infosisu vastu võitlemiseks. "Sellest ei piisa. See on liiga aeglane, vastutuse ja regulatsiooni osas liiga madal, ”sõnas pärast andmestrateegia volinikku Thierry Breton pärast Facebooki tippjuhi kohtumist.

Kuhu jääb Facebooki praegune süsteem alla?

Tehnikahiiglastel on üsna kitsas aken, kus veenda Euroopa poliitikakujundajaid, et nende endi jõupingutused probleemse sisu ohjeldamiseks on piisavad. Komisjoni digiteenuste seadus, mis on kauaoodatud ELi 20-aastase e-kaubanduse direktiivi läbivaatamine, peaks kehtima selle aasta lõpus. Nagu Breton märkis, “kui näeme, et [Facebooki enda protsess sisu modereerimiseks] ei ole see, mida me oma standardite osas vajame, peame selle reguleerima ja panema oma [digiteenuste seadusesse”].

Facebook on kindel, et suudab ise sisu modereerimise probleemi lahendada - kasutades tehisintellekti (AI) edusamme ja masinõpet, et oma praegust süsteemi täiustada. Probleemse materjali tuvastamise ja eemaldamise keeruline ülesanne on praegu sisseostetud kolmandate osapoolte spetsialistidelt, kes kasutavad oma äranägemise järgi pilti või videot taunimisväärseks.

Sellisest inimjärelevalvest sõltumine on problemaatiline, kuna mõne sisu moderaatori kohutav olemus on sunnitud läbi mõtlema - tõsiasi, et Lissaboni, Dublini ja Varssavi Facebooki sisu modereerivad töötajad on kinnitanud, et nende töö on neile andnud PTSD tõstab kindlasti punaseid lippe. Euroopa institutsioonides. Lisaks on seatud kahtluse alla inimeste mõõdukuse tõhusus pärast seda, kui Facebook pole korduvalt suutnud kahjulikku sisu kiiresti eemaldada, näiteks 2019. aasta Christchurchi mošee rünnaku otseülekanne.

AI saab ühendada mõne Facebooki pimeala

reklaam

Tehisintellektil on võimalik sellist sõltuvust inimese mõõdukusest märkimisväärselt vähendada. Masinõppega koolitatud algoritmid saavad moderaatoreid toetada, vähendades mitte ainult nende kokkupuudet kahjuliku veebisisuga, vaid suurendades ka nende tootlikkust ja täpsust. Facebook väidab, et nägi seni AI-ga tehtud katsetes paljutõotavaid tulemusi - platvormi andmetel suutis platvorm 2019. aasta teisel poolel märgistada 99.8% graafilisest sisust ja 99.5% alastusest ning laste ärakasutamisest isegi enne, kui kasutajad neile sellest märku andsid. . Muidugi vajab see tehnoloogia veel viimistlemist - AI-l põhinevad sisu modereerimise algoritmid võitlevad endiselt eriti näiteks vihakõne nüansside äratundmisega - teema, mida Euroopa Liit eriti muretseb.

Veelgi enam, Euroopa Liit on ettevaatlik, kui ta lubab Facebookil nii tundliku tehnoloogia nagu AI kasutamisel vabalt valitseda. Need mured tulenevad peamiselt Facebooki halbadest kogemustest Euroopa läbipaistvusstandardite täitmisel - tekitades kahtluse, et ettevõte võib välja töötada nn musta kasti algoritme, mis takistavad platvormil kolmandate osapoolte või valitsuse auditeid.

Eelmisel nädalal ELi digitaalse tsaari ja konkurentsijuhi Margrethe Vestageri poolt eelmisel nädalal välja antud digipoliitika keskmes on ettevõtete tehisintellekti kasutamise reguleerimine. Ehkki EL soovib, et valitsused jälgiksid selle riskantsemaid aspekte, näiteks näotuvastustehnoloogia kasutamist, näitavad paljud Euroopa enda tagahoovis olevad rakendused, kuidas seda saab kasutada nii ohutult kui ka tõhusalt. Kas Facebook saab neilt märgi võtta?

Järgmised gen sotsiaalmeediarakendused teevad oma jälje, kasutades AI-d uuenduslikult

Üks Euroopa rakendus on tehisintellekti loominguliselt rakendanud, et pakkuda oma noortele kasutajatele turvalisemat ja meeldivamat kogemust. Yubo, vanusevahemikus 13-25-aastane reaalajas voogesituse rakendus, tugineb tasakaalule keerukate algoritmide vahel ja noorte harimisel võrgutalude kohta, et hoida oma 20 miljonit kasutajat platvormil turvalisena. Hoolikalt koolitatud algoritm tuvastab problemaatilise sisu, näiteks alastuse või kellegi oma aluspesu reaalajas voo - st siis, kui Yubo reaalajas sekkumissüsteem käivitub, saadab kasutajatele hoiatussõnumi, selgitades, miks selline käitumine on taunitav. Kui kasutaja oma käitumist ei paranda, saab voo eemalt sulgeda.

Selleks, et veenduda rakenduse reserveerimises teismelistele ja noortele täiskasvanutele, tegi Yubo vahepeal koostööd populaarse Suurbritannias asuva digitaalse identiteedi pakkujaga Yoti, mis sobitab üles laaditud isikut tõendavad dokumendid näotuvastustarkvara abil kasutaja selfiedega. Yoti tehnoloogiat - mida kasutatakse ka supermarketites tagamaks, et alla 18-aastased ei osta piiratud kaupa, näiteks sigaretti või alkoholi - saab kasutada ka teistes sotsiaalmeediarakendustes oma kogukonna vanuse suurendamiseks või kasutajate veendumiseks. kes nad ütlevad, et nad on.

Yubo katsed problemaatilist veebisisu eos näppida - ühendades arvutipõhise modereerimise ja noorte kasutajate sensibiliseerimisega hea veebiprotokolli tegemistest ja keeldudest - on teinud tehnoloogiasektoris spiraali. Samuti peaksid nad pakkuma julgustavat näidet nii tehnikahiiglastele nagu Facebook kui ka reguleerivatele asutustele nagu Euroopa Liit, et sotsiaalmeedia platvormid võivad leida tervisliku tasakaalu selle vahel, kas ollakse liiga usaldatud AI-le või inimeste järelevalvele.

Tehisintellekt ei ole lahendus kõigile väljakutsetele, millega sotsiaalmeedia platvormid silmitsi seisavad. Kuna Facebook püüab veenda EL-i suutlikkuses oma sisu modelleerida, oleks see siiski kasulik, kui võtta näpunäide uue põlvkonna rakendustest, mis on suutnud oma kasutajate turvalisuse tagamiseks välja töötada tervikliku strateegia, mis sisaldab AI-d. .

Jagage seda artiklit: