Google vyvíja bezplatného moderátora pre menšie webové stránky, ktorý môžu použiť na identifikáciu a odstránenie teroristického materiálu. Reakcia na novú legislatívu v Spojenom kráľovstve a Európskej únii, ktorá núti internetové spoločnosti robiť viac v boji proti nelegálnemu obsahu.
Softvér bol vyvinutý v spolupráci s oddelením výskumu a vývoja Jigsaw a so spoločnosťou Technika proti terorizmu. Iniciatívu podporuje Organizácia Spojených národov s cieľom pomôcť technologickým spoločnostiam bojovať proti terorizmu online a bojovať proti nemu.
"Existuje veľa webových stránok, ktoré sa nezaoberajú presadzovaním práva. Budovanie algoritmov je operácia, ktorá si vyžaduje veľa práce a zdrojov„Povedal Yasmine Green, Generálny riaditeľ spoločnosti Jigsaw vo Financial Times. “Menšie webové stránky nechcú obsah Isis, ale nevedomky ho majú na svojich platformách uhniezdené obrovské množstvo", pridal.
Spoločnosti poskytovateľov internetových služieb budú nútené odstraňovať extrémistický obsah zo svojich platforiem, prípadne budú čeliť pokutám a iným sankciám podľa nových zákonov, ako napr. Zákon o digitálnych službách v EÚ, ktorý nadobudol platnosť v novembri, a zákon o online bezpečnosti z r Spojené kráľovstvo, ktorý by sa mal stať zákonom v tomto roku.
Zákon presadili politici a regulátori z celej Európy, ktorí tvrdia, že skupiny Big Tech Už nie som schopný masívne a analyticky kontrolovať všetok online obsah.
Nový regulačný režim však vyvolal obavy, že start-up menšie spoločnosti nie sú vybavené na to, aby zodpovedali, a nedostatok zdrojov obmedzuje ich schopnosť konkurovať veľkým technologickým spoločnostiam.
"Všimol som si veľkú zmenu v tom, že popredné platformy sa stávajú oveľa efektívnejšie pri moderovaní, a to posúva teroristický obsah a falošné správy o Covide na iné stránky. menšie,“ povedal Green.
Správa o Globálne internetové fórum na boj proti terorizmu (globálne internetové protiteroristické fórum) 2021 odhaduje, že na každých 10.000 5.000 príspevkov na Facebooku šesť obsahuje teroristický alebo extrémistický obsah. Na menších platformách by toto číslo mohlo predstavovať až 50 XNUMX alebo XNUMX % obsahu.
tiež rozšírenie GIFCT, mimovládna organizácia založená spoločnosťami Facebook, Microsoft, Twitter a YouTube v roku 2017 podporuje projekt Jigsaw. Mimovládna organizácia spravuje databázu teroristického obsahu, ktorú môžu systémy moderovania použiť na lokalizáciu existujúcich materiálov online.
Dňa 13. decembra Facebook a Meta, majitelia Instagramu, spustili a softvér otvoreného zdroja ktoré iné platformy môžu použiť na priradenie teroristického obsahu k existujúcim obrázkom alebo videám v databáze a ich zvýraznenie na urýchlené odstránenie.
Cieľom nástroja Jigsaw je urobiť ďalší krok v tomto procese a pomôcť ľudským moderátorom rozhodovať sa o obsahu označenom ako nebezpečný a nezákonný. Testy s dvoma lokalitami, ktorých identita zostáva utajená, sa začnú začiatkom tohto roka.