Гоогле развија бесплатног модератора за мање веб-сајтове који могу да користе за идентификацију и уклањање терористичког материјала. Одговор на ново законодавство у Великој Британији и Европској унији присиљава интернет компаније да учине више у борби против нелегалног садржаја.
Софтвер је развијен у сарадњи са јединицом за истраживање и развој Јигсав и са друштвом Технологија против тероризма. Иницијативу подржавају Уједињене нације за помоћ технолошким компанијама да се боре против тероризма на мрежи.
"Постоји много веб локација које се не баве спровођењем закона. Изградња алгоритама је операција која захтева много рада и ресурса“, Ха дицхиарато Иасмин Греен, Генерални директор компаније Јигсав у Фајненшел тајмсу. “Мање веб локације не желе садржај Исис-а, али несвесно имају огромну количину тога смештену на својим платформама", додао је он.
Компаније провајдера интернет услуга биће принуђене да уклоне екстремистички садржај са својих платформи или ће се, алтернативно, суочити са казнама и другим казнама према новим законима, као што су Закон о дигиталним услугама у ЕУ, који је ступио на снагу у новембру, и закон о безбедности на мрежи од Уједињено Краљевство, који би ове године требало да постане закон.
Закон су форсирали политичари и регулатори из целе Европе, који тврде да те групе Биг Тецх Више нисам у могућности да контролишем сав онлајн садржај на масиван и аналитички начин.
Али нови регулаторни режим изазвао је бојазан да ће старт-уп мање компаније нису опремљене да се такмиче, а тај недостатак ресурса ограничава њихову способност да се такмиче са великим технолошким компанијама.
"Приметио сам велику промену у чињеници да водеће платформе постају много ефикасније у модерирању, а то гура терористички садржај и лажне вести о Цовид-у на друге сајтове мањи“, рекао је Грин.
Извештај о Глобални форум за борбу против тероризма (глобални интернет форум за борбу против тероризма) 2021 процењује да на сваких 10.000 објава на Фејсбуку, шест садржи терористички или екстремистички садржај. На мањим платформама, ова цифра може бити чак 5.000, или 50% садржаја.
Такође ГИФЦТ екстензија, невладина организација коју су основали Фејсбук, Мајкрософт, Твитер и Јутјуб 2017. године подржава пројекат Јигсав. Невладина организација одржава базу података о терористичком садржају коју системи за модерирање могу користити за лоцирање постојећих материјала на мрежи.
13. децембра год. Фејсбук и Мета, власници Инстаграма, покренули су а софтвер отвореног кода које друге платформе могу користити да повежу терористички садржај са постојећим сликама или видео записима у бази података и истакну их ради хитног уклањања.
Алат Јигсав има за циљ да направи следећи корак у процесу и помогне људским модераторима да донесу одлуке о садржају који је означен као опасан и незаконит. Тестови са два сајта чији идентитети остају тајни почеће почетком ове године.