Google opracowuje bezpłatnego moderatora dla mniejszych witryn, którego mogą używać do identyfikowania i usuwania materiałów terrorystycznych. Odpowiedź na nowe przepisy w Wielkiej Brytanii i Unii Europejskiej, które zmuszają firmy internetowe do podejmowania większych działań w celu zwalczania nielegalnych treści.
Oprogramowanie powstało we współpracy z jednostką badawczo-rozwojową Jigsaw i ze społeczeństwem Technika Przeciw Terroryzmowi. Inicjatywa jest wspierana przez Organizację Narodów Zjednoczonych, aby pomóc firmom technologicznym w walce z terroryzmem online.
"Istnieje wiele stron internetowych, które nie zajmują się egzekwowaniem prawa. Budowanie algorytmów to operacja wymagająca dużego nakładu pracy i zasobów", Oświadczył Jasmina Zielona, prezes firmy Jigsaw w Financial Times. “Mniejsze strony internetowe nie chcą treści ISIS, ale nieświadomie mają ich ogromną ilość na swoich platformach", Dodał.
Firmy będące dostawcami usług internetowych będą zmuszone do usuwania ekstremistycznych treści ze swoich platform lub będą musiały stawić czoła grzywnom i innym karom na mocy nowych przepisów, takich jak Ustawa o usługach cyfrowych w UE, która weszła w życie w listopadzie, oraz ustawa o bezpieczeństwie w Internecie z UK, która powinna stać się prawem w tym roku.
Ustawa została przeforsowana przez polityków i regulatorów z całej Europy, którzy twierdzą, że grupy Big Tech Nie jestem już w stanie kontrolować wszystkich treści online w sposób masowy i analityczny.
Ale nowy system regulacyjny wzbudził obawy, że uruchomienie mniejsze firmy nie są odpowiednio wyposażone, a brak zasobów ogranicza ich zdolność do konkurowania z dużymi firmami technologicznymi.
"Zauważyłem dużą zmianę polegającą na tym, że wiodące platformy stają się coraz bardziej skuteczne w moderowaniu, co powoduje wypychanie treści terrorystycznych i fałszywych wiadomości Covid na inne strony mniejszy – powiedział Green.
Raport z Globalne forum internetowe na rzecz zwalczania terroryzmu (globalne internetowe forum antyterrorystyczne) 2021 szacuje, że na każde 10.000 5.000 postów na Facebooku sześć zawiera treści terrorystyczne lub ekstremistyczne. Na mniejszych platformach liczba ta może sięgać nawet 50, czyli XNUMX% zawartości.
również PREZENT, organizacja pozarządowa założona przez Facebook, Microsoft, Twitter i YouTube w 2017 roku wspiera projekt Jigsaw. Organizacja pozarządowa prowadzi bazę danych treści terrorystycznych, której systemy moderacji mogą używać do lokalizowania istniejących materiałów online.
13 grudnia Facebooka i Meta, właściciele Instagrama, uruchomili a oprogramowanie open source które inne platformy mogą wykorzystać do powiązania treści terrorystycznych z istniejącymi obrazami lub filmami w bazie danych i wyróżnienia ich w celu pilnego usunięcia.
Narzędzie Jigsawa ma na celu zrobienie kolejnego kroku w procesie i pomoc moderatorom w podejmowaniu decyzji dotyczących treści oznaczonych jako niebezpieczne i nielegalne. Testy z dwoma witrynami, których tożsamość pozostaje tajna, rozpoczną się na początku tego roku.