Google sedang mengembangkan moderator gratis untuk situs web yang lebih kecil yang dapat mereka gunakan untuk mengidentifikasi dan menghapus materi teroris. Tanggapan terhadap undang-undang baru di Inggris dan Uni Eropa yang memaksa perusahaan internet berbuat lebih banyak untuk mengatasi konten ilegal.
Perangkat lunak ini dikembangkan bekerja sama dengan unit penelitian dan pengembangan Gergaji ukir dan dengan masyarakat Teknologi Melawan Terorisme. Inisiatif ini didukung oleh PBB untuk membantu perusahaan teknologi melawan dan melawan terorisme secara online.
"Ada banyak situs web yang tidak berurusan dengan penegakan hukum. Membangun algoritme adalah operasi yang membutuhkan banyak pekerjaan dan sumber daya", dia telah menyatakan Yasmin Hijau, CEO dari Gergaji ukir di Financial Times. “Situs web yang lebih kecil tidak menginginkan konten Isis, tetapi tanpa disadari memiliki sejumlah besar konten yang ada di platform mereka", dia menambahkan.
Perusahaan penyedia layanan Internet akan dipaksa untuk menghapus konten ekstremis dari platform mereka atau menghadapi denda dan hukuman lain berdasarkan undang-undang baru seperti Undang-undang Layanan Digital di UE, yang mulai berlaku pada bulan November, dan undang-undang keamanan online Inggris, yang seharusnya menjadi undang-undang tahun ini.
Undang-undang tersebut telah didorong oleh politisi dan regulator dari seluruh Eropa, yang berpendapat bahwa kelompok tersebut Big Tech Saya tidak lagi dapat mengontrol semua konten online secara masif dan analitis.
Tetapi rezim peraturan baru telah menimbulkan kekhawatiran bahwa memulai perusahaan kecil tidak memiliki perlengkapan yang sesuai, dan kurangnya sumber daya membatasi kemampuan mereka untuk bersaing dengan perusahaan teknologi besar.
"Saya melihat perubahan besar dalam fakta bahwa platform terkemuka menjadi jauh lebih efektif dalam memoderasi, dan ini mendorong konten teroris dan berita palsu Covid ke situs lain lebih kecil,” kata Green.
Laporan dari Forum Internet Global untuk Menangkal Terorisme (forum kontra-terorisme internet global) 2021 memperkirakan bahwa untuk setiap 10.000 postingan Facebook, enam berisi konten teroris atau ekstremis. Pada platform yang lebih kecil, angka ini bisa mencapai 5.000, atau 50% konten.
Juga ekstensi GIFT, sebuah lembaga swadaya masyarakat yang didirikan oleh Facebook, Microsoft, Twitter, dan YouTube pada tahun 2017 mendukung proyek Jigsaw. LSM memelihara basis data konten teroris yang dapat digunakan sistem moderasi untuk menemukan materi yang ada secara online.
Pada tanggal 13 Desember, Facebook dan Meta, pemilik Instagram, telah meluncurkan a perangkat lunak sumber terbuka yang dapat digunakan platform lain untuk mengaitkan konten teroris dengan gambar atau video yang ada di database dan menyorotnya untuk segera dihapus.
Alat Jigsaw bertujuan untuk mengambil langkah selanjutnya dalam proses dan membantu moderator manusia membuat keputusan tentang konten yang ditandai sebagai berbahaya dan ilegal. Tes dengan dua situs yang identitasnya dirahasiakan akan dimulai awal tahun ini.