Google ontwikkelt een gratis moderator voor kleinere websites die ze kunnen gebruiken om terroristisch materiaal te identificeren en te verwijderen. Een reactie op nieuwe wetgeving in het VK en de Europese Unie die internetbedrijven dwingt meer te doen om illegale inhoud aan te pakken.
De software is ontwikkeld in samenwerking met de afdeling onderzoek en ontwikkeling Jigsaw en met de samenleving Technologie tegen terrorisme. Het initiatief wordt gesteund door de Verenigde Naties om technologiebedrijven te helpen online terrorisme te bestrijden en tegen te gaan.
"Er zijn veel websites die zich niet bezighouden met wetshandhaving. Het bouwen van de algoritmen is een operatie die veel werk en middelen vereist"Hij zei Yasmin Groen, CEO van Jigsaw bij het Financieele Dagblad. “Kleinere websites willen geen Isis-inhoud, maar hebben onbewust een enorme hoeveelheid ervan op hun platforms genesteld"Hij voegde eraan toe.
Bedrijven van internetserviceproviders zullen worden gedwongen om extremistische inhoud van hun platformen te verwijderen of boetes en andere sancties op te leggen onder nieuwe wetten, zoals de Wet op de digitale dienstverlening in de EU, die in november in werking is getreden, en de onlineveiligheidswet van Verenigd Koninkrijk, die dit jaar wet zou moeten worden.
De wet is onder druk gezet door politici en toezichthouders uit heel Europa, die beweren dat de groepen Big Tech Ik ben niet langer in staat om alle online content op een massale en analytische manier te controleren.
Maar het nieuwe regelgevingsregime heeft de vrees gewekt dat de start-up kleinere bedrijven zijn niet uitgerust om te evenaren, en dat gebrek aan middelen beperkt hun vermogen om te concurreren met grote technologiebedrijven.
"Ik heb een grote verschuiving opgemerkt in het feit dat toonaangevende platforms veel effectiever worden in het modereren, en dit duwt terroristische inhoud en Covid-nepnieuws naar andere sites kleiner, 'zei Green.
Een rapport van de Wereldwijd internetforum ter bestrijding van terrorisme (het wereldwijde internetforum voor terrorismebestrijding) 2021 schatte dat van elke 10.000 Facebook-berichten er zes terroristische of extremistische inhoud bevatten. Op kleinere platforms kan dit cijfer oplopen tot 5.000 of 50% van de inhoud.
Ook GIFCT-extensie, een niet-gouvernementele organisatie die in 2017 is opgericht door Facebook, Microsoft, Twitter en YouTube, ondersteunt het Jigsaw-project. De ngo onderhoudt een database met terroristische inhoud die moderatiesystemen kunnen gebruiken om bestaand materiaal online te lokaliseren.
op 13 december Facebook en Meta, eigenaren van Instagram, hebben een open source software die andere platforms kunnen gebruiken om terroristische inhoud te associëren met bestaande afbeeldingen of video's in de database en deze te markeren voor dringende verwijdering.
De tool van Jigsaw is bedoeld om de volgende stap in het proces te zetten en menselijke moderators te helpen beslissingen te nemen over inhoud die is gemarkeerd als gevaarlijk en illegaal. Tests met twee sites waarvan de identiteit geheim blijft, beginnen begin dit jaar.