Google desarrolla un moderador de webs para eliminar material terrorista

Google está desarrollando un moderador gratuito para sitios web más pequeños que pueden usar para identificar y eliminar material terrorista. Una respuesta a la nueva legislación en el Reino Unido y la Unión Europea que obliga a las empresas de Internet a hacer más para abordar el contenido ilegal.

El software fue desarrollado en colaboración con la unidad de investigación y desarrollo. Rompecabezas y con la sociedad Tecnología contra el terrorismo. La iniciativa cuenta con el apoyo de las Naciones Unidas para ayudar a las empresas tecnológicas a combatir y contrarrestar el terrorismo en línea.
"Hay muchos sitios web que no se ocupan de la aplicación de la ley. Construir los algoritmos es una operación que requiere mucho trabajo y recursos."Dijo yasmin verde, Director de Rompecabezas en el Financial Times. “Los sitios web más pequeños no quieren contenido de Isis, pero sin saberlo, tienen una gran cantidad de él en sus plataformas."Añadió.

Las empresas proveedoras de servicios de Internet se verán obligadas a eliminar el contenido extremista de sus plataformas o, alternativamente, enfrentar multas y otras sanciones en virtud de nuevas leyes, como la Ley de servicios digitales en la UE, que entró en vigor en noviembre, y el proyecto de ley de seguridad en línea de Reino Unido, que debería convertirse en ley este año.


La ley ha sido impulsada por políticos y reguladores de toda Europa, quienes argumentan que los grupos Big Tech Ya no puedo controlar todo el contenido en línea de forma masiva y analítica.
Pero el nuevo régimen regulatorio ha suscitado temores de que el startup las empresas más pequeñas no están equipadas para igualar, y esa falta de recursos limita su capacidad para competir con las grandes empresas tecnológicas.

"He notado un gran cambio en el hecho de que las principales plataformas se están volviendo mucho más efectivas para moderar, y esto empuja el contenido terrorista y las noticias falsas de Covid a otros sitios. más pequeño”, dijo Green.
Un informe de la Foro Global de Internet para Combatir el Terrorismo (el foro global contra el terrorismo de Internet) 2021 estimó que de cada 10.000 publicaciones en Facebook, seis contienen contenido terrorista o extremista. En plataformas más pequeñas, esta cifra podría llegar a 5.000, o el 50 % del contenido.
También Extensión GIFCT, una organización no gubernamental fundada por Facebook, Microsoft, Twitter y YouTube en 2017 apoya el proyecto Jigsaw. La ONG mantiene una base de datos de contenido terrorista que los sistemas de moderación pueden usar para ubicar materiales existentes en línea.

El 13 de diciembre, facebook y meta, dueños de Instagram, han lanzado un software de código abierto que otras plataformas pueden usar para asociar contenido terrorista con imágenes o videos existentes en la base de datos y resaltarlos para su eliminación urgente.

La herramienta de Jigsaw tiene como objetivo dar el siguiente paso en el proceso y ayudar a los moderadores humanos a tomar decisiones sobre el contenido marcado como peligroso e ilegal. Las pruebas con dos sitios cuyas identidades permanecen en secreto comenzarán a principios de este año.

Google desarrolla un moderador de webs para eliminar material terrorista