por Mónica Constantin – periodista y Fulvio Oscar Benussi periodista y miembro de la Fundación AIDR
La difusión en línea de contenidos no educativos y, por tanto, inaceptables nos interroga sobre las acciones que se deben tomar para proteger a los niños de contenidos nocivos. En este artículo presentaremos una interesante iniciativa legislativa dirigida a poner bajo control los algoritmos agresivos. Al mismo tiempo hablaremos de acciones parentales que pueden favorecer/reducir el fortalecimiento de la autodefensa de los niños frente a las “emboscadas” que pueden tener lugar en contextos digitales. Finalmente tomaremos en consideración la presencia cada vez más extendida de la inteligencia artificial en Internet y los riesgos relacionados. contaminación cognitiva que puede representar en el desarrollo de los niños. Por tanto, evaluaremos posibles remedios tecnológicos útiles para proteger a los menores de los peligros de Internet.
Ley de seguridad en línea, una ley para “controlar los algoritmos agresivos”
Para proteger a los menores de los peligros de Internet, el 26 de octubre de 2023 se aprobó la ley en Inglaterra.Ley de seguridad en línea. La ley establece que OFCOM, la Autoridad Reguladora de Servicios de Comunicaciones, tiene el poder de identificar y eliminar una amplia gama de publicaciones y medios considerados "dañinos" para los niños. La Ley de Seguridad en Línea permite a OFCOM establecer nuevas reglas estrictas para los servicios de Internet con respecto a cómo interactúan con los niños. Crea un deber de cuidado para las plataformas en línea, exigiéndoles que impidan la difusión de contenido ilegal o legal pero "dañino" a los usuarios más jóvenes. Esto se debe a que los contenidos y mensajes transmitidos, si no se controlan, pueden dañar a este segmento de usuarios. Las plataformas y redes sociales que incumplan este deber podrán ser multadas con hasta 18 millones de libras (21.240.000 euros) o lo que corresponde al 10% de su facturación anual. Si las empresas presentes en Internet no siguen las estrictas reglas indicadas, OFCOM intervendrá y también podrá bloquear el acceso a sitios web y servicios web que no cumplan. La ley también prevé obligaciones de protección de otras categorías de usuarios: en particular, las plataformas tecnológicas deben introducir sistemas que permitan a estos usuarios filtrar, eliminándolos de su posible visualización, aquellos contenidos que consideren inapropiados y que, por tanto, no quieran ver. encuentran en su navegación web.
Estrategias para proteger a los niños
Operadores de plataformas en línea:
– habrá que reforzar la Pautas contenido aceptable dentro del servicio ofrecido estableciendo reglas claras sobre qué contenido es indeseable;
– tendrán que garantizar un seguimiento continuo empleando equipos de revisión humanos respaldados por herramientas automáticas para supervisar y eliminar contenidos inapropiados;
– Será necesario actualizar constantemente los algoritmos de control para reconocer y eliminar nuevas amenazas.
– se les exigirá que implementen filtros de contenido que hagan que el contenido inapropiado para su edad no esté disponible para menores;
– deben ponerse a disposición de los padres herramientas que permitan el control parental de lo que sus hijos pueden o no deben ver;
– debe prever una verificación precisa de la edad para limitar el acceso a determinados contenidos a menores.
– en aras de la transparencia, se deben publicar informes periódicamente que describan cómo se gestiona el contenido inapropiado para usuarios menores;
– También habrá restricciones, gestionadas por la tecnología, que bloquearán el acceso a quienes no deberían poder ver las publicaciones de menores.
Para aumentar la resiliencia de los usuarios, especialmente de los menores, es necesario realizar campañas para educarlos sobre los riesgos asociados a la navegación por Internet y a la visualización y consulta de contenidos nocivos. También se deben proporcionar recursos educativos a padres y educadores sobre estrategias a seguir para proteger a sus hijos en línea.
Acciones de los padres que favorecen/reducen la autodefensa de los niños frente a los demás emboscadas digitali
En un mundo cada vez más digitalizado e interconectado, es muy difícil negar el acceso y uso de las redes sociales a menores de edad. Y ceder a peticiones en este sentido es casi inevitable mientras consigamos mantener la situación bajo control, oficialmente para protegerlos de los peligros de Internet, probablemente para garantizar una supervisión constante de los movimientos de nuestros niños, que desde tiempos inmemoriales Hemos tendido a sobreproteger, con todo lo que se puede conseguir. Y si hasta hace unas décadas el ejercicio del control consistía en la "represión" de determinadas libertades, hoy todo se ha complicado más.
Proteger a nuestros niños de contenidos dañinos en línea mediante el ejercicio de un control excesivo implica algunos problemas que no deben subestimarse. En primer lugar, esto puede limitar su creatividad y el desarrollo del pensamiento crítico e independiente, lo que resulta en una incapacidad para pensar fuera de lo común. Si experimentar y equivocarse son etapas fundamentales para un proceso de crecimiento sano y natural, limitar o canalizar sus conocimientos les impedirá desarrollar su propio pensamiento independiente. Tomar una decisión, expresar una opinión libre, argumentar con lógica, defender una posición generará ansiedad, sensación de incapacidad e insuficiencia, incluso frustración, baja autoestima, incapacidad para afrontar los desafíos que presenta la vida.
Investigar la vida multimedia de tus hijos, geolocalizar su posición, monitorear los videojuegos que juegan, los chats en los que escriben haciéndose partícipes, saber el quién, el cómo, el cuándo de cada segundo de sus vidas corre el riesgo de generar inseguridad. futuros adultos, incapaces de comparar y chocar, de encontrar su propio lugar en un mundo cada vez más interdependiente.
Las acciones de los padres que pueden reducir la curiosidad de los niños incluyen la vigilancia obsesiva y el control sofocante. Cuando cada paso y cada acción son monitoreados y regulados, el niño se ve privado de la posibilidad de explorar de forma independiente el mundo que lo rodea. Esta vigilancia asfixiante reduce el deseo de descubrir y experimentar, ya que cualquier intento de aventurarse más allá de los límites impuestos es rápidamente sofocado.
Un claro ejemplo de control excesivo es el uso de registros electrónicos en las escuelas. Esta herramienta, aunque útil para monitorear el progreso escolar, limita totalmente la posibilidad de faltar a la escuela, privando a los niños de la posibilidad de desobedecer y, por tanto, de experimentar la emoción de la transgresión. Aunque esto pueda parecer positivo, la desobediencia y los consiguientes regaños y castigos por parte de los padres juegan un papel fundamental en el proceso de crecimiento. A través de la experiencia de la transgresión y sus resultados, los niños aprenden a comprender las consecuencias de sus acciones y desarrollan un sentido de autonomía y responsabilidad.
Es fundamental encontrar un equilibrio entre protección y libertad, permitiendo a niños y jóvenes explorar, satisfacer su curiosidad, aprender y crecer a través de sus propias experiencias y errores. Sólo a través de un sano equilibrio entre orientación y autonomía podrán los jóvenes desarrollar las habilidades necesarias para moverse en un mundo cada vez más complejo e interconectado, convirtiéndose en adultos conscientes, seguros de sí mismos y capaces de afrontar los desafíos de la vida con valentía y determinación.
IContaminación cognitiva: ¿y si un genio malvado también se escondiera en Internet?
La llegada de la inteligencia artificial también implica riesgos, además de sus beneficios.
lacontaminación cognitiva es un fenómeno cada vez más preocupante impulsado por algoritmos de aprendizaje automático y robots de redes sociales que difunden información engañosa y atrapan a las personas en burbujas ideológicas. La exposición constante a contenidos de baja calidad y noticias falsas socava la capacidad de concentración y procesamiento de información. La atención, recurso fundamental para el aprendizaje y el razonamiento, se ve obstaculizada continuamente. Esto conduce a una disminución de las capacidades cognitivas, afectando negativamente a la memoria y a la capacidad para resolver problemas complejos.
Uno de los desafíos sociológicos más apremiantes es comprender por qué la gente confía cada vez más sus decisiones personales a la inteligencia artificial. Los algoritmos predictivos y los sistemas de recomendación prometen una vida rápida y fácil, pero existe el riesgo de que las personas pierdan contacto con su propio proceso de toma de decisiones. En nuestra cultura, constantemente confrontada con datos, muchas personas se sienten abrumadas. Los algoritmos predictivos inteligentes dictan implacablemente lo que suponen que son nuestros verdaderos deseos, creando una especie de profecía autocumplida. Las predicciones desarrolladas por algoritmos se convierten en sustitutos de la autonomía personal, limitando el aprendizaje de habilidades útiles para desarrollar la capacidad de actuar de forma autónoma.
Este proceso, definido como "outsourcing de decisiones", implica, por tanto, importantes riesgos para el desarrollo de la autonomía personal. La sobreabundancia de información digital dificulta discernir entre datos relevantes e irrelevantes, aumentando el riesgo de tomar decisiones basadas en sesgos cognitivos y percepciones distorsionadas de la realidad.
Los estudios de Kahneman y Tversky muestran cómo las personas, en condiciones de incertidumbre y riesgo, tienden a confiar en atajos mentales o heurísticas, que a menudo enfatizan los sesgos en las elecciones.
Los niños, en particular, son vulnerables a los efectos decontaminación cognitiva. Su capacidad de concentración y su desarrollo cognitivo pueden verse gravemente afectados por la sobreexposición a pantallas e información digital sin filtrar. El uso excesivo de dispositivos digitales puede interferir con el desarrollo de las habilidades de lectura, escritura y aritmética, así como limitar las interacciones sociales necesarias para un desarrollo emocional y conductual saludable.
En junio de 2024, el Papa Francisco participará en la cumbre del G7. En sus discursos expresó dudas y optimismo con respecto a las tecnologías emergentes. Si bien nos alentó a evitar opiniones pesimistas, destacó constantemente los dramáticos riesgos asociados con la inteligencia artificial (en adelante, IA), advirtiendo contracontaminación cognitiva.
Un ejemplo significativo de cómo los algoritmos influyen en nuestra vida diaria se remonta a 2004, cuando Google comenzó a personalizar los resultados de búsqueda según las preferencias del usuario con la función "Historial de búsqueda". Otro momento crucial fue el lanzamiento de ChatGPT el 30 de noviembre de 2022 y de las demás IA (Gemini, Dall E3, Claude, Meta Lama, Astra, etc.).
Entre las aplicaciones de IA destacamos:
buscadores y asistentes virtuales: proporcionan información y respuestas rápidas, pero también pueden crear burbujas de información que impiden el acceso a diferentes puntos de vista;
algoritmos de recomendación: utilizados por las redes sociales, el streaming y las plataformas de comercio electrónico para sugerir contenidos y productos que influyen en nuestras elecciones y hábitos;
análisis de datos y publicidad dirigida: recopilar y analizar grandes cantidades de datos para crear perfiles detallados de los usuarios, a menudo sin su pleno conocimiento.
Estas tecnologías, aunque útiles, pueden contribuir a la contaminación cognitiva, ya que facilitan la difusión de información manipulada y la amplificación de los sesgos cognitivos. Por tanto, es fundamental promover una mayor conciencia y alfabetización digitales, especialmente entre los más jóvenes, para aprovechar al máximo el potencial de la IA y contener sus efectos negativos.
Métodos que nos permiten reducir la posibilidad de encontrarnos "encerrados" en burbujas ideológicas
Los algoritmos utilizan cookies para perfilar a los usuarios, asumir sus deseos y satisfacerlos, creando una especie de "profecía ideológica que se autoconfirma". A continuación le presentamos los enlaces donde puede actuar para eliminar las cookies conectadas a los siguientes servicios de Internet (operación que recomendamos realizar periódicamente):
Navegador: https://www.aranzulla.it/come-eliminare-i-cookie-78137.html
Objetivo: https://it-it.facebook.com/help/336858938174917
Instagram (para hacer esto necesitas borrar tu caché de Instagram):https://www.aranzulla.it/come-pulire-la-cache-di-instagram-1390883.html#:~:text=Innanzitutto%2C%20avvia%20l’app%20Impostazioni,Facile%2C%20vero%3F
Tik Tok: https://www.tiktok.com/legal/page/eea/privacy-policy/it
¡Suscríbete a nuestro boletín!