Massimiliano D'Elia
Il cumbre solicitado la semana pasada por el Primer Ministro inglés Altar En Gran Bretaña, el encuentro sobre IA (Inteligencia Artificial) contó con la participación de las mayores empresas de alta tecnología del mundo y de la mayoría de los líderes mundiales. Al final de la cumbre, las empresas se comprometieron, mediante una declaración de intenciones, a reconocer el papel de los gobiernos en la actividad de verificación antes de que cada producto de IA sea comercializado externamente. Propósito de la participación Publico privado es analizar cuidadosamente los posibles usos peligrosos de la IA en el campo de la seguridad nacional o en la sociedad.
Lo cierto es que el camino desde la intención a la práctica es todavía muy largo y tortuoso. De hecho Sunak ya se adelantó diciendo: “hacer que las cosas sean obligatorias y promulgar leyes lleva tiempo, debemos avanzar más rápido que ahora: es importante que las regulaciones tengan una base empírica, antes de especificar una regulación formal”..
Por tanto, cada Estado deberá hacer uso de una estructura encargada de verificar los nuevos modelos de IA. En Inglaterra habráInstituto para la seguridad de la IA.
Los riesgos temidos por Altar y tambien de Elon Musk, presentes en la cumbre, se refieren al efecto Terminator que esta nueva e inexplorada tecnología podría haber permitido que los modelos equipados con superinteligencia sean capaces de autoevolucionar, experimentar emociones y, potencialmente, actuar de forma autónoma. El temor es que un día, no muy lejano, puedan constituir un peligro concreto para la existencia de la humanidad.
Almizcle, al respecto, fue lapidario: “La inteligencia artificial representa uno de los mayores riesgos para la humanidad porque por primera vez nos enfrentamos a algo que será mucho más inteligente que nosotros."
El Pentágono ha publicado su estrategia de IA
Según un recuento hecho público por Oficina de Contabilidad del Gobierno EE.UU., a principios de 2021 el Departamento de Defensa estaría gestionando más de 685 proyectos relacionados con la IA. El Ejército va a la cabeza con al menos 232 proyectos. Sin embargo, según se informa, el Cuerpo de Marines gestiona al menos 33.
El Departamento de Defensa de EE.UU. se vio obligado a salir a la luz y recientemente publicó una nueva estrategia sobre el uso de análisis de datos e inteligencia artificial, presionando para que se invierta más en IA para desarrollar modelos avanzados de tecnologías autónomas, incluidos los drones.
El Pentágono pretende dotar a sus mandos militares sobre el terreno de nuevas herramientas capaces de ayudarles en la toma de decisiones. Por este motivo, se pide a la industria que desarrolle nuevos modelos de IA.
Otros objetivos descritos en la estrategia incluyen una mejor y mayor infraestructura. asociación con grupos fuera del Departamento de Defensa y una reforma de la burocracia interna que a menudo impide que la tecnología avance más rápido de lo que le gustaría al Departamento.
Con este documento, el Pentágono también establece la entidad interna (CDAO) que debe regirlo.
El CDAO se estableció en 2021 e incorporó el Centro Conjunto de Inteligencia Artificial, el Servicio Digital de Defensa, la plataforma de datos Advana y asumió el papel de Director de Datos.
El uso de IA generativa en el ejército es controvertido, escribe Defense News. Su principal beneficio es su capacidad para agilizar tareas simples o mundanas, como buscar archivos, encontrar información de contacto y responder preguntas sencillas. Pero la tecnología también se ha utilizado para impulsar ciberataques, intentos de suplantación de identidad y campañas de desinformación.
El Pentágono ha asegurado que los humanos seguirán siendo responsables del uso de fuerza letal y, como se afirma en la última revisión de sus armas nucleares, seguirán bajo estricto control humano.
El desarrollo y uso de armas semiautónomas o totalmente autónomas está regulado por la denominada Directiva 3000.09, firmada originalmente hace una década y actualizada el pasado mes de enero.
La directiva pretende reducir los riesgos de autonomía y potencia de fuego. No se aplica a la cibernética, un campo en el que los líderes defienden cada vez más la necesidad de capacidades autónomas.
El Task Force Lima, supervisado por el CDAO, se creó a principios de este año para evaluar y guiar la aplicación de la IA generativa con fines de seguridad nacional.
El Pentágono ha solicitado 1,4 millones de dólares para IA en el año fiscal 2024, que comienza el 1 de octubre, manteniendo los niveles de financiación sin cambios con respecto al año anterior.
¡Suscríbete a nuestro boletín!