Reconocimiento facial AI: Francia contra la corriente de Europa

Si todo el planeta está preocupado por la falta de regulación en torno a la inteligencia artificial, la Unión Europea es la primera en reaccionar y acordar una posición común sobre una regulación europea sobre IA. Por su parte, Francia busca adoptar ahora el uso de IA de reconocimiento facial para cámaras de vigilancia. Una decisión en total contradicción con las disposiciones europeas que no se adoptará antes de 2026.

también te interesará

[EN VIDÉO] La humanidad comparte el 70% de sus expresiones faciales Los aproximadamente siete mil millones de humanos que habitan la Tierra tendrían otro punto en común. Finalmente, 16…

Hay un aire de contradicción entre las posiciones de la Unión Europea y las de Francia sobre la inteligencia artificial (IA). El tema se refiere a la seguridad y en particular al uso de estas IA para mejorarla. Este lunes 12 de junio, los senadores franceses votaron un proyecto de ley para utilizar el reconocimiento facial asistido por IA como parte de un experimento de tres años.

Un uso permanente en tiempo real del espacio público que supuestamente se limitaría a actividades deportivas y culturales, según los senadores que llevan la propuesta. El uso de estas herramientas ya se votó en el momento de la llamada ley JO 2024, pero ciertas enmiendas, en particular sobre el control facial en tiempo real, habían sido rechazadas. Los senadores reinciden pues al querer reinyectarlos hoy. Si bien hemos notado el uso masivo de drones por parte de la policía al día siguiente de su decreto de aplicación, lo cierto es que tal experimento debería desbordar muy rápidamente sus supuestas sabias intenciones originales.

El argumento de los senadores para justificar este trabajo: la lucha contra el terrorismo. Un argumento fuerte, pero incluso con el uso masivo de cámaras de vigilancia automatizadas que monitorean a todos los ciudadanos en tiempo real, nada indica que no habría «agujeros en la raqueta» y que los riesgos se reducirían a cero. Si hay pocas posibilidades de que esta propuesta vaya mucho más allá, sin embargo, muestra el espíritu de tecnoseguridad en el que está comprometida Francia.

Recientemente, el Senado también dio el sí a un proyecto de ley que prevé encender los micrófonos y las cámaras de los teléfonos inteligentes en determinadas investigaciones. De igual forma, el uso de herramientas para encriptar comunicaciones (Signal, Telegram, Proton Mail) es un área que puede generar cierta sospecha por parte de las autoridades. Esto es lo que reveló la organización La Quadrature du Net en un caso que data de finales de 2020.

Campeón de Francia de la vigilancia

Pero, cuando se trata de esta videovigilancia a través de IA, sin ofender a los senadores, hay una trampa. Este miércoles 14 de junio, el Parlamento Europeo significó que estos sistemas de reconocimiento facial mejorados con IA se consideraron riesgosos y, por lo tanto, deben clasificarse con las IA cuyo uso estará prohibido dentro de los países miembros de la Unión Europea. Situados en lo más alto de la escala de riesgos, encontramos por tanto estos sistemas de reconocimiento facial a distancia “en tiempo real” en espacios públicos. Los mismos sistemas utilizados «a posteriori» también se utilizan con algunas excepciones que hacen discutible la aplicación de la actual ley francesa JO 2024.

Prohíba también la IA capaz de categorizar biométricamente datos confidenciales (género, raza, estado de ciudadanía, religión, orientación política) o incluso sistemas policiales predictivos (elaboración de perfiles, ubicación, comportamiento delictivo anterior). Con sus decisiones, los eurodiputados buscan garantizar que la IA pueda beneficiarse del control humano permanente, que sea segura, transparente, rastreable, no discriminatoria y respetuosa con el medio ambiente. Pero esta IA Act, ambiciosa en términos éticos, no sucederá mañana. Los decretos de aplicación de la ley JO 2024 y quizás otros, tendrán todas las oportunidades de ser aprovechados antes. Y con razón, para que se apruebe el texto final del Parlamento Europeo, habrá que esperar hasta finales de año.

Más rápido que la música legislativa

Su entrada en vigor podría incluso producirse en un plazo mínimo de tres años, dejando la puerta abierta mientras tanto al uso desenfrenado de estas IA dedicadas a la vigilancia por parte de los Estados miembros, incluida Francia en primer lugar. Y la European IA Act no se limita a este aspecto de seguridad. Restringir el desarrollo de IA generativas como ChatGPT a cierta ética es parte de las misiones encomendadas a la Unión Europea en el marco de esta normativa. Aquí nuevamente, la tecnología irá más rápido que la música legislativa, ya que a modo de ejemplo y sin mencionar las excavadoras de alta tecnología estadounidenses o chinas, durante esta edición del foro Vivatech, el presidente de la República Emmanuel Macron anunció un ambicioso plan financiado por France 2030, destinado a apoyar a los jugadores en inteligencia artificial made in France. No estoy seguro de que el lado de la supervisión ética esté en el programa…

Deja un comentario