“`html
Con cada amanecer, innumerables investigadores, empresas y entidades académicas alrededor del planeta se dedican a crear nuevas aplicaciones para la inteligencia artificial. Es, sin duda, uno de los sectores tecnológicos que ha progresado más en los últimos años, aunque a pesar de sus indiscutibles ventajas, siempre ha estado envuelto en una atmósfera de controversia, alimentada por temores derivados de filmes distópicos de ciencia ficción. Lo cierto es que en la actualidad, como hemos explicado en múltiples ocasiones, la IA se utiliza en campos tan variados como la medicina, la educación o, por supuesto, el marketing. Y ahora la UE ha optado por regular su extensión.
Una nueva legislación de la UE centrada en la Inteligencia Artificial y los sistemas de puntuación social
El social scoring es un tipo de puntuación social que condiciona la fiabilidad o reputación de un individuo según diversos factores incluyendo datos o actividades en línea, y su implementación en China es verdaderamente inquietante para algunos, tanto que se ha filtrado información sobre una nueva normativa que la Unión Europea planea introducir para regular el uso de la inteligencia artificial y los sistemas de puntuación social en su territorio con la finalidad de salvaguardar a los ciudadanos.
La propuesta que la UE presentará oficialmente el próximo 21 de abril, y que ha sido filtrada por Político, muestra la postura decidida que se adoptará frente a ciertas aplicaciones de la IA: mientras que algunas prácticas como el social scoring estarán prohibidas, otros usos de esta tecnología serán regulados, similar a lo que implica el GDPR en el ámbito de la protección de datos.
Este será un enfoque de aplicación muy distinto al social scoring que hemos visto en otros países como Estados Unidos o China, donde el gobierno ya ha puesto en marcha el Sesame Credit, un sistema que desde 2015 evalúa a los ciudadanos mediante el Big Data para establecer una cultura de «sinceridad».
https://icrono.com/tendenciasmarketingsesame-credit-big-data-control-ciudadano/
La esencia del social scoring es medir la confianza que cada ciudadano aporta con base en sus conductas: sus publicaciones e interacciones en redes sociales, tiendas en línea, foros, etc. serán consideradas como positivas o negativas. En el primer caso, el ciudadano obtendrá puntos para acceder a ciertos beneficios, que abarcan el ámbito financiero, como la aprobación de créditos por parte de instituciones bancarias. Algo similar a una combinación de 1984 de Orwell y tácticas de gamificación.
Por otro lado, para la UE las prácticas de vigilancia indiscriminada de forma generalizada o sistemas de puntuación como el social scoring realizados mediante el uso de la inteligencia artificial son considerados de alto riesgo, y conforme a los datos aportados por The Verge, la supervisión de estas actividades podría llevar a su prohibición y podrían acarrear multas de hasta el 4% de los ingresos globales o 20 millones de euros, el monto que sea mayor, para aquellos que no cumplan con esta nueva legislación.
Algunas de las medidas que incluirá esta nueva propuesta
“`regulatoria
Según la información filtrada, la nueva normativa incluirá:
- Restricción en el uso de la IA para llevar a cabo vigilancia indiscriminada, que abarca aquellos sistemas que monitorean a las personas en espacios físicos o reúnen datos de fuentes externas.
- La prohibición de sistemas de Inteligencia Artificial diseñados para la puntuación social o scoring social, es decir, no será permitido evaluar la confiabilidad de un individuo basado en su comportamiento social o características de personalidad rastreadas por estos sistemas digitales.
- Se requerirá una autorización especial para el uso de “sistemas de identificación biométrica a distancia”, como el reconocimiento facial en lugares públicos.
- Asimismo, será obligatorio informar a las personas cuando interactúen con un sistema de Inteligencia Artificial, a menos que sea “evidente bajo el contexto y circunstancias”.
- Se establecerá una nueva supervisión para los sistemas de IA considerados de “alto riesgo”, es decir, aquellos que representan una amenaza directa para la seguridad, como los vehículos autónomos, o los que podrían tener un gran impacto en la vida de una persona, como aquellos empleados en la decisión de contratar a alguien o en decisiones judiciales, entre otros.
- Se formará un Consejo Europeo de Inteligencia Artificial, integrado por representantes de todos los países, que colaborará con la Comisión para determinar qué sistemas de Inteligencia Artificial se consideran de alto riesgo, además de proponer modificaciones a las prohibiciones existentes.
Existirán excepciones a las normas de vigilancia IA
Uno de los aspectos fundamentales de esta nueva regulación es el catálogo de prácticas prohibidas que incluyen el scoring social. Según el informe, Bruselas califica estas acciones como una infracción de los derechos fundamentales de las personas, no obstante, la reacción de los grupos de derechos digitales y expertos ante este punto es que debe ser mejorado, si es que se aprueba este acuerdo.
La propuesta también tendrá como objetivo prohibir todos los sistemas de Inteligencia Artificial que puedan perjudicar a las personas al manipular sus decisiones comportamentales, al explotar o resaltar las vulnerabilidades de las personas, así como los sesgos raciales o de género, y la vigilancia masiva.
No obstante, es imprescindible aclarar que las normativas filtradas establecen una excepción que permitirá a las autoridades emplear el scoring social o los sistemas de Inteligencia Artificial de manera más flexible en situaciones de seguridad pública, como el uso del reconocimiento facial en cámaras de vigilancia por parte de la policía.
Hasta ahora solo son especulaciones, y podrían surgir modificaciones en el borrador de esta propuesta, y por supuesto, una vez implementada esta nueva regulación, podrá estar sujeta a cambios dependiendo de los comentarios recibidos. ¿Estás de acuerdo con esta regulación?
Imagen: Depositphotos
