La norma, acordada por la Unión Europea, pretende garantizar que los sistemas de IA utilizados en la región sean seguros para los usuarios
Después de varios días de negociaciones, la Unión Europea ha llegado a un acuerdo para aprobar la ley europea de inteligencia artificial (IA). Se trata de una norma pionera en el mundo, ya que por primera vez se regula esta novedosa tecnología capaz de llevar a cabo operaciones muy parecidas a las que realiza la mente humana.
La idea central de la ley es regular la IA en base al nivel de peligro que conlleva su uso, es decir, a la capacidad que tiene esta tecnología para causar daño a la sociedad. La UE ha aceptado que cuanto mayor sea el riesgo asociado, más estrictas serán las normas aprobadas.
#TRILOGUE | DEAL! DEAL! DEAL! @EUCouncil and @Europarl_EN have reached a provisional agreement on the artificial intelligence act #AIAct
— Presidencia española del Consejo de la UE (@eu2023es) December 8, 2023
The regulation aims to ensure that AI systems placed and used in the EU are safe and respect fundamental rights and european values. pic.twitter.com/F1YoFf5x60
Una de las principales regulaciones tiene que ver con los sistemas de identificación biométrica, que son tecnologías que utilizan características físicas de los individuos para verificar y autenticar su identidad. Es el caso de las huellas dactilares o el reconocimiento facial.
La ley europea de IA permitirá a los cuerpos policiales acceder a las cámaras de identificación biométrica de edificios públicos cuando sea para garantizar la seguridad nacional y siempre que haya autorización judicial. Por ejemplo, para identificar a autores de delitos relacionados con el terrorismo, el tráfico de personas o la explotación sexual.
Además, la norma prohibirá que los sistemas de IA categoricen a los usuarios por creencias políticas, religiosas, filosóficas o por su raza y orientación sexual. Tampoco estarán permitidos los sistemas que puntúan a las personas en función de su comportamiento o características personales.
Como ocurre con el resto de normas de la Unión Europea, la ley de inteligencia artificial ahora tendrá que ser ratificada por el Parlamento Europeo y el Consejo de la UE, la institución que representa a los Gobiernos europeos. La normativa debería entrar en vigor dentro de dos años y no sería efectiva hasta 2026.
La mayor parte de la legislación de la Unión Europea 🇪🇺 se adopta mediante lo que se conoce como procedimiento legislativo ordinario 📋. Te contamos en qué consiste 👇https://t.co/XlLok5g2lW
— Junior Report (@JuniorReport_) December 7, 2023
La regulación de ChatGPT
Uno de los principales temas de conversación durante la negociación de la nueva ley ha sido la inteligencia artificial generativa, es decir, los sistemas capaces de generar texto, imágenes o vídeos o demanda. Hablamos de tecnologías como ChatGPT, de la empresa OpeanAI, o Bard, de Google.
Estos sistemas son capaces de crear contenidos muy realistas en cuestión de segundos, aunque estos textos puedan estar cargados de información falsa. Lo mismo ocurre con otras herramientas de IA que pueden crear fotos, vídeos y audios que nunca han ocurrido en la realidad.
La normativa europea obligará a estas empresas a ser transparentes acerca de su funcionamiento, compartiendo información sobre cómo son entrenadas sus máquinas. Las compañías también deberán garantizar que los datos que se han empleado para entrenar a sus sistemas respeten los derechos de autor.
Además, los resultados generados por la IA deberán ser marcados para que se sepa que proceden de una máquina. El propósito de esta marca es reforzar la lucha contra la desinformación, protegiendo a los usuarios en línea de posible información falsa y fomentando un uso más crítico del entorno digital.
Con esta normativa, el objetivo de la UE es doble: por un lado, quiere proteger la seguridad, la salud y los derechos fundamentales de la ciudadanía; por otro, busca garantizar a las empresas tecnológicas una estabilidad a largo plazo para favorecer la inversión e innovación en la región.
🤫Un secreto: estos estudiantes no existen, son productos de la #IA.
— Junior Report (@JuniorReport_) June 30, 2023
En un mundo donde la #desinformación impulsada por IA es real, es vital enseñar a los estudiantes a detectarla. ¡Junto a @veri_fi_cat hacemos exactamente eso! 👇 pic.twitter.com/KYXSrTdIue
Más allá de escribir textos
Cuando hablamos de inteligencia artificial es normal que pensemos en herramientas como ChatGPT: en los últimos meses este sistema ha ocupado los titulares de los medios de comunicación por su novedad. Sin embargo, la IA engloba multitud de tecnologías que se utilizan cada día alrededor del mundo.
El reconocimiento facial de nuestro teléfono móvil, la traducción automática que realiza Google Translate, los robots que limpian y friegan el suelo, los asistentes de voz como Alexa que responden a nuestras preguntas… La inteligencia artificial está incorporada en una gran variedad de artículos.
Una de sus utilidades más novedosas está en el campo de la medicina, donde ha mostrado un gran potencial para transformar la forma en que se diagnostican, tratan y gestionan algunas enfermedades. La IA ha demostrado ser muy útil a la hora de analizar imágenes médicas como radiografías.
Un estudio reciente publicado en The Lancet ha desvelado que el cribado con IA detecta un 20% más de cánceres de mama en comparación con la lectura de las mamografías llevada a cabo por los radiólogos. Los algoritmos que utilizan la inteligencia artificial pueden identificar patrones sutiles que podrían pasar desapercibidos para el ojo humano.
La inteligencia artificial presenta tanto riesgos como oportunidades, y su impacto depende en gran medida de cómo se desarrolla, implementa y gestiona. Por eso una ley que regule su funcionamiento es tan importante.
