Los próximos años vendrán marcados por los cambios que va a provocar la Inteligencia Artificial (IA), ya que es una herramienta poderosa que viene a mejorar los procesos de gran variedad de sectores.
La controversia inicial de los puestos de trabajo que se pueden perder por uso de la IA, ha pasado a plantear desafíos en cuanto a la protección de datos y la privacidad de los usuarios que interactúan con la tecnología.
España, como otros muchos países, tienen el reto de regular la IA, pero el objetivo no es sencillo porque hay que lograr el equilibrio entre mantener la protección de datos y no frenar el desarrollo ni la innovación en el campo de la innovación artificial.
Nueva Ley europea de Inteligencia Artificial
Ante la preocupación global existente, el Parlamento Europeo aprobó, el pasado marzo, la Ley de Inteligencia Artificial, que tratará de garantizar la seguridad y el respeto de los derechos fundamentales al tiempo que impulsa la innovación.
Esta es la primera ley vinculante del mundo sobre inteligencia artificial y busca reducir riesgos, crear oportunidades, combatir la discriminación y aportar transparencia.
Esta nueva Ley europea de inteligencia artificial, tiene unos ejes fundamentales:
- Aplicaciones prohibidas. Se prohíben aplicaciones de inteligencia artificial que atentan contra los derechos de la ciudadanía, entre ellas los sistemas de categorización biométrica basados en características sensibles, así como la captura indiscriminada de imágenes faciales o de reconocimiento de emociones para crear bases de datos de reconocimiento facial o de categorización ciudadana. Igualmente se prohíbe cualquier IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas. En el caso de la IA de alto riesgo, estos sistemas deben mantener registros de uso, ser transparentes y precisos y contar con supervisión humana.
- Transparencia. Los sistemas de IA de uso general y los modelos en los que se basan deben cumplir ciertos requisitos de transparencia, respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelo.
- Apoyo a la Innovación y a las pymes. Habrá que poner a disposición de las pymes y de las empresas emergentes espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional para que puedan desarrollar y entrenar la IA innovadora antes de su comercialización.
Inteligencia artificial y protección de datos en España
Esta nueva ley europea de Inteligencia Artificial, es un paso adelante en cuanto a regulación, pero se aplicará por fases, por lo que no entrará en vigor completamente hasta hasta el año 2026.
Hasta entonces nuestra privacidad no está comprometida -del todo- porque la tecnología, procesos o aplicaciones que incorporen IA deben adecuar su funcionamiento y uso al Reglamento General de Protección de Datos (RGPD) de la Unión Europea y a la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales (LOPDGDD).
Sin salirse de cómo se utiliza ya el RGPD, y teniendo en cuenta que la IA puede tratar datos o características del usuario físicas o de comportamiento de los usuarios, en la mayoría de ocasiones (si no se ha prohibido hacerlo) se imponen límites estrictos al considerarse tratamiento de categorías especiales de datos, debiendo superar el análisis de idoneidad, necesidad y proporcionalidad, que si lo pensamos bien muchas de los usos realizado de la IA no superaría.
Esto se traduce en que las aplicaciones basadas en IA deben incluir la anonimización de datos siempre que sea posible, el diseño de algoritmos que minimicen el riesgo de sesgos y discriminación, y la realización de evaluaciones de impacto en la privacidad para identificar y abordar posibles riesgos.
Por otro lado, se debe obtener el consentimiento explícito de los individuos para el procesamiento de sus datos, garantizar la transparencia en los algoritmos utilizados y garantizar la equidad y la no discriminación en las decisiones automatizadas.
Ejemplos de cómo la IA afecta a la privacidad en España
Para entenderlo, veamos algunos ejemplos de cómo la Inteligencia Artificial puede tener un impacto significativo en la privacidad de las personas:
- Existen aplicaciones de IA que captan y analizan datos e imágenes de internet, de forma que van prediciendo tu comportamiento, mostrándote información y contenidos que te puedan resultar atractivos o para personalizar la publicidad.
- Se pueden analizar patrones de bases de datos de cualquier sector como historiales médicos o transacciones financieras.
- Los sistemas y algoritmos de reconocimiento facial utilizados en sistemas de vigilancia y seguridad pueden recopilar y procesar imágenes de individuos.
- Utilización de información personal para entrenar los modelos de IA.
- Decisiones automatizadas en determinados sectores basadas en algoritmos opacos, como pueda ser la contratación de personal, con el escaneo y categorización de currículums o la concesión de préstamos
En cualquier caso, lo que está de fondo aquí es que para utilizar la IA tienen que crearse bases de datos, recopilar datos de forma masiva o categorizar o etiquetar personas en base a comportamiento lo que significa una grave amenaza para la privacidad de los individuos, por lo que debe buscarse un equilibrio entre este tratamiento de la privacidad y el avance de la IA.
Para navegar exitosamente los complejos requisitos legales y técnicos de esta nueva regulación, te ofrecemos nuestro servicio de asesoramiento contratación. Nuestros abogados especializados en derecho digital y protección de datos te ayudarán a adaptar tu empresa a las normativas de inteligencia artificial, asegurando cumplimiento y minimizando riesgos. ¡Contáctanos hoy para una consulta personalizada!