En la actualidad, el uso de la inteligencia artificial esta transformado de una manera considerable los aspectos de la sociedad, desde la forma en la que trabajamos hasta como podemos llegar a interactuar con la tecnología. Al mismo tiempo que las innovaciones van avanzando, surge de manera paralela la necesidad de poder establecer unas regulaciones claras y efectivas con el fin de poder llegar a garantizar un desarrollo seguro, ético y responsable de la inteligencia artificial. El Parlamento Europeo, aprobó el reglamento de la inteligencia artificial convirtiéndose así una herramienta para poder abordar los desafíos y riesgos asociados a su implementación, para asegurar las tecnologías de la inteligencia artificial aborden de manera efectiva los derechos humanos, se promueva la transparencia y no prosigan sesgos o discriminación alguna.
Esta normativa a parte de establecer unas directrices y límites para los desarrolladores y usuarios, también tiene la finalidad de buscar un equilibrio entre la innovación y la protección de los intereses públicos. A continuación se detallaran los principales aspectos del reglamento, así como su implementación va configurando el uso en el futuro de esta tecnología.
1. Objetivo del Reglamento
El objetivo que tiene el reglamento es establecer un marco normativo que garantice el desarrollo, uso y supervisión de las tecnologías de la inteligencia artificial de manera equilibrada y responsable en el ámbito territorial de la UE, para crear un entorno jurídico que promueva la innovación sin perder la seguridad y privacidad de los derechos fundamentales de los ciudadanos. De esta manera, el objetivo que tiene el Reglamento es establecer que las normativas de los diferentes países de la UE este alineadas, para evitar una fragmentación del mercado interior y no se dé una inseguridad jurídicas para los aquellos que utilizan o desarrollan este tipo de tecnología.
Los principales propósitos del reglamento del reglamento, los podemos categorizar en estos 5 apartados.
- Protección de los derechos humanos, evitando así las vulneración de los derechos fundamentales como son la privacidad, igualdad y no discriminación.
- Fomentar la transparencia y la responsabilidad de uso, para asegurar que los sistemas basados en inteligencia artificial sean más comprensible y las decisiones que toma de manera automatizadas sean explicadas de una manera factible para los usuarios.
- Prevenir riesgos y minimizar los daños derivados de su uso, para ello se establece unas medidas que ayuden a gestionar los riesgos asociados al uso de esta tecnología, sobre todo en ámbitos tan susceptibles como salud, seguridad, y el empleo.
- Favorecer a una innovación segura, es decir, el desarrollo de la inteligencia artificial de manera controlada y en base a unos principios éticos, esto hace que se impulse el crecimiento económico y la competitividad, a la vez que no se compromete la seguridad y los valores sociales.
- Garantizar la justicia y la no discriminación, evitando así que se pueda dar una escenario donde los sesgos y desigualdades se amplifiquen, y haya un desarrollo y uso de la tecnología de manera justa y equitativa para todos los grupos sociales.
2. Ámbito de aplicación
En el caso del ámbito de aplicación del reglamento, esta destinado a todos aquellos sectores que incorporen esta tecnología dentro de la UE, y por ello estarán sujetos a las directrices que están establecidas dentro del Reglamento. Lo que se intenta conseguir, es una normativa unificada de los diferentes países que pertenecen a la UE, para conseguir un desarrollo más factible de la inteligencia artificial y evitar las barreras del comercio transfronterizo creando así un mercado único para que los desarrolladores, empresas y usuarios actúen bajos las mismas reglas.
Se exceptúan de esta aplicación, las autoridades públicas de terceros países y organizaciones internacionales que usen esta tecnología en el ámbito de la cooperación policial o judicial con la UE o sus Estados Miembro. Así también, queda exceptuado para los sistemas de uso militar o aquellos sistemas que se relacionen con la seguridad nacional, investigación o el desarrollo científico, dado que están regulados por normativas específicas, en caso de que se utilicen para otros fines civiles, deberán cumplir los requisitos del reglamento.
3. Prohibiciones de uso de la Inteligencia Artificial.
En el artículo 5 del Reglamento, nos encontramos con una serie de prohibiciones para el uso de la Inteligencia Artificial, puesto que estas se consideran incompatibles con los valores de la UE y los derechos fundamentales, son relevantes en el contexto de la protección de la dignidad humana, privacidad e igualdad de trato. Nos encontramos con las siguientes prohibiciones dentro del Reglamento.
- Condicionamiento subliminal, no se podrá usar o desarrollar sistemas de inteligencia artificial que influyan en el comportamiento de las personas sin su consentimiento o conocimiento y que desarrolle en ellas un comportamiento negativo en su bienestar físico o emocional.
- Aprovechamiento de la vulnerabilidad, la prohibición sobre sistemas que exploten vulnerabilidades de los colectivos específicos, como personas con discapacidades, grupos con dificultades económicas o los menores de edad. Evitando así obtener un beneficio de ellos o causar un daño sobre las personas que pertenezcan a estos colectivos por el uso de esta tecnología y la manipulación que pueda dar.
- Sistemas de valoración social, aquellos mecanismos que se utilizan para asignar una puntuación a las personas en base a su comportamiento o las acciones que desarrollan dentro de la sociedad, o en las características personales de ellas. Para evitar una exclusión sobre la reputación de las personas, y que no limite su acceso a ciertos ámbitos como son el empleo o derechos por la evaluación que se realiza sobre ellas, evitando la discriminación.
- Análisis biométrico discriminativo, no se podrá clasificar a las personas según sus características biométricas, puesto que ello llevaría a fomentar estereotipos y prejuicios sobre los ciertos grupos sociales. La prohibición de este análisis tiene el objetivo de evitar una vulneración en la privacidad, en la equidad y la discriminación.
4. Sistemas de inteligencia artificial de Alto Riesgo
Uno de los ejes centrales del reglamento es la regulación de este tipo de sistemas, que son aquellos que pueden tener un impacto significativo en relación a los derechos fundamentales. Esto sistemas son objeto de requisitos de manera estricta para su comercialización y uso dentro de la UE. Por ejemplo, tenemos los siguientes sistema de inteligencia artificial encuadrados en alto riesgo:
- Sistemas de identificación biométrica, como son el reconocimiento facial, huellas dactilares o reconocimiento de iris, que se utilicen en los espacios públicos para la vigilancia o el control de acceso, estos son altamente invasivos, y si no tienen una regulación adecuada se puede dar una violación de la privacidad y discriminación.
- Sistemas en sectores críticos, en sectores como la salud, seguridad, transporte o educación. En esto casos, los errores que se puedan derivar del uso de esta tecnología pueden tener consecuencias graves para las personas.
- Sistemas con aplicación en procedimientos judiciales, no se podría utilizar dichos sistemas para hacer cumplir la ley, pesto que la inteligencia artificial podría afectar en la toma de decisiones que afecte a la libertad de las personas y sus derechos, es crucial garantizar que estos sistemas operen de manera justa y transparente
Estos sistemas, tiene que asegurar la confianza pública y la protección de los derechos individuales, por ello deben cumplir con unos requisitos muy exhaustivas de transparencia, seguridad, supervisión humana y control de sesgos. Como se ha visto anteriormente, en lo que respecta a las transparencia se implica a que usuarios y personas afectada por el uso de esta tecnología puedan entender cómo funcionan y se toman las decisiones de la misma. En el caso de la supervisión humana, no deja de ser crucial puesto que la inteligencia artificial toma decesiones automatizas en base a los datos con lo que se ha ido entrenado y podría tomar decisiones erróneas. Y por último, en el control de sesgos, para que no se condene de manera continuada a las desigualdad que ya existe.
Todo ello estará sujeto a evaluaciones de impacto, lo que ayudara a identificar y mitigar los riesgos asociados del uso de la tecnológica, y poder realizar medidas correctivas ante de su implementación, lo que ello lleva a buscar un desarrollo ético y responsable.
5. Identificación Biométrica remota en tiempo real y el uso de la inteligencia artificial.
Es uno de los aspectos más controvertidos en la regulación de la inteligencia artificial en los espacios públicos como las cámaras de reconocimiento facial. Aunque tiene ventajas en lo referente a la seguridad y vigilancia, plantea preocupaciones en lo referente a la privacidad, libertad y discriminación, por regla general su uso esta prohibido, aunque aprecia una serie de excepciones para aquellas situaciones que su uso sea necesario.
- Búsqueda de victima de delito graves o personas que se encuentren desaparecidas, con el uso de esta tecnología se puede ayudar en el proceso de investigación a una búsqueda efectiva y eficaz, evitando así consecuencias graves de la situación en la que están.
- Prevención de amenazas inminente, en estos casos se utilizará para evitar daños mayores como son ataques terroristas o donde el riesgo de vida o seguridad física de la persona sea inminente. Este uso se podrá considerar como una medida preventiva para poder neutralizar aquellas amenazas y que no lleguen a materializarse.
- Identificación de sospechosos en aquellos delitos que sean graves, será sobre aquellos delitos que tengan una pena de prisión superior a cuatro años, manteniendo un equilibrio entre la seguridad publica y la protección de derecho individuales.
Para poder utilizar esta tecnología en la identificación biométrica, será necesario una autorización, que será expedida por la autoridad judicial competente o administrativa, evitando así que el uso de esta derive en abusos o en decisiones que no sean justas u objetivas. Además, que el uso debe ser dentro de un escenario el cual sea proporcional, limitado en el tiempo y geográficamente, todo ello supervisado para no violar derechos fundamentales.
Esta regulación lo que busca es el uso de esta tecnología cuando sea estrictamente necesario, y que su uso sea para garantizar la seguridad y el bienestar social.
6. La responsabilidad y transparencia para los proveedores de la inteligencia artificial.
En el reglamento nos encontramos como unas obligaciones para aquellos que estén involucrados en el desarrollo y uso de los sistemas de la inteligencia artificial, como pueden ser los desarrolladores, proveedores e incluso usuarios. Estas obligaciones son fundamentales, puesto que garantizan la confianza, seguridad y la equidad de uso de la inteligencia artificial.
- Responsabilidad de los proveedores de inteligencia artificial de alto riesgo, estos deben garantizar y asegurar la trazabilidad en el diseño y desarrollo de su sistema, a través de una documentación detalla en la cual tienen que incluir un registro meticuloso de los datos que se utilizan para el entrenamiento de dichos sistemas, para identificación de riegos y sus mejoras. También implicar una prevención en los riesgos discriminarlos, es decir, que los algoritmos utilizado y con los que se entrena a la inteligencia artificial no conlleven a unos sesgos de discriminación.
- Información para los usuarios, estos tiene derechos a estar informados de manera suficiente y clara de como funciona el sistema que están utilizando, incluyendo la capacidad y la limitaciones del mismo.Documentación técnica, la cual detallara el funcionamiento del sistema, método y variables que se utilizan para su operación.
- Evaluaciones de impacto por parte de los proveedores, para tener una información veraz de como puede afectar la implementación y uso de la inteligencia artificial sobre las personas.
- Sistemas de auditorías, esto se hace para que el uso del sistema esta en consonancia con las normativas legales vigentes, es decir, operando dentro de los límites legales y éticos establecidos en ellas.
7. Innovación PYMES
Uno de los objetivos del reglamento es la fomentar la innovación de una manera responsable de esta tecnología entre las PYMES y aquellas startups que se dedican al desarrollo de estos sistemas. Puesto que se las considera como fundamentales para el desarrollo de la economía y empleo.
- Sandboxes regulatorios, esto significa la creación de espacios controlados de prueba que permiten a las empresas experimentar con nuevas soluciones dentro del campo de la inteligencia artificial en un marco seguro y supervisado. En este caso, podemos hablar de una serie de ventajas, como son:
- Una flexibilidad normativa en lo relacionado a la innovación, sin llegar a estar sujetas a requisitos que ya se aplican en productos establecidos en el mercado. De esta manera, hay una reducción de barreras de entradas y permite así una competitividad más efectiva.
- Control por parte de las autoridades competentes, ya que están involucradas a lo largo del proces para mantener que las pruebas que se realicen sean seguras y éticas.
- Equilibrio entre la regulación y competitividad para equilibrar la protección a los consumidores y que las PYMES no se vean limitadas por las normativas en su desarrollo.
- Impulso a la innovación, al principio no tendrán una carga regulatoria severa, es decir, podrán experimentar en el desarrollo sin miedo a enfrentarse a sanciones por parte de las autoridades, permitiendo así la introducción de nuevas soluciones y enfoques en esta tecnología.
- Apoyo a PYMES, a parte de lo anteriores también se prevé en el reglamento unos mecanismos de apoyo como son la formación y capacitación que están destinados a ayudar a las PYMES sobre el desarrollo de la tecnología. También a ello se le suma, el acceso a la financiación, que ayudará a que inviertan en la investigación y desarrollo para proyectos futuros.
8. Protección de datos y los derechos fundamentales
Como en todos los ámbitos, una de las preocupaciones más relevantes esta enfocada en la protección de datos personales, en este caso la inteligencia artificial hace un enfoque estricto sobre ella, y se regule de acuerdo con la normativa vigente en la materia el Reglamento General de Protección de Datos (RGPD). En el reglamento de la inteligencia artificial, establece que los sistemas desarrollados tienen que garantizar los principios indicados en el RGPD, que son:
- La licitud, lealtad y transparencia de los datos obtenidos de manera legal y con previo conocimiento de los usuarios.
- Finalidad de los datos obtenido, para fines específicos, explícitos y legítimos.
- Minimización de datos, solo se obtendrán los datos que sean necesarios para el fin que se haya establecido.
- Exactitud de los datos, y en caso de que sea necesario actualizados.
También tendrán cumplir los derechos de los interesados en lo que respecta a la automatización de los datos y decisiones que se lleven a cabo por la inteligencia artificial. En este caso, los derechos que tienen los usuarios será la transparencia, acceso a la información, rectificación y la supresión o derecho al olvido. La empresas que no cumplan lo mencionado anteriormente tendrá a consecuencia de ello unas sanciones severas aparejadas a multas que tienen unas cantidades significativas y responsabilidades.
9. Conclusión
La conclusión a la que podemos llegar es que el reglamento aprobado por el Parlamento, nos proporciona una marco jurídico solido que busca equilibrar la innovación entre la inteligencia artificial con la protección de los derechos fundamentales, la privacidad y la seguridad en todo el ámbito de la UE. El reglamento nos define unas reglas claras para mitigar los riegos derivados del uso y desarrollo de la inteligencia artificial, prohibiendo aquellos que sean perjudiciales para los valores europeos y restringiendo o limitando aquellos que aunque en regla general este prohibidos son beneficiosos en ciertas situaciones. Hemos podido observar como el Parlamento hace especial hincapié en las PYMES y startups, fomentado la innovación a través de ayuda económicas y formación, con el objetivo de posicionar a Europa como líder mundial en el desarrollo de esta tecnología de manera ética y confiable. En ultima instancia, podemos indicar que el objetivo primordial del reglamento es garantizar el avance de la inteligencia artificial en el beneficio de los ciudadanos en su conjunto, promoviendo un entorno en que el la inteligencia artificial siga desarrollándose de una manera responsable y sostenible.