La utilización de la Inteligencia Artificial en entornos seguros: Compliance by design

Ayer se publicó un informe sobre el porcentaje de empresas españolas que hacen USO de la IA, sin contar con el sector financiero, ese porcentaje es del 7%. A pesar de ser un porcentaje bajo de utilización, estamos por encima de la media de la UE que es de 6%, eso nos lleva a comentar algunos puntos.


Fuente:https://www.ontsi.red.es/sites/ontsi/files/2021-04/indicadores_uso_ia_empresas_abril2021.pdf


La IA es una tecnología que va en crecimiento en diferentes países de la UE, y en combinación con otras tecnologías disruptivas está dentro de la estrategia digital que apuesta la UE para generar un liderazgo rezagado frente a otros países a nivel mundial. Y desde mi opinión, un punto favor y diferenciador frente a otros estados, es la creación de un marco jurídico que respalda los derechos de las personas en sus diferentes ámbitos.


Recientemente, como anuncié en otro post la UE acaba de emitir un marco normativo de regulación de la IA en el que establece el compromiso de liderazgo de la UE sobre la IA, eso si, centrado en el ser humano, sostenible, seguro, inclusiva y fiable.


Para ello, el criterio de evaluación de los desarrollos en IA se establecerá en función del riesgo:


a) Riesgo inadmisible

b) Alto Riesgo

c) Riesgo limitado

d) Riesgo mínimo o nulo


En ese sentido, este marco normativo lo que hace es motivar a las empresas a promover desarrollo de IA, bajo principios claros de cumplimiento y estableciendo una categoría de riesgos. En función de esta evaluación, los diseños sobre Inteligencia Artificial podrán continuar o no. Aquí vemos cómo la UE sigue el principio de “Compliance by design”, la evaluación del cumplimiento (Risk) desde el diseño de estas herramientas, y no, cuando ya existe un incumplimiento latente en el mercado que vulneran los derechos de las personas.


Es así como, en estas categorías de riesgos en los casos donde la evaluación es un Riesgo Inadmisible, por ejemplo, se prohibirá el desarrollo de esa tecnología por vulnerar la seguridad, los derechos humanos y canales de subsistencia. Y así continua con cada una de las tipologías de riesgos que las empresas, gobiernos e instituciones deberán evaluar desde el diseño.


Esperemos que en algunos años seamos testigos de un liderazgo tecnológico europeo y respetuoso de los derechos de las personas, entornos más seguros y transparentes.


74 vistas0 comentarios

Entradas Recientes

Ver todo