{"id":238,"date":"2022-06-29T10:39:31","date_gmt":"2022-06-29T09:39:31","guid":{"rendered":"https:\/\/blogs.uab.cat\/derecho-y-digitalizacion-empresarial\/?p=238"},"modified":"2024-03-18T18:10:48","modified_gmt":"2024-03-18T16:10:48","slug":"el-marco-juridico-de-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/2022\/06\/29\/el-marco-juridico-de-la-inteligencia-artificial\/","title":{"rendered":"El Marco Jur\u00eddico de la Inteligencia Artificial"},"content":{"rendered":"<p style=\"text-align: center\"><strong><em>Seminario a cargo del Prof. Martin Ebers<\/em><\/strong><\/p>\n<p>El prof. Martin Ebers de la Universidad de Tartu (Estonia) e investigador permanente en la Universidad Humboldt de Berl\u00edn nos visit\u00f3 el 27 de junio de 2022. Los asistentes a su seminario tuvimos la oportunidad de escucharle -en algunos casos, de nuevo- disertar sobre la denominada <em>Artificial Intelligence Act<\/em> [Proposal for a Regulation of the European Parliament and of the Council laying down harmonized rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union legislative Acts, COM(2021) 206 final. En adelante, AIA] que va acompa\u00f1ada de la revisi\u00f3n de la conocida como Directiva de m\u00e1quinas y de la tambi\u00e9n revisi\u00f3n de la Directiva de seguridad general de los productos, las cuales previsiblemente acabar\u00e1n convirti\u00e9ndose en sendos reglamentos comunitarios.<\/p>\n<p>Este marco jur\u00eddico de la inteligencia artificial (en adelante, IA) se ver\u00e1 completado por otras leyes como la <em>Digital Services<\/em> y la <em>Digital Markets Acts<\/em>, la <em>Data Act<\/em>, la <em>Data Governance Act<\/em> junto con una Propuesta de reglamento de responsabilidad civil por los da\u00f1os que ocasione un sistema de IA y la revisi\u00f3n de la Directiva de responsabilidad del fabricante por productos defectuosos que seguramente se har\u00e1 p\u00fablica en oto\u00f1o.<\/p>\n<p>A todo este paquete de normas debe a\u00f1adirse la legislaci\u00f3n sectorial como la relativa a los drones o en el futuro la de los veh\u00edculos sin conductor. Finalmente, se complementar\u00e1 este marco con est\u00e1ndares t\u00e9cnicos elaborados por instituciones de car\u00e1cter privado como CEN o CENELEC.<\/p>\n<p>Todo este conjunto de nuevas normas debe cohonestarse con normas que ya est\u00e1n vigentes. Me refiero al Reglamento General de Protecci\u00f3n de datos 2016\/679, de 27 de abril de 2016. Asimismo, es relevante el Reglamento sobre libre circulaci\u00f3n de datos no personales de 2018\/1807, de 14 de noviembre, el reglamento sobre ciberseguridad 2019\/881, de 17 de abril de 2019, el reglamento sobre productos sanitarios y productos para diagn\u00f3stico in vitro de 2017 y que entraron en vigor en mayo del 2021. Finalmente, debe tenerse en cuenta la Directiva de datos abiertos 2019\/1024, de 20 de junio de 2019 llamada probablemente a ser sustituida por la <em>Data Act<\/em>.<\/p>\n<p>El ponente destac\u00f3 los cinco aspectos problem\u00e1ticos de los sistemas de IA que pueden resumirse de la siguiente manera. En primer lugar, la complejidad e interconectividad de los sistemas (IoT), en segundo lugar, la extracci\u00f3n de patrones o correlaci\u00f3n como tarea propia de estos sistemas, en tercer t\u00e9rmino, la constante adaptaci\u00f3n al entorno y actualizaci\u00f3n, despu\u00e9s, el comportamiento aut\u00f3nomo y, finalmente, su opacidad manifestada en la conocida \u201cblack box\u201d.<\/p>\n<p>Tras ello hizo referencia a la clasificaci\u00f3n de los sistemas de IA en funci\u00f3n de los riesgos que pueden generar. Distingue entre aquellas <em>pr\u00e1cticas que est\u00e1n prohibidas<\/em> (art. 5 AIA) pues crean un riesgo inaceptable ya que representan una amenaza para la seguridad, la vida y los derechos de los individuos, los <em>sistemas de alto riesgo<\/em> que deben cumplir unos requisitos obligatorios <em>ex ante <\/em>y <em>ex post<\/em> comercializaci\u00f3n o puesta en servicio (arts. 8 ss AIA), <em>riesgo limitado<\/em>, para los cuales establece obligaciones de transparencia que permitan a las personas conocer que est\u00e1 interactuando con un sistema de IA (art. 52 AIA) y <em>riesgo m\u00ednimo o residual<\/em> referido al resto de sistemas de IA que pueden fabricarse de acuerdo con la normativa ya existente, aunque los fabricantes pueden acogerse voluntariamente a la AIA, en cuanto a la aplicaci\u00f3n de los requisitos se\u00f1alados para los sistemas de alto riesgo, al adherirse a c\u00f3digos de conducta para una IA confiable, que los contemplen, elaborados por ellos o por las organizaciones a las que pertenecen (art. 69 AIA).<\/p>\n<p>Una vez expuesta la clasificaci\u00f3n de estos sistemas, el Prof. Ebers se entretuvo en el concepto de sistema de IA excesivamente amplio -que presenta la AIA- considerando que deber\u00eda restringirse para evitar que un simple programa de ordenador caiga dentro de esta definici\u00f3n.<\/p>\n<p>En cuanto al \u00e1mbito de aplicaci\u00f3n de la AIA pretende ser una norma de aplicaci\u00f3n horizontal que sea tambi\u00e9n complementaria de la legislaci\u00f3n europea armonizada existente. Por tanto, la AIA ser\u00eda <em>lex generalis<\/em> frente a esta legislaci\u00f3n que ser\u00eda <em>lex specialis<\/em>. Los sujetos a los que se va a aplicar la norma son: proveedores p\u00fablicos y privados en la UE, usuarios profesionales en la UE y proveedores y usuarios profesionales fuera de la UE cuando la informaci\u00f3n de salida generada por el sistema se utilice en la UE (art. 2).<\/p>\n<p>Una vez analizados todos estos aspectos, el ponente se centr\u00f3 en los sistemas de alto riesgo diferenciando dos categor\u00edas: los sistemas de IA que son componentes de seguridad de los productos y los sistemas de IA en s\u00ed mismo considerados o <em>stand-alone-software<\/em>. Respecto de los primeros, hay que tener en cuenta la legislaci\u00f3n armonizada que, en algunos casos, los contemplan como es la normativa sobre productos sanitarios. En estos casos, la AIA se prev\u00e9 como complementaria insert\u00e1ndose el cumplimiento de los requisitos que exige la norma con los propios que ordena la legislaci\u00f3n armonizada evitando -eso s\u00ed- que existan duplicidades que hagan la situaci\u00f3n m\u00e1s gravosa para el proveedor. El listado de legislaci\u00f3n armonizada se encuentra en el Anexo II de la AIA. Por su parte, los sistemas de IA en s\u00ed mismo considerados que se apliquen en las ocho \u00e1reas establecidas en el Anexo III deber\u00e1n pasar los controles de conformidad precisados en la AIA para poder recibir el marcado CE y as\u00ed ponerse en circulaci\u00f3n, en uso o en servicio, en el mercado como sistemas de IA seguros y confiables.<\/p>\n<p>Los proveedores de los sistemas de alto riesgo deben adoptar un sistema de gesti\u00f3n de riesgos (art. 9 AIA) y de calidad (art. 17 AIA), facilitar la detecci\u00f3n de los sesgos mediante la elaboraci\u00f3n de documentaci\u00f3n t\u00e9cnica (art. 11 AIA), registro de las operaciones (art. 12 AIA) y supervisi\u00f3n humana (art. 14 AIA), adem\u00e1s de que se debe informar adecuadamente a los usuarios de estos sistemas (art. 13 AIA). El art. 10 AIA establece que los sistemas de IA de alto riesgo que se desarrollen con conjuntos de datos deben responder a unas pr\u00e1cticas apropiadas de gobernanza y administraci\u00f3n en relaci\u00f3n con la elecci\u00f3n, recopilaci\u00f3n, etiquetado y otras t\u00e9cnicas de preparaci\u00f3n. Los conjuntos de datos deben estar libres de errores, ser completos y representativos, por tanto, libres de sesgos. La AIA establece que se adopten medidas para asegurar la robustez, seguridad y precisi\u00f3n de un sistema de IA de alto riesgo desde el dise\u00f1o y en la fabricaci\u00f3n del mismo (arts. 13 y 15).<\/p>\n<p>El debate posterior que sigui\u00f3 a la exposici\u00f3n del Prof. Martin Ebers fue de lo m\u00e1s enriquecedor y v\u00edvido. Entre otros extremos se abordaron los siguientes:<\/p>\n<ul>\n<li>La co-regulaci\u00f3n de los sistemas de IA al descansar la evaluaci\u00f3n de los mismos en est\u00e1ndares t\u00e9cnicos, lo que implica delegar el poder normativo en instituciones privadas cuando deber\u00eda ser el legislador quien regulara parte de los aspectos que son menos t\u00e9cnicos (\u00e9ticos o jur\u00eddicos) y que, sin embargo, se prev\u00e9 que sean esas instituciones las que los tengan en cuenta. A la industria le gusta mucho la autorregulaci\u00f3n. Se critic\u00f3 la falta de concreci\u00f3n de los objetivos generales a los que deben ajustarse esos est\u00e1ndares.<\/li>\n<li>Necesidad de unificar las diferentes clasificaciones de los sistemas de IA en funci\u00f3n del riesgo en las diferentes normas armonizadas o que aparezcan en el futuro.<\/li>\n<li>Cuestionada fue asimismo la autoevaluaci\u00f3n que establece la AIA para obtener el marcado CE y no que \u00e9ste proceda de un tercero independiente.<\/li>\n<li>La AIA no prev\u00e9 una aplicaci\u00f3n efectiva de la misma, sino que delega en autoridades nacionales.<\/li>\n<li>Faltan normas sustantivas para los sistemas de alto riesgo.<\/li>\n<li>No se establecen derechos individuales ni colectivos que pueden verse lesionados por el funcionamiento de un sistema de IA al estar la norma pensada en clave de regulaci\u00f3n de productos.<\/li>\n<li>Falta de control judicial de los est\u00e1ndares t\u00e9cnicos.<\/li>\n<li>El encaje de esta ley general sobre la IA con la legislaci\u00f3n armonizada cuando se establecen requisitos diferentes o incluso m\u00e1s estrictos en la segunda que en la primera. La complementariedad de la AIA respecto de esa legislaci\u00f3n no queda suficientemente clara.<\/li>\n<li>Necesidad de una reforma del reglamento de productos sanitarios.<\/li>\n<li>Dudas acerca de que sean las autoridades nacionales las que se encarguen de la certificaci\u00f3n de los sistemas de IA.<\/li>\n<\/ul>\n<p>El seminario concluy\u00f3 tras dos horas con la pregunta lanzada por el Prof. Jos\u00e9 Antonio Fern\u00e1ndez Amor consistente en si tantos requisitos no suponen un freno a la innovaci\u00f3n y a la producci\u00f3n de sistemas de IA en Europa y, al final, resulte que la UE tiene la regulaci\u00f3n, pero la tecnolog\u00eda se encuentra en USA, China, Jap\u00f3n o India con la consiguiente dependencia europea de estos pa\u00edses. El denominado \u201cefecto Bruselas\u201d podr\u00eda conllevar un efecto perverso para la UE.<\/p>\n<p>Muchas gracias al Prof. Ebers y a todos los participantes tanto <em>online<\/em> como <em>face-to-face<\/em>.<\/p>\n<p><em>Dra. Susana Navas Navarro<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Seminario a cargo del Prof. Martin Ebers El prof. Martin Ebers de la Universidad de Tartu (Estonia) e investigador permanente en la Universidad Humboldt de Berl\u00edn nos visit\u00f3 el 27 de junio de 2022. Los asistentes a su seminario tuvimos la oportunidad de escucharle -en algunos casos, de nuevo- disertar sobre la denominada Artificial Intelligence [&hellip;]<\/p>\n","protected":false},"author":133,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[38],"tags":[37,26],"class_list":["post-238","post","type-post","status-publish","format-standard","hentry","category-derecho-europeo","tag-derecho-europeo","tag-proteccion-del-consumidor"],"_links":{"self":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/238","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/users\/133"}],"replies":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/comments?post=238"}],"version-history":[{"count":2,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/238\/revisions"}],"predecessor-version":[{"id":573,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/238\/revisions\/573"}],"wp:attachment":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/media?parent=238"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/categories?post=238"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/tags?post=238"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}