{"id":463,"date":"2023-07-03T10:06:36","date_gmt":"2023-07-03T08:06:36","guid":{"rendered":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/?p=463"},"modified":"2024-03-18T18:03:49","modified_gmt":"2024-03-18T16:03:49","slug":"inteligencia-artificial-generativa-y-derecho-antidiscriminatorio","status":"publish","type":"post","link":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/2023\/07\/03\/inteligencia-artificial-generativa-y-derecho-antidiscriminatorio\/","title":{"rendered":"Inteligencia artificial generativa y Derecho antidiscriminatorio"},"content":{"rendered":"\n

Esta nueva entrada en el blog \u201cDerecho y digitalizaci\u00f3n empresarial. Reflexiones sobre el impacto de la digitalizaci\u00f3n en el Derecho que regula la actividad empresarial<\/em>\u201d (UAB) pretende ser una continuaci\u00f3n de la anterior que lleva por t\u00edtulo \u201cAlgunas consideraciones acerca del ChatGPT y otros modelos fundacionales a la luz de la futura Ley europea de inteligencia artificial\u201d<\/em>(https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/2023\/06\/09\/algunas-consideraciones-acerca-del-chatgpt-y-otros-modelos-fundacionales-a-la-luz-de-la-futura-ley-europea-de-inteligencia-artificial\/), si bien se centra en otro aspecto importante de la denominada inteligencia artificial generativa dentro de la cual se integran los \u201cmodelos fundacionales\u201d como el conocido ChatGPT. Me refiero a la aplicaci\u00f3n de las normas europeas reguladoras del principio de no discriminaci\u00f3n.<\/p>\n\n\n\n

Debe partirse de la base de que el Derecho antidiscriminatorio europeo solo cubre determinadas \u00e1reas como, por ejemplo, el empleo, la educaci\u00f3n o la oferta al p\u00fablico de bienes y servicios (Navas Navarro, Susana, \u201cEl principio de no discriminaci\u00f3n por raz\u00f3n de sexo en el derecho contractual europeo\u201d en Integraci\u00f3n europea y g\u00e9nero, Inma Pastor\/Laura Rom\u00e1n\/Ana Gim\u00e9nez (eds.), Tecnos, Madrid, 2014, pp. 253-285). Por otro lado, los modelos fundacionales, como qued\u00f3 expuesto en la entrada previamente citada, son sistemas de IA con una finalidad general que pueden eventualmente ser aplicados a usos espec\u00edficos. La cuesti\u00f3n entonces a plantearse estriba en ver si se aplican las normas contra la discriminaci\u00f3n antes de que estos sistemas de IA se dediquen a ese uso espec\u00edfico, es decir, a una etapa previa al desarrollo del sistema con miras a ese uso particular (\u201cintended purpose<\/em>\u201d). La respuesta podr\u00eda hallarse en la extrapolaci\u00f3n de dos decisiones del Tribunal de Justicia de la Uni\u00f3n Europea. Se trata de los casos C-54\/07, Feryn, y del C-507\/18, Associazione Avvocatura per i diritti LGBTI. En ellos se establece que el derecho antidiscriminatorio se aplica a las actividades preparatorias que preceden, por ejemplo, a contratar a una persona para un empleo determinado o a prestar un servicio. As\u00ed, las normas antidiscriminaci\u00f3n ser\u00edan de aplicaci\u00f3n a la selecci\u00f3n de personas bajo ciertas condiciones para un empleo.<\/p>\n\n\n\n

Como dec\u00eda, si se extrapola esta doctrina jurisprudencial al caso que me ocupa, podr\u00eda entenderse que estas normas se aplican en la fase preparatoria del modelo siempre y cuando el uso espec\u00edfico se corresponda con el \u00e1mbito de aplicaci\u00f3n de las Directivas europeas en la materia. Por tanto, m\u00e1s all\u00e1 de esos \u00e1mbitos espec\u00edficos, al desarrollo de un sistema de IA generativa no podr\u00e1n serles de aplicaci\u00f3n. Este planteamiento genera, a su vez, cuestiones de inter\u00e9s en relaci\u00f3n con la carga de la prueba de la conducta discriminatoria o del da\u00f1o cuando el criterio que origina la discriminaci\u00f3n no es el sexo (Directiva<\/em> <\/em>97\/80\/CE del Consejo de 15 de diciembre de 1997 relativa a la carga de la prueba en los casos de discriminaci\u00f3n por raz\u00f3n de sexo<\/em>, DOUE 14, 20.1.1998, p. 6\u20138). La Propuesta de Directiva relativa a la adaptaci\u00f3n de las normas de responsabilidad extracontractual a la IA [28.9.2022 COM(2022) 496 final] no sirve de demasiada ayuda en este sentido. Al no concebirse los modelos fundacionales como sistemas de alto riesgo, la aplicaci\u00f3n de la norma relativa a la presunci\u00f3n de \u201cparte\u201d del nexo causal queda al arbitrio judicial cuando considere que es \u201cexcesivamente dif\u00edcil\u201d para la v\u00edctima probarla (art. 4.5). A ello se a\u00f1ade que, en la mayor\u00eda de estos casos, el da\u00f1o ocasionado suele ser un da\u00f1o no material, esto es, un da\u00f1o moral, el cual posee, por un lado, una regulaci\u00f3n sectorial en los ordenamientos jur\u00eddicos internos y, por otro, los criterios jurisprudenciales respecto de la compensaci\u00f3n del mismo son muy dispares entre los estados miembros de la UE. No existe un marco normativo armonizado en relaci\u00f3n con el da\u00f1o moral (Wendehorst, Christiane, Safety and Liability Related Aspects of Software<\/em>, EU Commission, 2021).<\/p>\n\n\n\n

De otra parte, la propuesta de reglamento sobre IA revisada y aprobada por el Parlamento europeo el 9 de mayo de este mismo a\u00f1o [Draft Compromise Amendments <\/em>on the Draft Report<\/em> <\/em>Proposal for a regulation of the European Parliament and of the Council on harmonised rules on Artificial Intelligence (Artificial Intelligence Act)<\/em> <\/em>and amending certain Union Legislative Acts<\/em> (COM(2021)0206 \u2013 C9 0146\/2021 \u2013 2021\/0106(COD)), https:\/\/www.europarl.europa.eu\/meetdocs\/2014_2019\/plmrep\/COMMITTEES\/CJ40\/DV\/2023\/05- 11\/ConsolidatedCA_IMCOLIBE_AI_ACT_EN.pdf. Fecha de la consulta: julio 2023] que establece obligaciones espec\u00edficas para \u201cproviders\u201d de modelos fundacionales alude casi de pasada a los posibles sesgos que puede presentar el modelo fundacional, algunos de los cuales pueden ser discriminatorios. En efecto, advierte que una de las obligaciones del proveedor es (art. 28b apartado 2):<\/p>\n\n\n\n

\u201cb) to process and incorporate only datasets that are subject to appropriate data governance measures for foundation models, in particular measures to examine the suitability of the data sources and possible biases and appropriate mitigation\u201d.<\/em><\/p>\n\n\n\n

De ah\u00ed que quiz\u00e1 deba plantearse, por un lado, la aplicaci\u00f3n de las normas antidiscriminatorias desde la perspectiva de los grupos de personas legalmente protegidos cuyos derechos fundamentales pueden verse lesionados por el incorrecto funcionamiento del sistema de IA y, por otro, el establecimiento de obligaciones espec\u00edficas para los proveedores de modelos fundacionales, en la futura Ley de IA, en relaci\u00f3n con la representatividad y equilibrio adecuado entre los grupos protegidos mediante el establecimiento de mecanismos que corrijan los sesgos hist\u00f3ricos y sociales que pueden existir en los datos que el modelo fundacional capta de fuentes online [Hacker, Philipp, \u201cTeaching Fairness to Artificial Intelligence: Existing and Novel Strategies Against Algorithmic Discrimination Under EU Law\u201d, 55 Common Market Law Review<\/em>, 1143-1186 (2018) Fecha de la consulta: julio 2023)].<\/p>\n\n\n\n

Precisamente, el art. 23.1 de la Ley 15\/2022, de 12 de julio, integral para la igualdad de trato y no discriminaci\u00f3n (BOE n\u00fam. 167, de 13 de julio) establece en relaci\u00f3n con los algoritmos involucrados en la toma de decisiones empleados por las administraciones p\u00fablicas que se podr\u00e1n incluir mecanismos en el dise\u00f1o y en los datos de entrenamiento para abordar su potencial impacto discriminatorio y minimizar as\u00ed los posibles sesgos que presenten.<\/p>\n\n\n\n

Dra. Susana Navas Navarro<\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Esta nueva entrada en el blog \u201cDerecho y digitalizaci\u00f3n empresarial. Reflexiones sobre el impacto de la digitalizaci\u00f3n en el Derecho que regula la actividad empresarial\u201d (UAB) pretende ser una continuaci\u00f3n de la anterior que lleva por t\u00edtulo \u201cAlgunas consideraciones acerca del ChatGPT y otros modelos fundacionales a la luz de la futura Ley europea de […]<\/p>\n","protected":false},"author":651,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[39,41,38,1],"tags":[48],"class_list":["post-463","post","type-post","status-publish","format-standard","hentry","category-civil-law","category-derecho-civil","category-derecho-europeo","category-general","tag-derechos-digitales"],"_links":{"self":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/463","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/users\/651"}],"replies":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/comments?post=463"}],"version-history":[{"count":2,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/463\/revisions"}],"predecessor-version":[{"id":557,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/463\/revisions\/557"}],"wp:attachment":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/media?parent=463"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/categories?post=463"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/tags?post=463"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}