{"id":269,"date":"2022-10-05T16:14:15","date_gmt":"2022-10-05T14:14:15","guid":{"rendered":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/?p=269"},"modified":"2024-03-18T18:10:11","modified_gmt":"2024-03-18T16:10:11","slug":"la-futura-regulacion-europea-sobre-responsabilidad-civil-extracontractual-en-caso-de-uso-de-sistemas-de-inteligencia-artificial-2","status":"publish","type":"post","link":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/2022\/10\/05\/la-futura-regulacion-europea-sobre-responsabilidad-civil-extracontractual-en-caso-de-uso-de-sistemas-de-inteligencia-artificial-2\/","title":{"rendered":"La futura regulaci\u00f3n europea sobre responsabilidad civil extracontractual en caso de uso de sistemas de inteligencia artificial<\/strong>"},"content":{"rendered":"\n

(Proposal for a Directive of the European Parliament and of the Council an adapting non-contractual civil liability rules to artificial intelligence – AI Liability Directive, COM(2022) 496 final)<\/em><\/strong><\/p>\n\n\n\n

<\/p>\n\n\n\n

Me sorprende y me llama la atenci\u00f3n que despu\u00e9s de todos los trabajos realizados en el seno de la Uni\u00f3n europea (UE) sobre el tema que rubrica estas l\u00edneas, se haya finalmente optado, por la Comisi\u00f3n europea, por elegir el instrumento de la Directiva y, adem\u00e1s, con un contenido centrado exclusivamente en dos cuestiones: el acceso a informaci\u00f3n relevante a efectos de prueba o de decidir si se inicia un pleito o no y contra qui\u00e9n (art. 3) o de presunci\u00f3n del nexo causal entre la culpa del demandado y el resultado o ausencia del mismo que deb\u00eda producir un sistema de IA (art. 4). El argumento para ello es la disparidad de reg\u00edmenes de responsabilidad extracontractual en Europa y las dificultades que siempre ha habido de armonizaci\u00f3n (vid. la memoria explicativa que acompa\u00f1a a la Propuesta, p. 7). Haber escogido la figura del Reglamento como se propon\u00eda por el Parlamento europeo (Resoluci\u00f3n del parlamento europeo de 20 de octubre de 2020 con recomendaciones para una \u201cpropuesta de reglamento en materia de responsabilidad civil por el uso de IA\u201d, https:\/\/www.europarl.europa.eu\/doceo\/document\/TA-9-2020-0276_EN.html) o las propuestas del Libro blanco de IA (COM(2020) 65 final) hubiera permitido esa referida armonizaci\u00f3n, adem\u00e1s de haber podido incluir normas acerca de la prueba. Me parece que detr\u00e1s se encuentra el invisible pulso, por otra parte, evidenciado en otros temas, entre la Comisi\u00f3n y el Parlamento europeo. Considero que los riesgos para todos que conlleva el uso y manejo de sistemas de IA, sobre todo los de alto riesgo, son razones de peso a favor de la armonizaci\u00f3n y de la responsabilidad objetiva.<\/p>\n\n\n\n

En relaci\u00f3n con este aspecto la Propuesta de Directiva que comento abandona el enfoque basado en el riesgo que ven\u00eda imperando en la materia ya que parte de la base de que los reg\u00edmenes de responsabilidad civil en la mayor parte de los estados miembros est\u00e1n basados en la culpa. \u00c9sta aparece referida indirectamente, por ejemplo, en el art. 3.5 al tomar como presupuesto el incumplimiento de deberes de cuidado por parte del demandado o directamente en el art. 2.5 cuando define la acci\u00f3n por da\u00f1os, o el art. 4.1 cuando admite la presunci\u00f3n del nexo causal entre \u00e9sta y el resultado producido por el sistema de IA o por la ausencia o fallo en la producci\u00f3n de tal resultado lo que ocasiona el da\u00f1o. Por tanto, si en el r\u00e9gimen de responsabilidad civil nacional el supuesto se subsumiera en un r\u00e9gimen de responsabilidad objetiva (por ejemplo, se equiparara al uso o manejo de una m\u00e1quina, art. 1908 CC o a la responsabilidad vicaria del empresario, art. 1904 CC), estas reglas no ser\u00edan de aplicaci\u00f3n. Nuestro sistema procesal prev\u00e9, en relaci\u00f3n con el acceso a medios de prueba, no obstante, no est\u00e1 tan alejado de lo que establece esta futura Directiva.<\/p>\n\n\n\n

A pesar de la decepci\u00f3n inicial, he de reconocer que me parece muy positivo que la Propuesta de Directiva se remita a la Ley de IA (Proposal for a Regulation of the European Parliament and of the Council laying down harmonized rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union legislative Acts<\/em>, COM(2021) 206 final. La propuesta se puede consultar en: https:\/\/eur-lex.europa.eu\/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0008.02\/DOC_1&format=PDF<\/a>) en relaci\u00f3n con conceptos fundamentales como qu\u00e9 se considera \u201csistema de IA\u201d, \u201csistema de alto riesgo\u201d, \u201cproveedor\u201d, \u201cusuario\u201d. A estos el art. 2 a\u00f1ade otras definiciones como la mencionada \u201cacci\u00f3n por da\u00f1os\u201d, \u201cdemandante\u201d, \u201cpotencial demandante\u201d, \u201cdemandado\u201d y \u201cdeber de cuidado\u201d.<\/p>\n\n\n\n

Esencialmente, como dec\u00eda, la Propuesta de Directiva se centra en dos aspectos:<\/p>\n\n\n\n

    \n
  1. El acceso a los medios de prueba<\/strong> (\u201cdisclosure of evidence\u201d): Los tribunales deben estar provistos, por los estados miembros, de la facultad de ordenar el acceso a medios de prueba \u2013 de hecho, se refiere con esta expresi\u00f3n al acceso a informaci\u00f3n sobre el espec\u00edfico sistema de alto riesgo que se sospecha que ha podido ocasionar el da\u00f1o (considerando n\u00fam. 16), por tanto, se trata del acceso a \u201cdatos\u201d- de los que est\u00e1 en posesi\u00f3n el demandado o potencial demandado para que el demandante o potencial demandante pueda sustentar su acci\u00f3n por los da\u00f1os ocasionados. Estos datos pueden consistir en documentaci\u00f3n espec\u00edfica y registro de movimientos o comportamientos del sistema (\u201cblack box\u201d o \u201clogging\u201d).<\/li>\n<\/ol>\n\n\n\n

    En el caso del potencial demandante que es aquel que ha sido da\u00f1ado pero que todav\u00eda no ha interpuesto la acci\u00f3n, para poder dirigirse al juez o tribunal reclamando el acceso a medios de prueba debe previamente haberse dirigido al proveedor o persona que debe cumplir con las obligaciones del proveedor o el usuario, solicitando el acceso a ellas. Adem\u00e1s, debe hab\u00e9rsele denegado por \u00e9stos y, finalmente, debe de apoyar su petici\u00f3n en hechos o indicios suficientes que apoyen su plausible acci\u00f3n por da\u00f1os (art. 3.1). En caso de haber interpuesto una acci\u00f3n por da\u00f1os, al demandante solo le ser\u00e1 concedido el acceso a los datos, rectius<\/em>, a los medios de prueba, siempre y cuando haya tomado medidas respecto a recoger la informaci\u00f3n relevante directamente del demandado (art. 3.2). Por tanto, el acceso a los medios de prueba ordenado por el tribunal toma como basamento el hecho de no haber podido acceder a ellos directamente del demandado ya sea porque \u00e9ste ha rechazado proporcion\u00e1rselos o lo ha dificultado enormemente. Por eso, el precepto establece que los intentos realizados por el demandante deben ser \u201cproporcionados\u201d.<\/p>\n\n\n\n

    Junto al acceso a la informaci\u00f3n se prev\u00e9 la posibilidad de que se solicite por el demandante que el tribunal ordene medidas en orden a preservar los medios de prueba (art. 3.3).<\/p>\n\n\n\n

    De acuerdo con el principio de minimizaci\u00f3n de los datos, la Propuesta de Directiva establece que el acceso a los medios de prueba, a la informaci\u00f3n, es solo aquella necesaria para sustentar la acci\u00f3n. Por tanto, tambi\u00e9n se tiene en cuenta la finalidad espec\u00edfica para la que se solicita el acceso a esa informaci\u00f3n (art. 3.4) y, adem\u00e1s, la proporcionalidad entre la informaci\u00f3n que se solicita y la acci\u00f3n ejercitada. Los tribunales a la hora de valorar la proporcionalidad deben de tener en cuenta los intereses de las partes, incluso terceros que pueden verse afectados, por ejemplo, cuando se trata de informaci\u00f3n confidencial o relativa a la seguridad nacional.<\/p>\n\n\n\n

    Por otra parte, a veces la informaci\u00f3n, sobre todo si es de \u00edndole t\u00e9cnica, supone acceder a un secreto comercial. En este caso, ya sea a instancia de parte que es, por otro lado, la regla general de las medidas que prev\u00e9 esta Propuesta, o, en este caso, de oficio, puede adoptar las medidas necesarias para garantizar la confidencialidad cuando la informaci\u00f3n se va a usar en un litigio. Que el acceso a informaci\u00f3n t\u00e9cnica pase por delante de derechos de exclusiva trae causa muy probablemente del principio \u201ctan abiertos como sea posible, tan cerrados como necesarios<\/em>\u201d presente en la Estrategia Europea de Datos (COM(2020) 66 final, p. 5). Este principio, desde la perspectiva legal, aparece en el Reglamento 2021\/695, del Parlamento europeo y del Consejo de 28 de abril de 2021, por el que se crea el programa marco de investigaci\u00f3n e innovaci\u00f3n \u201cHorizonte Europa\u201d (DOUE n\u00fam. 170, de 12 de mayo de 2021) cuando se refiere a la \u201cCiencia abierta\u201d y en la Directiva (UE) 2019\/1024, de datos abiertos, art. 10.1 (DOUE L 172\/56, 26.6.2019).<\/p>\n\n\n\n

    De todos modos, la persona obligada a permitir el acceso a los medios de prueba puede recurrir la orden judicial al respecto. Por tanto, goza de remedios contra esa orden. Ahora bien, si no recurre o presenta oposici\u00f3n y no permite el acceso a la informaci\u00f3n o no preserva esa informaci\u00f3n, es decir, incumple la orden judicial, se presumir\u00e1 que ha incumplido un deber de cuidado relevante, que la informaci\u00f3n denegada pod\u00eda probar, m\u00e1xime si se refiere a los deberes de cuidado indicados en el art. 4.2 y 4.3 de la Propuesta de Directiva. \u00bfCu\u00e1les son estos deberes de cuidado? El incumplimiento de determinados requisitos como que, si el sistema de IA usa t\u00e9cnicas que implican procesamiento de datos, el modelo no se haya desarrollado sobre la base del entrenamiento, validaci\u00f3n y testeo que cumpla con los requisitos de calidad previstos en el art. 10 de la Ley de IA, o no cumpla con los criterios de transparencia establecidos en el art. 13 de la Ley de IA, no permite la supervisi\u00f3n humana (art. 14 Ley de IA), no tiene la suficiente robustez, precisi\u00f3n y ciberseguridad (arts. 15-16 Ley de IA) que deber\u00eda tener, las medidas correctoras que pod\u00edan tomarse para que el sistema de IA cumpliera con los requisitos en la Ley de IA no se han tomado ni aplicado convenientemente (arts. 16 y 21 Ley de IA). Se trata del incumplimiento b\u00e1sicamente de deberes pre-comercializaci\u00f3n y una vez el sistema se ha introducido en el mercado puede llegar a ocasionar da\u00f1os. En cualquier caso, es una presunci\u00f3n iuris tantum.<\/p>\n\n\n\n

    El acceso a la informaci\u00f3n necesaria para sustentar una acci\u00f3n por da\u00f1os y que el demandado deba facilitarlo puesto que est\u00e1 en posesi\u00f3n o en mejor disposici\u00f3n de acceder a los medios de prueba no es novedoso en el sistema procesal espa\u00f1ol. En efecto, el art. 217.7 LEC parte del principio de facilidad probatoria o distribuci\u00f3n din\u00e1mica de la prueba que es lo que, en el fondo, subyace en las reglas que proporciona la propuesta de Directiva. \u00c9ste a\u00f1ade el derecho del potencial demandante a requerir la informaci\u00f3n en aras a decidir si entabla el pleito, es decir, si existe base suficiente para ello y contra qui\u00e9n (considerando n\u00fam. 17).<\/p>\n\n\n\n

    De otra parte, este acceso se preve\u00eda ya en la resoluci\u00f3n del Parlamento Europeo para elaborar un reglamento acerca de la responsabilidad civil por uso de sistemas de IA al inicio de estas l\u00edneas mencionado. Falta, a mi entender, una mayor coordinaci\u00f3n entre esta Propuesta de Directiva y la Ley de Datos (COM(2022) 68 final) que hace precisamente referencia a dicho acceso.<\/p>\n\n\n\n

      \n
    • Presunci\u00f3n iuris tantum del nexo causal en caso de culpa <\/strong>(\u201crebuttable presumption of a causal link in the case of fault\u201d): Los jueces y tribunales est\u00e1n facultados para presumir el nexo causal entre la culpa del demandante y el resultado producido por el sistema de IA o, en su caso, la ausencia de resultado siempre y cuando:<\/li>\n<\/ul>\n\n\n\n
        \n
      1.  El demandante demuestre -o el tribunal presuma la culpa del demandado por no haber permitido el acceso a la informaci\u00f3n o no haberla preservado (art. 3.5)-, la culpa del demandado o de la persona por la que el demandado haya de responder, al incumplir un deber de cuidado previsto en el derecho de la Uni\u00f3n o derecho nacional cuya finalidad era proteger contra el da\u00f1o que se ha ocasionado. En cualquier caso, puede el demandado probar lo contrario. El deber de cuidado es uno de los referidos anteriormente cuando se trate de sistemas de IA de alto riesgo.<\/li>\n\n\n\n
      2. Puede considerarse razonablemente probable que la culpa del demandante ha influenciado tanto el resultado producido por el sistema de IA como, en su caso, la ausencia del mismo. En este caso, se trata de aportar indicios para que se pueda aplicar la presunci\u00f3n legal.<\/li>\n\n\n\n
      3. El demandante ha demostrado que el resultado producido por el sistema de IA de alto riego o su ausencia ha dado origen al da\u00f1o.<\/li>\n<\/ol>\n\n\n\n

        Esta norma se aplica tanto si el demandado es el proveedor o un sujeto que debe cumplir con las obligaciones del proveedor o un usuario del sistema de IA. Ahora bien, cuando se trate de ese \u00faltimo, los deberes de cuidado que se consideran incumplidos son el incumplimiento de su obligaci\u00f3n de usar o monitorizar el sistema de IA de alto riesgo en concordancia con las instrucciones suministradas por el proveedor o, en su caso, suspender o interrumpir su uso, o expone el sistema de IA a \u201cinput data\u201d bajo su control que no son relevantes para la finalidad perseguida por el sistema (art. 4.3). Por tanto, son deberes de cuidado post-comercializaci\u00f3n.<\/p>\n\n\n\n

        La presunci\u00f3n de la que trato no se aplica si el demandante puede probar que exist\u00eda suficiente informaci\u00f3n que estaba al alcance del demandante para probar los hechos en los que fundamenta su acci\u00f3n (art. 4.4).<\/p>\n\n\n\n

        En caso de sistemas de IA de bajo riesgo la presunci\u00f3n referida solo se aplica si los tribunales consideran excesivamente dif\u00edcil para el demandante probar el nexo causal mencionado. Si el demandado empleaba el sistema de IA en el curso de una actividad personal, la presunci\u00f3n solo se aplica si aqu\u00e9l materialmente interfiri\u00f3 en la operaci\u00f3n del sistema de IA o si el demandado deb\u00eda determinar las condiciones de la operaci\u00f3n del sistema de IA y no lo hizo adecuadamente (arts. 4.5 y 4.6 respectivamente).<\/p>\n\n\n\n

        A primera vista, la prueba no aparece tan facilitada para el demandante como pareciera porque no se le excluye de tener que probar el nexo causal entre el da\u00f1o y el comportamiento del demandado que es el incumplimiento de un deber de cuidado que en la norma equivale a \u201cculpa\u201d. Desde el derecho de da\u00f1os espa\u00f1ol resulta este planteamiento cuestionable puesto que la culpa es un requisito m\u00e1s que tiene que probar, en l\u00ednea de principio, el demandado junto con el comportamiento da\u00f1oso, el da\u00f1o y el nexo causal entre \u00e9stos. El Informe del Grupo de expertos en responsabilidad y nuevas tecnolog\u00edas (NTF), \u201cResponsabilidad por inteligencia artificial y otras tecnolog\u00edas emergentes\u201d, <\/em>de 28 de noviembre de 2019 (LiabilityforAIandotheremergingtechnologies.pdf.), propone, sin embargo, que la presunci\u00f3n iuris tantum lo fuera de la causalidad propiamente dicha, lo que realmente facilitaba a la v\u00edctima la carga de la prueba. De hecho, sugiere m\u00e1s expedientes que alivien de \u00e9sta. El Informe, aunque parte de la regla general consistente en que la v\u00edctima debe probar la causa del da\u00f1o, admite que la complejidad de la tecnolog\u00eda que interviene puede derivar en una asimetr\u00eda informativa entre el operador responsable y la v\u00edctima que conlleve la imposibilidad de probar el nexo causal o que la prueba resulte excesivamente onerosa para aqu\u00e9lla. Por ello, enumera, en la recomendaci\u00f3n n\u00fam. 26, una serie de circunstancias que justificar\u00edan que el legislador europeo o, incluso, el nacional, incluyeran una regla general de inversi\u00f3n de la prueba del nexo causal<\/em>.<\/p>\n\n\n\n

        Adicionalmente, se sugiere, en su recomendaci\u00f3n n\u00fam. 24, presumir la causalidad<\/em> -adem\u00e1s de la culpa y de la propia existencia del defecto- siempre que se detecte el incumplimiento de normas de seguridad, cuya observancia hubiera evitado el da\u00f1o.<\/p>\n\n\n\n

        En definitiva, se aligera a la v\u00edctima la carga de la prueba, pero poquito.<\/p>\n\n\n\n

        Dra. Susana Navas Navarro<\/p>\n\n\n\n

        <\/p>\n","protected":false},"excerpt":{"rendered":"

        (Proposal for a Directive of the European Parliament and of the Council an adapting non-contractual civil liability rules to artificial intelligence – AI Liability Directive, COM(2022) 496 final) Me sorprende y me llama la atenci\u00f3n que despu\u00e9s de todos los trabajos realizados en el seno de la Uni\u00f3n europea (UE) sobre el tema que rubrica […]<\/p>\n","protected":false},"author":651,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[38],"tags":[26],"class_list":["post-269","post","type-post","status-publish","format-standard","hentry","category-derecho-europeo","tag-proteccion-del-consumidor"],"_links":{"self":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/269","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/users\/651"}],"replies":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/comments?post=269"}],"version-history":[{"count":2,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/269\/revisions"}],"predecessor-version":[{"id":571,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/269\/revisions\/571"}],"wp:attachment":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/media?parent=269"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/categories?post=269"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/tags?post=269"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}