{"id":411,"date":"2023-02-02T11:31:21","date_gmt":"2023-02-02T09:31:21","guid":{"rendered":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/?p=411"},"modified":"2023-02-02T11:31:21","modified_gmt":"2023-02-02T09:31:21","slug":"danos-ocasionados-por-sistemas-de-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/2023\/02\/02\/danos-ocasionados-por-sistemas-de-inteligencia-artificial\/","title":{"rendered":"Da\u00f1os ocasionados por sistemas de inteligencia artificial"},"content":{"rendered":"\n

Recensi\u00f3n de Navas Navarro, Susana: <\/strong>Da\u00f1os ocasionados por sistemas de inteligencia artificial. Especial atenci\u00f3n a su futura regulaci\u00f3n<\/strong><\/em>, Comares, Granada, 2022, 116 p\u00e1ginas<\/strong><\/p>\n\n\n\n

1. Cada vez son m\u00e1s conocidos y evidentes los beneficios que los sistemas de inteligencia artificial (IA) proporcionan a nuestra sociedad, en cuanto a crecimiento econ\u00f3mico, ahorro de costes y mejora en las condiciones de vida de las personas. Sin embargo, la IA plantea retos significativos en el \u00e1mbito de la responsabilidad civil ya que, al disponer de unas caracter\u00edsticas intr\u00ednsecas \u00fanicas \u2013como la complejidad, autonom\u00eda o capacidad de aprendizaje y toma de decisiones\u2013, a veces no resulta adecuado aplicar las mismas soluciones que el actual marco jur\u00eddico prev\u00e9 para los supuestos tradicionales de responsabilidad civil por da\u00f1os ocasionados por productos defectuosos. Tanto es as\u00ed que cada vez son m\u00e1s los actores que defienden la necesidad de modificar el actual marco jur\u00eddico de responsabilidad civil \u2013introduciendo cambios en las normas jur\u00eddicas existentes o adoptando nuevas normas jur\u00eddicas\u2013 para disponer de un marco jur\u00eddico m\u00e1s adecuado y flexible que permita adaptarnos a las caracter\u00edsticas de los sistemas de IA y a las nuevas circunstancias y aplicaciones tecnol\u00f3gicas que se puedan plantear en un futuro. En este sentido, estamos ante un fen\u00f3meno en el que la \u201cdisrupci\u00f3n tecnol\u00f3gica\u201d provocar\u00eda que el ordenamiento jur\u00eddico se viera sometido a una \u201cdisrupci\u00f3n legal\u201d, de menor o mayor intensidad, que afectar\u00eda al dise\u00f1o actual de las normas jur\u00eddicas.<\/p>\n\n\n\n

Es en este contexto en el que nace el libro objeto de recensi\u00f3n, donde Susana Navas, catedr\u00e1tica de Derecho Civil de la Universidad Aut\u00f3noma de Barcelona, analiza los cambios que a nivel de la Uni\u00f3n Europea se proponen para adaptar el marco jur\u00eddico de responsabilidad civil a los nuevos desaf\u00edos que plantean las aplicaciones de la IA, a la vez que propone las modificaciones que, a su modo de ver, considera que resultan necesarias en esta materia.<\/p>\n\n\n\n

2. En el Cap\u00edtulo I (p\u00e1gs. 9-20) Susana Navas trata de acercar al lector al concepto de sistema de IA. Para ello, comienza su exposici\u00f3n definiendo algunos conceptos b\u00e1sicos que ayudan a adentrarse en la materia y conocer su terminolog\u00eda. Empieza definiendo de forma gen\u00e9rica el concepto de IA para luego pasar a especificar, con m\u00e1s detalle, qu\u00e9 es lo que se entiende por sistema de IA en la actualidad, haciendo referencia a las diferencias y similitudes entre las definiciones acu\u00f1adas en distintos trabajos. Por otro lado, tambi\u00e9n se definen los sistemas de IA como producto, servicio o, incluso, h\u00edbrido (producto-servicio). Por \u00faltimo, se destaca la importancia que tienen las normas t\u00e9cnicas establecidas en est\u00e1ndares internacionales respecto la fabricaci\u00f3n, la implementaci\u00f3n y el control de seguridad de los sistemas de IA.<\/p>\n\n\n\n

3. Seguidamente, en el Cap\u00edtulo II (p\u00e1gs. 21-33) se centra en dos aspectos esenciales del r\u00e9gimen de responsabilidad civil general relacionados con los sistemas de IA que son, concretamente, la causalidad y la prueba. La primera se aborda desde una doble perspectiva: por un lado, se alude a la causalidad natural (de hecho) y, por otro, a la jur\u00eddica (de derecho, imputaci\u00f3n objetiva o \u201calcance de la responsabilidad\u201d). En cuanto a la primera, se hace referencia al problema que genera la incertidumbre causal y se describen los dos sistemas de responsabilidad que se pueden adoptar en estos casos: la solidaria y la proporcional. Respecto de la causalidad jur\u00eddica, se hace referencia a la \u201cprevisibilidad\u201d como criterio de imputaci\u00f3n objetiva m\u00e1s utilizado en Europa para limitar el alcance de la responsabilidad. Por \u00faltimo, alude a la tendencia de facilitar la prueba del nexo causal a la v\u00edctima dadas las dificultades probatorias de la relaci\u00f3n causal en los da\u00f1os generados por sistemas de IA.<\/p>\n\n\n\n

4. El Cap\u00edtulo III (p\u00e1gs. 35-79) es uno de los m\u00e1s extensos del op\u00fasculo y en \u00e9l la catedr\u00e1tica de Derecho Civil aborda en profundidad las reglas especiales de responsabilidad civil en caso de da\u00f1os ocasionados por sistemas de IA. Para ello, comienza presentando los principales instrumentos jur\u00eddicos que han elaborado diversas instancias europeas en esta materia para luego centrarse, ya en mayor profundidad, en la Propuesta del Parlamento europeo<\/em> sobre un r\u00e9gimen especial de responsabilidad civil en materia de IA de 20 de octubre de 2020<\/em> y lo combina, por un lado, con las recomendaciones dadas en su informe por el Expert Group on Liability and New Technologies <\/em>(NTF) y, por otro, con las soluciones que se pueden adoptar a partir del derecho espa\u00f1ol vigente mientras esta Propuesta no devenga en Reglamento.<\/p>\n\n\n\n

Para conseguir que el lector comprenda mejor los cambios y modificaciones que estos trabajos y documentos proponen en este \u00e1mbito, la autora desarrolla algunos aspectos jur\u00eddicos que resultan relevantes en materia de responsabilidad civil y permiten al lector adquirir un conocimiento m\u00e1s t\u00e9cnico y especializado. De este modo, analiza, en distintos apartados del cap\u00edtulo, los sistemas de \u201calto\u201d y \u201cbajo\u201d riesgo, el mal funcionamiento del sistema de inteligencia artificial, los reg\u00edmenes de responsabilidad para el \u201coperador\u201d o los \u201coperadores\u201d del sistema de IA, as\u00ed como la prueba y el derecho de acceso a los datos. Acaba el cap\u00edtulo exponiendo algunos ajustes legales futuros en el derecho de la responsabilidad civil en materia de inteligencia artificial.<\/p>\n\n\n\n

5. En el Cap\u00edtulo IV (p\u00e1gs. 79-109), la atenci\u00f3n se centra en el r\u00e9gimen de responsabilidad del fabricante de sistemas de IA. Susana Navas comienza con una peque\u00f1a introducci\u00f3n sobre la necesidad de clarificar algunos conceptos sobre la regulaci\u00f3n comunitaria en materia de responsabilidad del fabricante para adaptarla a la nueva realidad del mercado y ofrecer acomodo a los sistemas de IA y dem\u00e1s tecnolog\u00edas emergentes. Continua su exposici\u00f3n analizando de manera detallada una serie de conceptos clave en esta materia. Concretamente, se abordan los de sistema de IA como producto, el defecto, el momento de puesta en circulaci\u00f3n o en servicio del sistema de IA \u2013haciendo especial referencia a las actualizaciones (updates<\/em>), las mejoras (upgrades<\/em>) y las causas de exoneraci\u00f3n\u2013, as\u00ed como tambi\u00e9n se analiza la noci\u00f3n de productor, los da\u00f1os, los plazos y la carga de la prueba. Para finalizar, a modo de recapitulaci\u00f3n, plantea los posibles ajustes legales futuros en el derecho espa\u00f1ol vigente que se podr\u00edan \u2013y, en \u00faltimo t\u00e9rmino, se deber\u00edan\u2013 introducir en el r\u00e9gimen de responsabilidad del fabricante del sistema de IA.<\/p>\n\n\n\n

6. Finalmente, la profesora de la UAB analiza en el Cap\u00edtulo V (p\u00e1gs. 111-116) la concurrencia entre diferentes reg\u00edmenes de responsabilidad civil, a la vez, que dedica un apartado a examinar los deberes de cuidado y la obligaci\u00f3n de seguimiento del sistema que deben cumplir, correspondientemente, los operadores y los fabricantes, as\u00ed como la responsabilidad por culpa que se prev\u00e9 en caso de incumplimiento.<\/p>\n\n\n\n

7. En definitiva, podemos destacar que la intenci\u00f3n final de Susana Navas con la publicaci\u00f3n de este libro es dar a conocer al lector c\u00f3mo se encuentra el estado actual del marco jur\u00eddico en materia de responsabilidad civil por da\u00f1os ocasionados por sistemas de IA, se\u00f1alando las principales flaquezas que este marco presenta y proporcionando posibles soluciones que permitan dotar a la sociedad de una regulaci\u00f3n m\u00e1s flexible que tenga en consideraci\u00f3n las caracter\u00edsticas propias de las nuevas realidades tecnol\u00f3gicas.<\/p>\n\n\n\n

De este modo, la autora lanza al aire un mensaje de concienciaci\u00f3n para hacer entender a la sociedad que la regulaci\u00f3n actual en materia de responsabilidad civil ha quedado obsoleta y que necesita una urgente revisi\u00f3n en profundidad, ya que las disposiciones actuales no prev\u00e9n soluciones adecuadas para los nuevos sucesos ocasionados por las nuevas tecnolog\u00edas disruptivas. Ello, a mi modo de ver, resulta especialmente grave ya que la tecnolog\u00eda hoy en d\u00eda avanza a pasos agigantados y, por ello, resulta especialmente importante que la sociedad disponga de un marco regulatorio lo suficientemente exhaustivo y detallado, a la par que maleable, que d\u00e9 cobijo a las particularidades de los nuevos dispositivos digitales y que est\u00e9 preparado para afrontar cualquier acontecimiento que se produzca en la realidad cotidiana. De lo contrario, la sociedad se ver\u00eda expuesta al peligro de padecer una desregulaci\u00f3n legal en el \u00e1mbito de la responsabilidad civil por da\u00f1os ocasionados por sistemas de IA, lo que llevar\u00eda en \u00faltima instancia a situaciones injustas en las que se imputar\u00eda la responsabilidad civil a sujetos equivocados, se dejar\u00eda impune al responsable por los da\u00f1os ocasionados o la v\u00edctima se quedar\u00eda sin percibir una compensaci\u00f3n econ\u00f3mica por los da\u00f1os sufridos que le corresponder\u00eda percibir.<\/p>\n\n\n\n

Por todo ello, resulta esencial animar a las diferentes instancias, tanto estatales como europeas, para que inicien los procedimientos correspondientes para dar con una respuesta legal a esta falta de regulaci\u00f3n en materia de responsabilidad civil por da\u00f1os ocasionados por sistemas de IA, que sea lo suficientemente homog\u00e9nea y coherente con las singularidades de estos sistemas. Asimismo, no cabe olvidar que, tal y como expone Susana Navas en su escrito, la respuesta legal que se d\u00e9 a las nuevas circunstancias debe ser meditada, para evitar que se vea r\u00e1pidamente superada por los nuevos cambios disruptivos de la tecnolog\u00eda.<\/p>\n\n\n\n

Lisette Maiza Arcos<\/p>\n","protected":false},"excerpt":{"rendered":"

Recensi\u00f3n de Navas Navarro, Susana: Da\u00f1os ocasionados por sistemas de inteligencia artificial. Especial atenci\u00f3n a su futura regulaci\u00f3n, Comares, Granada, 2022, 116 p\u00e1ginas 1. Cada vez son m\u00e1s conocidos y evidentes los beneficios que los sistemas de inteligencia artificial (IA) proporcionan a nuestra sociedad, en cuanto a crecimiento econ\u00f3mico, ahorro de costes y mejora en […]<\/p>\n","protected":false},"author":651,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[39,41],"tags":[26,28],"class_list":["post-411","post","type-post","status-publish","format-standard","hentry","category-civil-law","category-derecho-civil","tag-proteccion-del-consumidor","tag-torts"],"_links":{"self":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/411","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/users\/651"}],"replies":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/comments?post=411"}],"version-history":[{"count":1,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/411\/revisions"}],"predecessor-version":[{"id":412,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/411\/revisions\/412"}],"wp:attachment":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/media?parent=411"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/categories?post=411"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/tags?post=411"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}