Recensión de Navas Navarro, Susana: Daños ocasionados por sistemas de inteligencia artificial. Especial atención a su futura regulación, Comares, Granada, 2022, 116 páginas
1. Cada vez son más conocidos y evidentes los beneficios que los sistemas de inteligencia artificial (IA) proporcionan a nuestra sociedad, en cuanto a crecimiento económico, ahorro de costes y mejora en las condiciones de vida de las personas. Sin embargo, la IA plantea retos significativos en el ámbito de la responsabilidad civil ya que, al disponer de unas características intrínsecas únicas –como la complejidad, autonomía o capacidad de aprendizaje y toma de decisiones–, a veces no resulta adecuado aplicar las mismas soluciones que el actual marco jurídico prevé para los supuestos tradicionales de responsabilidad civil por daños ocasionados por productos defectuosos. Tanto es así que cada vez son más los actores que defienden la necesidad de modificar el actual marco jurídico de responsabilidad civil –introduciendo cambios en las normas jurídicas existentes o adoptando nuevas normas jurídicas– para disponer de un marco jurídico más adecuado y flexible que permita adaptarnos a las características de los sistemas de IA y a las nuevas circunstancias y aplicaciones tecnológicas que se puedan plantear en un futuro. En este sentido, estamos ante un fenómeno en el que la “disrupción tecnológica” provocaría que el ordenamiento jurídico se viera sometido a una “disrupción legal”, de menor o mayor intensidad, que afectaría al diseño actual de las normas jurídicas.
Es en este contexto en el que nace el libro objeto de recensión, donde Susana Navas, catedrática de Derecho Civil de la Universidad Autónoma de Barcelona, analiza los cambios que a nivel de la Unión Europea se proponen para adaptar el marco jurídico de responsabilidad civil a los nuevos desafíos que plantean las aplicaciones de la IA, a la vez que propone las modificaciones que, a su modo de ver, considera que resultan necesarias en esta materia.
2. En el Capítulo I (págs. 9-20) Susana Navas trata de acercar al lector al concepto de sistema de IA. Para ello, comienza su exposición definiendo algunos conceptos básicos que ayudan a adentrarse en la materia y conocer su terminología. Empieza definiendo de forma genérica el concepto de IA para luego pasar a especificar, con más detalle, qué es lo que se entiende por sistema de IA en la actualidad, haciendo referencia a las diferencias y similitudes entre las definiciones acuñadas en distintos trabajos. Por otro lado, también se definen los sistemas de IA como producto, servicio o, incluso, híbrido (producto-servicio). Por último, se destaca la importancia que tienen las normas técnicas establecidas en estándares internacionales respecto la fabricación, la implementación y el control de seguridad de los sistemas de IA.
3. Seguidamente, en el Capítulo II (págs. 21-33) se centra en dos aspectos esenciales del régimen de responsabilidad civil general relacionados con los sistemas de IA que son, concretamente, la causalidad y la prueba. La primera se aborda desde una doble perspectiva: por un lado, se alude a la causalidad natural (de hecho) y, por otro, a la jurídica (de derecho, imputación objetiva o “alcance de la responsabilidad”). En cuanto a la primera, se hace referencia al problema que genera la incertidumbre causal y se describen los dos sistemas de responsabilidad que se pueden adoptar en estos casos: la solidaria y la proporcional. Respecto de la causalidad jurídica, se hace referencia a la “previsibilidad” como criterio de imputación objetiva más utilizado en Europa para limitar el alcance de la responsabilidad. Por último, alude a la tendencia de facilitar la prueba del nexo causal a la víctima dadas las dificultades probatorias de la relación causal en los daños generados por sistemas de IA.
4. El Capítulo III (págs. 35-79) es uno de los más extensos del opúsculo y en él la catedrática de Derecho Civil aborda en profundidad las reglas especiales de responsabilidad civil en caso de daños ocasionados por sistemas de IA. Para ello, comienza presentando los principales instrumentos jurídicos que han elaborado diversas instancias europeas en esta materia para luego centrarse, ya en mayor profundidad, en la Propuesta del Parlamento europeo sobre un régimen especial de responsabilidad civil en materia de IA de 20 de octubre de 2020 y lo combina, por un lado, con las recomendaciones dadas en su informe por el Expert Group on Liability and New Technologies (NTF) y, por otro, con las soluciones que se pueden adoptar a partir del derecho español vigente mientras esta Propuesta no devenga en Reglamento.
Para conseguir que el lector comprenda mejor los cambios y modificaciones que estos trabajos y documentos proponen en este ámbito, la autora desarrolla algunos aspectos jurídicos que resultan relevantes en materia de responsabilidad civil y permiten al lector adquirir un conocimiento más técnico y especializado. De este modo, analiza, en distintos apartados del capítulo, los sistemas de “alto” y “bajo” riesgo, el mal funcionamiento del sistema de inteligencia artificial, los regímenes de responsabilidad para el “operador” o los “operadores” del sistema de IA, así como la prueba y el derecho de acceso a los datos. Acaba el capítulo exponiendo algunos ajustes legales futuros en el derecho de la responsabilidad civil en materia de inteligencia artificial.
5. En el Capítulo IV (págs. 79-109), la atención se centra en el régimen de responsabilidad del fabricante de sistemas de IA. Susana Navas comienza con una pequeña introducción sobre la necesidad de clarificar algunos conceptos sobre la regulación comunitaria en materia de responsabilidad del fabricante para adaptarla a la nueva realidad del mercado y ofrecer acomodo a los sistemas de IA y demás tecnologías emergentes. Continua su exposición analizando de manera detallada una serie de conceptos clave en esta materia. Concretamente, se abordan los de sistema de IA como producto, el defecto, el momento de puesta en circulación o en servicio del sistema de IA –haciendo especial referencia a las actualizaciones (updates), las mejoras (upgrades) y las causas de exoneración–, así como también se analiza la noción de productor, los daños, los plazos y la carga de la prueba. Para finalizar, a modo de recapitulación, plantea los posibles ajustes legales futuros en el derecho español vigente que se podrían –y, en último término, se deberían– introducir en el régimen de responsabilidad del fabricante del sistema de IA.
6. Finalmente, la profesora de la UAB analiza en el Capítulo V (págs. 111-116) la concurrencia entre diferentes regímenes de responsabilidad civil, a la vez, que dedica un apartado a examinar los deberes de cuidado y la obligación de seguimiento del sistema que deben cumplir, correspondientemente, los operadores y los fabricantes, así como la responsabilidad por culpa que se prevé en caso de incumplimiento.
7. En definitiva, podemos destacar que la intención final de Susana Navas con la publicación de este libro es dar a conocer al lector cómo se encuentra el estado actual del marco jurídico en materia de responsabilidad civil por daños ocasionados por sistemas de IA, señalando las principales flaquezas que este marco presenta y proporcionando posibles soluciones que permitan dotar a la sociedad de una regulación más flexible que tenga en consideración las características propias de las nuevas realidades tecnológicas.
De este modo, la autora lanza al aire un mensaje de concienciación para hacer entender a la sociedad que la regulación actual en materia de responsabilidad civil ha quedado obsoleta y que necesita una urgente revisión en profundidad, ya que las disposiciones actuales no prevén soluciones adecuadas para los nuevos sucesos ocasionados por las nuevas tecnologías disruptivas. Ello, a mi modo de ver, resulta especialmente grave ya que la tecnología hoy en día avanza a pasos agigantados y, por ello, resulta especialmente importante que la sociedad disponga de un marco regulatorio lo suficientemente exhaustivo y detallado, a la par que maleable, que dé cobijo a las particularidades de los nuevos dispositivos digitales y que esté preparado para afrontar cualquier acontecimiento que se produzca en la realidad cotidiana. De lo contrario, la sociedad se vería expuesta al peligro de padecer una desregulación legal en el ámbito de la responsabilidad civil por daños ocasionados por sistemas de IA, lo que llevaría en última instancia a situaciones injustas en las que se imputaría la responsabilidad civil a sujetos equivocados, se dejaría impune al responsable por los daños ocasionados o la víctima se quedaría sin percibir una compensación económica por los daños sufridos que le correspondería percibir.
Por todo ello, resulta esencial animar a las diferentes instancias, tanto estatales como europeas, para que inicien los procedimientos correspondientes para dar con una respuesta legal a esta falta de regulación en materia de responsabilidad civil por daños ocasionados por sistemas de IA, que sea lo suficientemente homogénea y coherente con las singularidades de estos sistemas. Asimismo, no cabe olvidar que, tal y como expone Susana Navas en su escrito, la respuesta legal que se dé a las nuevas circunstancias debe ser meditada, para evitar que se vea rápidamente superada por los nuevos cambios disruptivos de la tecnología.
Lisette Maiza Arcos