{"id":1116,"date":"2020-12-22T11:41:10","date_gmt":"2020-12-22T09:41:10","guid":{"rendered":"https:\/\/blogs.uab.cat\/dretmercantil\/?p=1116"},"modified":"2020-12-22T11:41:10","modified_gmt":"2020-12-22T09:41:10","slug":"ebers-y-navas-algorithms-and-law-cambridge-university-press-2020","status":"publish","type":"post","link":"https:\/\/webs.uab.cat\/dretmercantil\/2020\/12\/22\/ebers-y-navas-algorithms-and-law-cambridge-university-press-2020\/","title":{"rendered":"Ebers y Navas, Algorithms and law, Cambridge University Press, 2020"},"content":{"rendered":"

1. Si seguimos la ense\u00f1anza de Don Joaqu\u00edn Garrigues y observamos atentamente la realidad veremos que los algoritmos y la inteligencia artificial est\u00e1n omnipresentes en nuestras vidas: hablamos con robots (y no, no me refiero a nuestros estudiantes, sino a altavoces inteligentes como Alexa), hay coches que ya aparcan solos y, si hemos invertido en bolsa, es posible que un robot gestione nuestros ahorros. Est\u00e1 realidad est\u00e1 tambi\u00e9n presente en el \u00e1mbito jur\u00eddico, y es que ya existe software que ayuda a los abogados a gestionar documentaci\u00f3n ingente, a encontrar los argumentos m\u00e1s utilizados por un juez o que canaliza los conflictos entre los empresarios y los consumidores. Nuestra disciplina no es ajena a esta realidad, tal como han demostrado los diversos autores que, bajo la direcci\u00f3n de Ana Felicitas Mu\u00f1oz P\u00e9rez, escribieron Revoluci\u00f3n digital, Derecho mercantil y token econom\u00eda<\/em> (Tecnos, Madrid, 2019).<\/p>\n

El libro Algorithms and law<\/em> (Cambridge University Press, Cambridge, 2020) gira en torno a la inteligencia artificial, los algoritmos y los robots. Se trata de una obra colectiva que re\u00fane las aportaciones de doce juristas, mayoritariamente profesores de universidad. A lo largo de diez cap\u00edtulos analizan los retos conceptuales y pr\u00e1cticos que genera la inteligencia artificial en el \u00e1mbito jur\u00eddico. Los coordinadores son Martin Ebers y Susana Navas. El primero es profesor de Derecho de la Tecnolog\u00eda y la Informaci\u00f3n en la Universidad de Tartu (Estonia) y Privatdozent<\/em> en la Universidad von Humboldt de Berl\u00edn, adem\u00e1s de un colaborador asiduo de la Comisi\u00f3n Europea en Derecho privado y Derecho del consumo comunitarios. Susana Navas es catedr\u00e1tica de Derecho civil en la Universidad Aut\u00f3noma de Barcelona, gran compa\u00f1era, y autora de m\u00faltiples publicaciones sobre el binomio derecho y tecnolog\u00eda, adem\u00e1s de otros temas propios de su especialidad acad\u00e9mica.<\/p>\n

\"\"2. La obra empieza con un art\u00edculo introductorio de Sami Haddani y Dennis Knobbe (\u201cRobotics and artificial intelligence. The present and future vision\u201d) en el que repasan la evoluci\u00f3n de las \u201cm\u00e1quinas inteligentes\u201d a lo largo de la historia hasta llegar a los robots actuales y a la inteligencia artificial, respecto de los que nos explican c\u00f3mo \u201caprenden\u201d y subrayan la necesidad de fiabilidad y seguridad. Tambi\u00e9n exponen cu\u00e1les pueden ser sus aplicaciones m\u00e1s novedosas, en un futuro cercano, y los retos que se presentar\u00e1n. Concluyen que todav\u00eda falta mucho para estar rodeados de robots que interact\u00faan \u201camigablemente\u201d con los humanos.<\/p>\n

Martin Ebbers es el autor del segundo cap\u00edtulo, titulado \u201cRegulating AI and robotics: ethical and legal challenges\u201d. Se trata de una contribuci\u00f3n excelente, a pesar de su longitud, en la que el autor empieza explicando las cuestiones \u00e9ticas y legales m\u00e1s importantes que generan los algoritmos y la inteligencia artificial. Por ejemplo, subraya los problemas que se derivan de la interconectividad, la opacidad o la autonom\u00eda de los algoritmos, de la inteligencia artificial y de los robots. Presenta las cuestiones \u00e9ticas que suscita la sustituci\u00f3n de seres humanos por m\u00e1quinas o la conexi\u00f3n de los cerebros a los ordenadores. Alude a las dudas existentes sobre la responsabilidad por los da\u00f1os generados por las m\u00e1quinas que aprenden por s\u00ed mismas y el riesgo de utilizar algoritmos para manipular a las personas, tanto en el \u00e1mbito empresarial como pol\u00edtico. A continuaci\u00f3n expone panor\u00e1micamente las principales iniciativas legislativas que existen en los \u00e1mbitos internacional (Consejo de Europa, OCDE y Naciones Unidas), europeo y empresarial. Y termina con unas reflexiones sobre los temas que deber\u00edan regularse y las opciones del legislador. As\u00ed, advierte en contra de una normativa prematura que puede inhibir la innovaci\u00f3n y apuesta por una investigaci\u00f3n comprometida con los derechos y libertades fundamentales.<\/p>\n

La opacidad de los algoritmos es el objeto de la contribuci\u00f3n de Mario Martini, profesor de la Deutsche Universit\u00e4t f\u00fcr Verwaltungwissenschaften Speyer<\/em>, entre otros cargos. En el cap\u00edtulo \u201cRegulating algorithms: how to demystify the alchemy of Code?\u201d, analiza los problemas que genera la opacidad de los algoritmos (opacidad, discriminaci\u00f3n, monopolizaci\u00f3n del mercado y del conocimiento), las soluciones legislativas actualmente existentes y las que podr\u00edan adoptarse. Se muestra muy cr\u00edtico con el Reglamento General de Protecci\u00f3n de Datos y propone un modelo regulatorio con cuatro pasos: instrumentos normativos preventivos, gesti\u00f3n de los riesgos existentes, protecci\u00f3n ex post facto<\/em>, y elaboraci\u00f3n de c\u00f3digos de responsabilidad algor\u00edtmica.<\/p>\n

La autora de la cuarta contribuci\u00f3n es Diana Sancho, profesora de la Universidad de Leicester, que centra su atenci\u00f3n en los procesos automatizados de toma de decisiones (\u201cAutomated decision-making under article 22 GDPR: towards a more substantial regime for solely automated-making\u201d). Empieza explicando qu\u00e9 son y cu\u00e1les son sus principales riesgos, como explotar las debilidades de los consumidores. A efectos de protegerles analiza el art\u00edculo 22 del Reglamento General de Protecci\u00f3n de Datos, a la luz de la interpretaci\u00f3n que ofrece el Comit\u00e9 Europeo de Protecci\u00f3n de Datos (WP29) y en relaci\u00f3n con los art\u00edculos 13.2.f, 14.2.g y 15.1.h de la misma norma. Alaba la ex\u00e9gesis del Comit\u00e9 referido.<\/p>\n

Los dos siguientes cap\u00edtulos versan sobre la responsabilidad civil por los da\u00f1os causados por robots inteligentes. Susana Navas presta mayor atenci\u00f3n a la responsabilidad del fabricante. Empieza su discurso con el concepto y la clasificaci\u00f3n de los robots, tanto desde una perspectiva t\u00e9cnica como jur\u00eddica. Y tambi\u00e9n repasa la normativa existente. Continua con unas reflexiones sobre la responsabilidad del propietario del robot y rechaza utilizar el r\u00e9gimen de la responsabilidad vicaria, pues considera que los robots se asemejan m\u00e1s a una cosa peligrosa que a un auxiliar. Acto seguido valora la aplicaci\u00f3n de la Directiva 85\/374\/CEE, que disciplina la responsabilidad sobre productos defectuosos. Concluye que no se adapta a la realidad actual ni a la evoluci\u00f3n t\u00e9cnica que se avecina, como revelan m\u00faltiples informes, por lo que es necesaria su modificaci\u00f3n o novaci\u00f3n.<\/p>\n

Ruth Janal, profesora de Derecho civil, propiedad intelectual y Derecho del comercio en la Universidad de Bayreuth, se explaya sobre la responsabilidad extracontractual por los il\u00edcitos cometidos por los sistemas aut\u00f3nomos. Tras explicar que pueden generar nuevas categor\u00edas de da\u00f1os, expone quienes pueden ser los posibles responsables (el usuario del sistema, el propietario, el guardi\u00e1n [keeper<\/em>], el fabricante y el operador). Dada la ausencia de unas normas espec\u00edficas, decide proponer un sistema de responsabilidad para los il\u00edcitos generados por la inteligencia artificial. Para ello examina brevemente los los reg\u00edmenes de responsabilidad franc\u00e9s, ingl\u00e9s y alem\u00e1n por culpa, por los da\u00f1os ocasionados por bienes, por los auxiliares y por los menores. Su propuesta var\u00eda en funci\u00f3n de la persona que deba pechar con la responsabilidad, aunque mayoritariamente apuesta por la objetiva.<\/p>\n

El libro cambia bruscamente de direcci\u00f3n, pues el cap\u00edtulo s\u00e9ptimo tiene por objeto el control de los algoritmos en la negociaci\u00f3n de valores mobiliarios. Su autor es Gerald Spindler, profesor de la Universidad de G\u00f6ttingen, que centra su atenci\u00f3n el r\u00e9gimen normativo comunitario y alem\u00e1n de la llamada \u201cnegociaci\u00f3n de alta frecuencia\u201d (hing-frequency trading<\/em>). Considera que la legislaci\u00f3n especial existente (requisitos de organizaci\u00f3n y r\u00e9gimen de los controles) puede servir de modelo para otros \u00e1mbitos.<\/p>\n

A continuaci\u00f3n Susana Navas diserta sobre la propiedad intelectual de las obras creadas por algoritmos (\u201cCreativity of algorithms and copyright law\u201d). Empieza examinando el concepto y tipos de creatividad para determinar si los seres humanos tienen la exclusiva sobre la misma, o si puede tambi\u00e9n atribuirse a la inteligencia artificial. Acto seguido, explica y clasifica las obras de arte realizadas a trav\u00e9s algoritmos. En tercer lugar analiza la protecci\u00f3n de las obras creadas por ellos; en particular, qu\u00e9 requisitos son necesarios y qui\u00e9n ser\u00eda el titular de los derechos que se originaran. Concluye proponiendo el cambio del r\u00e9gimen jur\u00eddico de los derechos de autor para dar protecci\u00f3n a las obras creadas por algoritmos.<\/p>\n

En el cap\u00edtulo nueve (\u201cWake neutrality\u2019 of artificial intelligence devices\u201d), los estadounidenses Brian Subirana, Renwick Bivings y Sanjay Sarma estudian los altavoces inteligentes (Open Conversational Commerce Devices<\/em>), como Alexa u Ok Google. En particular, examinan las opciones legislativas para conseguir la neutralidad en los dispositivos inteligentes de conversaci\u00f3n, a fin de lograr un equilibrio entre los beneficios de la tecnolog\u00eda, la protecci\u00f3n de los derechos humanos (la intimidad, por ejemplo) y el cumplimiento de la ley (i.e.<\/em> la normativa tuitiva del consumidor). As\u00ed analizan c\u00f3mo conseguir que se comporten de forma neutral y, por ejemplo, no sean sesgados o discriminatorios. Proponen diversos requisitos para alcanzar ese objetivo y consideran que el blockchain<\/em> y los llamados contratos \u201cinteligentes\u201d pueden ser de gran utilidad. Igualmente, sostienen que hay que incidir en la arquitectura de la inteligencia artificial.<\/p>\n

Cierra el libro el cap\u00edtulo de Bj\u00f6rn Steinr\u00f6tter sobre el marco jur\u00eddico de los datos personales y no personales (\u201cThe (envisaged) Legal Framework for commercialization of digital data within the EU: Data protection law and data economic law as a conflicted basis for algorithm-based products and services\u201d). El joven profesor de la Universidad de Potsdam denuncia el conflicto que se produce entre los objetivos esenciales de sus reg\u00edmenes jur\u00eddicos: la protecci\u00f3n de la intimidad y la libre circulaci\u00f3n. Empieza su contribuci\u00f3n con la exposici\u00f3n sobre la relaci\u00f3n entre datos y algoritmos y la definici\u00f3n de datos digitales. Seguidamente expone el r\u00e9gimen jur\u00eddico comunitario b\u00e1sico de los datos no personales, que esencialmente persigue agilizar su circulaci\u00f3n y uso, aunque la evoluci\u00f3n t\u00e9cnica propicia que sus operadores disfruten de exclusividad. Despu\u00e9s hace lo mismo con la normativa sobre los datos personales, cuya finalidad es proteger al titular de los datos. Y concluye que se genera un conflicto que no es posible harmonizar.<\/p>\n

3. El libro coordinado por Susana Navas y Martin Ebers es altamente recomendable, pues analiza con rigor y profundidad algunos de los principales retos de la inteligencia artificial, los algoritmos y los robots en el \u00e1mbito jur\u00eddico. Como obra colectiva que es, resulta heterog\u00e9nea, pues cada autor tiene su propio estilo literario y metodolog\u00eda. Pero, a pesar de las diferencias, los cap\u00edtulos tienen una aproximaci\u00f3n similar, lo que da coherencia a la obra. Se empieza introduciendo la dimensi\u00f3n t\u00e9cnica o pr\u00e1ctica del tema objeto de estudio para proceder luego al an\u00e1lisis jur\u00eddico. En cuanto al \u00faltimo, es usual que presenten la normativa existente, valoren su aplicaci\u00f3n, expongan los problemas que genera y realicen propuestas de mejora. Interesa subrayar que el libro se centra sobre todo en el Derecho vigente en la Uni\u00f3n Europea, aunque no necesariamente en el comunitario.<\/p>\n

Los autores son reconocidos especialistas en la materia, que cuentan con una impecable trayectoria investigadora. Como hemos dicho, la mayor\u00eda trabaja en universidades alemanes, pero tambi\u00e9n hay dos profesoras espa\u00f1olas, una que imparte docencia en Barcelona y otra en Leicester, y tres estadounidenses. Esta diversidad no perjudica la obra, sino que enriquece su contenido.<\/p>\n

El rigor y la profundidad de las diez contribuciones de los doce autores determina que el nivel sea alto. En efecto, no estamos ante una obra introductoria, que ilustre al lector los rudimentos b\u00e1sicos de la materia. Tanto la tem\u00e1tica como la lengua dificultan la inteligencia del libro, pero el esfuerzo -como casi siempre- merece la pena.<\/p>\n

Evidentemente hay aspectos mejorables. Uno de ellos es una mayor sistem\u00e1tica de contenidos. Los cap\u00edtulos est\u00e1n relacionados y guardan coherencia entre s\u00ed, pero se echa de menos un hilo conductor m\u00e1s expl\u00edcito. Igualmente, hay cuestiones que se repiten en varios cap\u00edtulos, como el tema de la posibilidad de \u201capropiarse\u201d de los datos a trav\u00e9s de derechos de exclusiva o el riesgo que genera para la competencia la negativa de las grandes empresas tecnol\u00f3gicas a compartir los datos que utilizan. Pero esta repetici\u00f3n no es perjudicial, pues cada autor aporta su visi\u00f3n. Y ninguna de estas objeciones, si es que pueden considerase tales, empa\u00f1a la calidad de la obra, que es excelente. De ah\u00ed que no dude en recomendarla.<\/p>\n","protected":false},"excerpt":{"rendered":"

1. Si seguimos la ense\u00f1anza de Don Joaqu\u00edn Garrigues y observamos atentamente la realidad veremos que los algoritmos y la inteligencia artificial est\u00e1n omnipresentes en nuestras vidas: hablamos con robots (y no, no me refiero a nuestros estudiantes, sino a altavoces inteligentes como Alexa), hay coches que ya aparcan solos y, si hemos invertido en […]<\/p>\n","protected":false},"author":133,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[44,201,275,415,457],"class_list":["post-1116","post","type-post","status-publish","format-standard","hentry","category-general","tag-algoritmo","tag-derecho-y-tecnologia","tag-inteligencia-artificial","tag-robot","tag-tecnologia"],"_links":{"self":[{"href":"https:\/\/webs.uab.cat\/dretmercantil\/wp-json\/wp\/v2\/posts\/1116","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/webs.uab.cat\/dretmercantil\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/webs.uab.cat\/dretmercantil\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/dretmercantil\/wp-json\/wp\/v2\/users\/133"}],"replies":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/dretmercantil\/wp-json\/wp\/v2\/comments?post=1116"}],"version-history":[{"count":0,"href":"https:\/\/webs.uab.cat\/dretmercantil\/wp-json\/wp\/v2\/posts\/1116\/revisions"}],"wp:attachment":[{"href":"https:\/\/webs.uab.cat\/dretmercantil\/wp-json\/wp\/v2\/media?parent=1116"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/webs.uab.cat\/dretmercantil\/wp-json\/wp\/v2\/categories?post=1116"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/webs.uab.cat\/dretmercantil\/wp-json\/wp\/v2\/tags?post=1116"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}