Otra de las regulaciones a tener muy en cuenta cuando se alude a inteligencia artificial generativa o, m\u00e1s ampliamente, a modelos fundacionales es la que concierne a la moderaci\u00f3n de los contenidos. Estos modelos pueden emplearse para llevar a cabo tareas inofensivas, como, por ejemplo, crear una presentaci\u00f3n para dar una charla o una invitaci\u00f3n a una boda como para generar contenido ofensivo que cause da\u00f1os a personas o grupos de personas como podr\u00eda ser hacer apolog\u00eda del terrorismo. De ah\u00ed que los propios creadores del ChatGPT tuvieran en cuenta este hecho y establecieran un moderador interno para bloquear el contenido potencialmente ofensivo. El propio Chat GPT lleva incorporado un mecanismo que impide al usuario acceder a determinados contenidos tales como sexo, violencia u odio. A pesar de ello, puede ser relativamente f\u00e1cil sortear estas barreras por hackers. Asimismo, es sencillo crear con estos modelos fake news dif\u00edciles de detectar debido al estilo en que son redactadas. De hecho, en youtube se pueden encontrar tutoriales al respecto.<\/p>\n\n\n\n
La pregunta es, pues, si la Digital Services Act [Reglamento (UE) 2022\/2065 del Parlamento europeo y del Consejo de 19 de octubre de 2022 relativo a un mercado \u00fanico de servicios digitales, DOUE n\u00fam. 277, de 27 de octubre de 2022], aunque no ten\u00eda en su punto de mira a la inteligencia artificial generativa ni a los modelos fundacionales cuando fue elaborada, sino m\u00e1s bien a las redes sociales en las que el contenido lo generan principalmente humanos, podr\u00eda ser de aplicaci\u00f3n al caso que me ocupa. Si nos fijamos en el \u00e1mbito de aplicaci\u00f3n espacial, la DSA se aplica a aquellos servicios digitales ofrecidos a usuarios en la UE, independientemente de d\u00f3nde se encuentre el establecimiento del proveedor (art. 2.1, 3 letra d y e). Las plataformas deben incorporar un mecanismo de notificaciones a trav\u00e9s del cual los usuarios pueden denunciar contenido il\u00edcito (art. 3 letra h DSA) que debe ser revisado por ellas y, en su caso, eliminado de las mismas si verdaderamente lo es (art. 16 DSA notice-and-action-system). Adem\u00e1s, las grandes plataformas deben establecer un sistema interno de gesti\u00f3n de reclamaciones (art. 20 DSA) y un sistema de resoluci\u00f3n extrajudicial de conflictos (art. 21 DSA). Adicionalmente, reincidentes en generar contenido il\u00edcito pueden ver suspendidas sus cuentas (art. 23 DSA). El contenido calificado como problem\u00e1tico por alertadores fiables debe ser priorizado y decidir sin dilaci\u00f3n acerca de si se retira de la plataforma o no (art. 22 DSA). Por su parte, las plataformas de muy gran tama\u00f1o deber\u00e1n implementar un mecanismo de respuesta a las crisis y someterse a auditor\u00edas independientes (arts. 36-37 DSA).<\/p>\n\n\n\n
Ahora bien, la DSA solo cubre proveedores de servicios de intermediaci\u00f3n, tambi\u00e9n denominados \u201cservicios intermediarios\u201d (arts. 2.1 y 2.2). Estos servicios son, a tenor del art. 3 letra g los siguientes: de mera transmisi\u00f3n, de memoria cach\u00e9, de alojamiento de datos como ser\u00edan las redes sociales online (vid. considerando n\u00fam. 28; vid. Comisi\u00f3n europea, Directorate-General for Communications Networks, C., Technology, Hosting intermediary services and illegal content online: an analysis of the scope of article 14 ECD in light of developments in the online service landscape: final report, <\/em>J. Hoboken, J. Quintais, J. Poort, N. Eijk, Publication Office, 2019). Obviamente, la IA generativa o m\u00e1s ampliamente los modelos fundacionales no entran dentro de ninguna de estas categor\u00edas. Basta leer las definiciones de cada uno de estos servicios intermediarios que proporciona el propio art. 3 letra g para darse cuenta de ello. En realidad, los usuarios de estos modelos como el ChatGPT no generan contenido, sino que solicitan informaci\u00f3n. Es el propio Chat el que genera el contenido no el usuario que es precisamente el supuesto en que est\u00e1 contemplando la DSA. Luego, debe concluirse que la norma europea no se aplica a estos sistemas de IA. Deber\u00e1 acudirse a otras normas como, por ejemplo, las normas de responsabilidad civil extracontractual o las normas relacionadas con los discursos del odio o con la libertad de expresi\u00f3n que quedan cubiertas por los derechos internos de los Estados miembros.<\/p>\n\n\n\n En el primer caso, deber\u00e1 tenerse en cuenta que los modelos fundacionales, como advertido en una entrada anterior de este blog (https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/2023\/07\/03\/inteligencia-artificial-generativa-y-derecho-antidiscriminatorio\/<\/a>. Fecha de la consulta: julio 2023), no son considerados sistemas de IA de alto riesgo, por lo que deber\u00e1 tenerse en cuenta lo previsto respecto de los sistemas de bajo riesgo, de suerte que la presunci\u00f3n de parte del nexo causal quedar\u00e1 al arbitrio judicial si se considera excesivamente para la v\u00edctima el probarlo (art. 4.5). El acceso a la informaci\u00f3n que pueda contener la \u201cblack box\u201d del modelo y que regula el art. 3 de la Propuesta de Directiva relativa a la adaptaci\u00f3n de las normas de responsabilidad extracontractual a la IA [28.9.2022 COM(2022) 496 final] queda reservado para los sistemas de alto riesgo. Sin embargo, las obligaciones que la futura Ley de IA [Draft Compromise Amendments <\/em>on the Draft Report<\/em> <\/em>Proposal for a regulation of the European Parliament and of the Council on harmonised rules on Artificial Intelligence (Artificial Intelligence Act)<\/em> <\/em>and amending certain Union Legislative Acts<\/em> (COM(2021)0206 \u2013 C9 0146\/2021 \u2013 2021\/0106(COD)), https:\/\/www.europarl.europa.eu\/meetdocs\/2014_2019\/plmrep\/COMMITTEES\/CJ40\/DV\/2023\/05- 11\/ConsolidatedCA_IMCOLIBE_AI_ACT_EN.pdf. Fecha de la consulta: julio 2023] establece para los proveedores de sistemas de IA generativa son muy similares a las de los de sistemas de IA de alto riesgo. En este sentido, a mi juicio, deber\u00edan tenerse en cuenta en el proceso legislativo que conduzca a la Directiva definitiva normas acerca de la responsabilidad civil en caso de que el da\u00f1o sea ocasionado por un modelo fundacional. Da\u00f1o que ser\u00e1, como advertido en la entrada referida, principalmente un da\u00f1o moral.<\/p>\n\n\n\n Si se procesan por el sistema datos personales de v\u00edctimas del da\u00f1o deber\u00e1 tenerse en cuenta el art. 82 RGPD [Reglamento (UE) 2016\/679, del Parlamento europeo y del Consejo de 27 de abril de 2016 relativo a la protecci\u00f3n de las personas f\u00edsicas en lo que respecta al tratamiento de datos personales y a la libre circulaci\u00f3n de estos datos (DOUE, L 119\/1, de 4.5.2016)]. En su apartado primero advierte que: \u201cToda persona que haya sufrido da\u00f1os y perjuicios materiales o inmateriales como consecuencia de una infracci\u00f3n del presente Reglamento tendr\u00e1 derecho a recibir del responsable o el encargado del tratamiento una indemnizaci\u00f3n por los da\u00f1os y perjuicios sufridos\u201d. <\/em>En cualquier caso, no se aplicar\u00e1n los diferentes mecanismos que la DSA ha establecido en caso de contenido il\u00edcito y discursos del odio.<\/p>\n\n\n\n Una v\u00eda indirecta de aplicar la DSA a los modelos fundacionales y, en concreto, a la IA generativa se podr\u00eda dar cuando es un usuario humano o un bot el que publica el contenido generado por aqu\u00e9lla dentro de la red social. En este momento debe tenerse en cuenta qu\u00e9 significa \u201cdifusi\u00f3n al p\u00fablico\u201d y si esta publicaci\u00f3n implica esa difusi\u00f3n o bien se puede considerar en determinados casos como \u201cmensajes privados\u201d puesto que el usuario de la cuenta puede restringir el grupo de usuarios que pueden acceder a sus contenidos. El considerando n\u00fam. 14 DSA advierte, en esta l\u00ednea, lo siguiente:<\/p>\n\n\n\n \u201cEl concepto de \u00abdifusi\u00f3n al p\u00fablico\u00bb, tal como se utiliza en el presente Reglamento, debe implicar que la informaci\u00f3n se ponga a disposici\u00f3n de un n\u00famero potencialmente ilimitado de personas, es decir, hacer que la informaci\u00f3n sea f\u00e1cilmente accesible para los destinatarios del servicio en general, sin necesidad de que el destinatario del servicio que proporciona la informaci\u00f3n haga nada m\u00e1s, con independencia de si dichas personas acceden efectivamente a la informaci\u00f3n en cuesti\u00f3n. Por consiguiente, cuando el acceso a la informaci\u00f3n requiera la inscripci\u00f3n o la admisi\u00f3n en un grupo de destinatarios del servicio, solo debe considerarse que dicha informaci\u00f3n ha sido difundida al p\u00fablico cuando los destinatarios del servicio que deseen acceder a la informaci\u00f3n se inscriban o sean admitidos autom\u00e1ticamente sin que un ser humano decida o escoja a qui\u00e9n se concede el acceso. Los servicios de comunicaciones interpersonales definidos en la Directiva (UE) 2018\/1972 del Parlamento Europeo y del Consejo <\/em>(24), como los correos electr\u00f3nicos o los servicios de mensajer\u00eda privada, quedan fuera del \u00e1mbito de la definici\u00f3n de plataformas en l\u00ednea, ya que se utilizan para la comunicaci\u00f3n interpersonal entre un n\u00famero finito de personas determinado por el remitente de la comunicaci\u00f3n\u201d.<\/em><\/p>\n\n\n\n Por lo tanto, el grueso de normas de la DSA solo se aplica a plataformas en l\u00ednea que deben diseminar informaci\u00f3n al p\u00fablico y que sean, al parecer, de muy gran tama\u00f1o (art. 19.2 DSA). As\u00ed, grupos de WhatsApp, Telegram u otros en los que prolifera este tipo de contenido problem\u00e1tico quedan fuera del \u00e1mbito de aplicaci\u00f3n de la DSA (F. Wilman, \u201cThe Digital Services Act (DSA)-An Overview\u201d, disponible: https:\/\/ssrn.com\/abstract=4304586<\/a>. Fecha consulta: julio 2023). En definitiva, para poder aplicar la DSA al caso que trato, los contenidos generados por la IA deben ser publicados en las plataformas online que podr\u00edamos denominar \u201ccl\u00e1sicas\u201d como Facebook, Instagram, Twitter, etc.. (Philipp Hacker, Andreas Engel, Marco Mauer, \u201cRegulating ChatGPT and other Large Generative AI Models\u201d, working paper, arXiv:2302.02337v8<\/a>. Fecha de la consulta: julio 2023). A medida en que se vayan integrando estos sistemas en los motores de b\u00fasqueda ser\u00e1 m\u00e1s evidente la aplicaci\u00f3n de la DSA.<\/p>\n\n\n\n En conclusi\u00f3n, deber\u00eda, primero, revisarse el \u00e1mbito de aplicaci\u00f3n de la Propuesta de Directiva sobre responsabilidad civil extracontractual respecto del uso de sistemas de IA y, segundo, considerar ya una modificaci\u00f3n de la DSA para introducir y quiz\u00e1 equiparar el contenido generado por la IA generativa a los contenidos generados por los usuarios y de esta forma aplicar los mismos mecanismos de control del contenido il\u00edcito.<\/p>\n\n\n\n Dra. Susana Navas Navarro<\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" Otra de las regulaciones a tener muy en cuenta cuando se alude a inteligencia artificial generativa o, m\u00e1s ampliamente, a modelos fundacionales es la que concierne a la moderaci\u00f3n de los contenidos. Estos modelos pueden emplearse para llevar a cabo tareas inofensivas, como, por ejemplo, crear una presentaci\u00f3n para dar una charla o una invitaci\u00f3n […]<\/p>\n","protected":false},"author":651,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[39,38],"tags":[37,27,28],"class_list":["post-475","post","type-post","status-publish","format-standard","hentry","category-civil-law","category-derecho-europeo","tag-derecho-europeo","tag-servicios-de-la-sociedad-de-la-informacion","tag-torts"],"_links":{"self":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/475","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/users\/651"}],"replies":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/comments?post=475"}],"version-history":[{"count":2,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/475\/revisions"}],"predecessor-version":[{"id":555,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/posts\/475\/revisions\/555"}],"wp:attachment":[{"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/media?parent=475"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/categories?post=475"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/wp-json\/wp\/v2\/tags?post=475"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}