{"id":459,"date":"2023-06-09T18:03:43","date_gmt":"2023-06-09T16:03:43","guid":{"rendered":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/?p=459"},"modified":"2024-03-18T18:04:17","modified_gmt":"2024-03-18T16:04:17","slug":"algunas-consideraciones-acerca-del-chatgpt-y-otros-modelos-fundacionales-a-la-luz-de-la-futura-ley-europea-de-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/webs.uab.cat\/derecho-y-digitalizacion-empresarial\/2023\/06\/09\/algunas-consideraciones-acerca-del-chatgpt-y-otros-modelos-fundacionales-a-la-luz-de-la-futura-ley-europea-de-inteligencia-artificial\/","title":{"rendered":"Algunas consideraciones acerca del ChatGPT y otros modelos fundacionales a la luz de la futura Ley europea de inteligencia artificial"},"content":{"rendered":"\n

Presentando el fen\u00f3meno<\/em><\/strong> <\/p>\n\n\n\n

No pasa d\u00eda en que no encontremos en alg\u00fan peri\u00f3dico digital o en papel alguna noticia -ya sea para alabarlo como para denostarlo- sobre el famoso ChatGPT-4 o ChatGPT Plus, aunque existen otros modelos similares como Stable Diffusion, Luminous, DALL-E, Midjourney, etc\u2026 Se trata de modelos de inteligencia artificial (IA) generativa (\u201clarge generative AI models<\/em>\u201d) que se incluyen dentro de la categor\u00eda \u201cfoundation models<\/em>\u201d o \u201cmodelos fundacionales\u201d (Bommasani, R., et al., \u201cOn the opportunities and risks of foundation models\u201d, arXiv preprint arXiv:2108.07258, 2021. Fecha de la consulta: junio 2023), que est\u00e1n transformando la forma en que nos comunicamos, producimos, creamos o trabajamos. Aparecen definidos en el art. 3.1c de la \u00faltima Propuesta de Ley de IA de 9 de mayo de 2023 hecha p\u00fablica con las enmiendas del Parlamento europeo [Draft Compromise Amendments <\/em>on the Draft Report<\/em> <\/em>Proposal for a regulation of the European Parliament and of the Council on harmonised rules on Artificial Intelligence (Artificial Intelligence Act)<\/em> <\/em>and amending certain Union Legislative Acts<\/em> (COM(2021)0206 \u2013 C9 0146\/2021 \u2013 2021\/0106(COD)), https:\/\/www.europarl.europa.eu\/meetdocs\/2014_2019\/plmrep\/COMMITTEES\/CJ40\/DV\/2023\/05- 11\/ConsolidatedCA_IMCOLIBE_AI_ACT_EN.pdf. Fecha de la consulta: junio 2023]:  <\/p>\n\n\n\n

\u2018foundation model\u2019 means an AI model that is trained on broad data at scale, is designed for generality of output, and can be adapted to a wide range of distinctive tasks.<\/em> <\/p>\n\n\n\n

El nuevo considerando n\u00fam. 60e introducido en esta \u00faltima Propuesta de Ley de IA toma en cuenta estos \u201cmodelos fundacionales\u201d explicando su aplicabilidad y funcionamiento del siguiente modo: <\/p>\n\n\n\n

\u201cFoundation models are a recent development, in which AI models are developed from algorithms designed to optimize for generality and versatility of output. Those models are often trained on a broad range of data sources and large amounts of data to accomplish a wide range of downstream tasks, including some for which they were not specifically developed and trained. Those systems can be unimodal or multimodal, trained through various methods such as supervised learning or reinforced learning. AI systems with specific intended purpose or general purpose AI systems can be an implementation of a foundation model, which means that each foundation model can be reused in countless downstream AI or general purpose AI systems. These models hold growing importance to many downstream applications and systems<\/em>\u201d. <\/p>\n\n\n\n

Van m\u00e1s all\u00e1 que un sistema de IA basado en machine learning o, dicho con otras palabras, consisten en sistemas avanzados de machine learning que, una vez han aprendido patrones y correlaciones a partir de los datos, aunque no se les haya dicho expl\u00edcitamente que lo hagan, son capaces de generar nuevos casos, situaciones o ejemplos a partir de los datos de entrenamiento. Estos modelos necesitan una gran cantidad de datos lo que conlleva que el sistema deba entrenarse tambi\u00e9n con datos de libre acceso en internet y que lo haga constantemente de acuerdo con un modelo de aprendizaje autosupervisado por el propio sistema. Esto tiene sus riesgos en cuanto, por un lado, a la calidad de los datos debido los sesgos que puedan presentar y, por otro, en relaci\u00f3n con el cumplimiento de la legislaci\u00f3n sobre protecci\u00f3n de datos personales. <\/p>\n\n\n\n

Preguntado al propio ChatGPT-4 en qu\u00e9 consiste un \u201cmodelo fundacional\u201d tomando el rol de un ingeniero inform\u00e1tico (en ingl\u00e9s) ha indicado lo que sigue: <\/p>\n\n\n\n

Prompt 1: \u201cA foundation model is a large-scale neural network that can learn from massive amounts of unlabeled data, such as text, images, audio, or video, using self-supervised learning techniques. Self-supervised learning is a way of training a neural network without human annotations, by creating and solving auxiliary tasks based on the data itself. For example, a self-supervised learning task for text data could be to predict the next word in a sentence, or to fill in the blanks in a paragraph. By doing this, the neural network can learn the structure and semantics of natural language<\/em>\u201d. <\/p>\n\n\n\n

\u00bfPara qu\u00e9 sirven estos modelos? Le vuelvo a preguntar. <\/p>\n\n\n\n

Prompt 2: \u201cSome applications of foundation models are:<\/em> <\/p>\n\n\n\n