{"id":4192,"date":"2025-09-16T07:27:42","date_gmt":"2025-09-16T07:27:42","guid":{"rendered":"https:\/\/webs.uab.cat\/saramartinalegre\/?p=4192"},"modified":"2025-09-16T07:29:17","modified_gmt":"2025-09-16T07:29:17","slug":"por-que-debemos-ser-muy-cautos-con-la-introduccion-de-la-ia-en-nuestra-ensenanza-e-investigacion-un-comentario-sobre-guest-et-al","status":"publish","type":"post","link":"https:\/\/webs.uab.cat\/saramartinalegre\/2025\/09\/16\/por-que-debemos-ser-muy-cautos-con-la-introduccion-de-la-ia-en-nuestra-ensenanza-e-investigacion-un-comentario-sobre-guest-et-al\/","title":{"rendered":"POR QU\u00c9 DEBEMOS SER MUY CAUTOS CON LA INTRODUCCI\u00d3N DE LA IA EN NUESTRA ENSE\u00d1ANZA E INVESTIGACI\u00d3N: UN COMENTARIO SOBRE GUEST ET AL."},"content":{"rendered":"\n<p>Hoy estoy usando mi entrada como excusa para leer un art\u00edculo titulado (traduzco el t\u00edtulo del ingl\u00e9s) \u201cContra la adopci\u00f3n acr\u00edtica de las tecnolog\u00edas de \u2018IA\u2019 en la academia\u201d firmado por Olivia Guest y otros 18 autores empleados principalmente en los Pa\u00edses Bajos. Este texto se puede encontrar en un repositorio de pre-impresiones (<a href=\"https:\/\/philarchive.org\/rec\/GUEATU\">https:\/\/philarchive.org\/rec\/GUEATU<\/a>) donde se archiv\u00f3 el 7 de septiembre del a\u00f1o en curso. El resumen advierte que \u201cbajo la bandera del progreso\u201d muchos productos nocivos, como el tabaco, los motores de combusti\u00f3n o las redes sociales, han sido aceptados sin reflexionar sobre las consecuencias, como estamos haciendo ahora con la IA. Los autores, que ya hab\u00edan publicado una carta abierta sobre este tema (v\u00e9ase <a href=\"https:\/\/openletter.earth\/open-letter-stop-the-uncritical-adoption-of-ai-technologies-in-academia-b65bba1e\">https:\/\/openletter.earth\/open-letter-stop-the-uncritical-adoption-of-ai-technologies-in-academia-b65bba1e<\/a>), piden ahora \u201ca nuestros empleadores que reviertan y reconsideren su postura sobre la adopci\u00f3n acr\u00edtica de las tecnolog\u00edas de IA\u201d. Su objetivo es convencer a las universidades de que \u201ccontrarresten el marketing, el <em>hype<\/em> y el da\u00f1o causado por la industria tecnol\u00f3gica; y que salvaguarden la educaci\u00f3n superior, el pensamiento cr\u00edtico, la experiencia dada por el conocimiento, la libertad acad\u00e9mica y la integridad cient\u00edfica\u201d. Comparto sus preocupaciones al 100%, de ah\u00ed mi resumen de su largo art\u00edculo para beneficio de mis lectores (aviso que contiene una largu\u00edsima bibliograf\u00eda por si interesa).<\/p>\n\n\n\n<p>Destacar\u00e9 un par de declaraciones iniciales, aunque es dif\u00edcil elegir entre tantas frases valiosas:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>\u201cLa industria de la tecnolog\u00eda se est\u00e1 aprovechando de nosotros, a veces incluso hablando a trav\u00e9s de nosotros, para convencer a nuestros estudiantes de que estas tecnolog\u00edas de IA son \u00fatiles (o necesarias) y no da\u00f1inas\u201d.<\/li>\n\n\n\n<li>\u201cEn relaci\u00f3n con la industria tecnol\u00f3gica de la IA, rechazamos sus marcos, impugnamos su tecnolog\u00eda adictiva y fr\u00e1gil, y exigimos que se restaure la santidad de la universidad como instituci\u00f3n y como conjunto de valores\u201d.<\/li>\n<\/ul>\n\n\n\n<p>Los principales puntos planteados y debatidos son (en mi par\u00e1frasis):<\/p>\n\n\n\n<p>a) el hecho de que la terminolog\u00eda sobre la IA, que existe desde la d\u00e9cada de 1950, es deliberadamente confusa, parte del uso de jerga a la moda por parte de las corporaciones para vender productos creando publicidad enga\u00f1osa.<\/p>\n\n\n\n<p>b) como profesores, carecemos de los conocimientos tecnol\u00f3gicos para comprender adecuadamente los sistemas actuales de IA y as\u00ed explicarlos de manera matizada a nuestros estudiantes (adem\u00e1s, \u201cEn el presente, la IA no tiene un significado fijo. Puede ser cualquier cosa, desde un campo de estudio hasta un software\u201d). Comprobad esto: \u00bfcu\u00e1ntos de vosotros de verdad entend\u00e9is que ChatGPT es un LLM (Large Language Model) que posiblemente use una ANN (Red Neuronal Artificial)? Digo posiblemente porque OpenAI es totalmente opaco sobre c\u00f3mo funciona y no ha publicado el c\u00f3digo fuente de ChatGPT (por lo que entiendo, se trata de una infracci\u00f3n de las regulaciones cient\u00edficas).<\/p>\n\n\n\n<p>c) cualquier rechazo de la IA te coloca en el campo de los luditas retr\u00f3grados. Nuestra experiencia basada en el conocimiento es rechazada en favor de las empresas que promueven el uso de la IA, a cuyo poder (casi) nadie puede oponerse (un miembro de @BlueSky me dijo que al prohibir a mis estudiantes usar IA da\u00f1a sus perspectivas profesionales futuras). Las palabras \u201c\u00e9tica\u201d y \u201ctransparencia\u201d a menudo se invocan para frenar nuestra resistencia, pero no provienen de expertos en la aplicaci\u00f3n de la IA: provienen de los fabricantes. El <em>greenwashing<\/em> hip\u00f3crita tambi\u00e9n juega un papel clave. Los autores piden \u201ca la comunidad tecnol\u00f3gica educativa que desmitifique los sistemas de IA y, en cambio, se acerque a aquellos con m\u00e1s esp\u00edritu cr\u00edtico y humildad\u201d.<\/p>\n\n\n\n<p>d) la IA no es imparable. Adem\u00e1s, si contribuimos a su colonizaci\u00f3n de la universidad, ayudamos a erosionar el futuro y a descualificar a \u201clos estudiantes y a nosotros mismos\u201d, potenciando la destrucci\u00f3n del medio ambiente.<\/p>\n\n\n\n<p>e) los fracasos anteriores de diversas promesas tecnol\u00f3gicas deber\u00edan ense\u00f1arnos que la IA actual est\u00e1 tambi\u00e9n abocada al fracaso. Su burbuja estallar\u00e1, dejando a su paso la destrucci\u00f3n de muchos empleos e instituciones educativas. Agregar\u00e9 que, si record\u00e1is, las clases de la escuela primaria se digitalizaron en a\u00f1os pasados, solo para que los maestros concluyeran que se ha estado perjudicando a los ni\u00f1os. Los escandinavos, siempre a la vanguardia, ya est\u00e1n vaciando el aula de dispositivos digitales.<\/p>\n\n\n\n<p>f) el antropomorfismo nos ha hecho llegar a la conclusi\u00f3n equivocada de que los LLM como ChatGPT son similares a las personas en la forma en que interact\u00faan con los humanos. En realidad, los LLM simulan el comportamiento humano en funci\u00f3n de la informaci\u00f3n que se les proporciona, pero DE NINGUNA MANERA son pensadores independientes y conscientes.<\/p>\n\n\n\n<p>g) estamos integrando la IA en nuestra ense\u00f1anza (\u00a1e investigaci\u00f3n!) asumiendo err\u00f3neamente que TODOS los estudiantes usan ChatGPT, cuando en realidad muchos entienden sus peligros y c\u00f3mo socava la adquisici\u00f3n de habilidades clave. Siempre les digo a mis alumnos que usar ChatGPT para escribir un ejercicio es como si lo hiciera otra persona. Algunos son felices haciendo trampa de esa manera, pero muchos no. Una cosa es ense\u00f1ar a los estudiantes <em>sobre <\/em>las tecnolog\u00edas de IA y sus peligros, y otra muy distinta usarlas sin cr\u00edtica.<\/p>\n\n\n\n<p>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Finalmente, los autores proporcionan cinco principios para proteger \u201cel ecosistema del conocimiento humano\u201d:<\/p>\n\n\n\n<p>1) Honestidad (\u201cno usamos en secreto tecnolog\u00edas de IA sin divulgaci\u00f3n\u201d y \u201cno se hacen afirmaciones infundadas sobre las presuntas capacidades de las tecnolog\u00edas de IA\u201d).<\/p>\n\n\n\n<p>2) Escrupulosidad (solo utilizamos \u201cproductos de IA cuya funcionalidad est\u00e1 bien especificada y validada para su uso cient\u00edfico espec\u00edfico\u201d).<\/p>\n\n\n\n<p>3) Transparencia (las tecnolog\u00edas de IA son \u201cde c\u00f3digo abierto y computacionalmente reproducibles\u201d).<\/p>\n\n\n\n<p>4) Independencia (la investigaci\u00f3n es \u201cimparcial en relaci\u00f3n con las agendas de las empresas de IA\u201d y siempre \u201cse declaran posibles conflictos de intereses\u201d).<\/p>\n\n\n\n<p>5) Responsabilidad (nuestro uso de productos de IA no puede da\u00f1ar a las personas, los animales o el medio ambiente, ni \u201cviolar las pautas legales\u201d como los derechos de autor, la privacidad de los datos personales, o las leyes laborales).<\/p>\n\n\n\n<p>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Los autores terminan se\u00f1alando que \u201cel mundo acad\u00e9mico tiene incentivos estructurales bien conocidos que invitan a hacer trampa\u201d, lo que inclina no solo a los estudiantes sino tambi\u00e9n a los investigadores a usar ChatGPT. Recientemente tuve que decirle a un joven investigador que preguntaba si estaba bien escribir res\u00famenes de sus propios art\u00edculos usando ChatGPT que deber\u00eda considerar dejar de publicar. Los autores del art\u00edculo que comento, inteligentes como son, ven el v\u00ednculo directo entre el fascismo y la IA, ya que los reg\u00edmenes fascistas siempre atacan la integridad acad\u00e9mica y prefieren que los votantes sean incultos y acr\u00edticos. Encuentro la analog\u00eda que trazan con el tabaco muy pertinente: conocer los riesgos mortales conlleva que ahora podemos elegir entre fumar o no, asumiendo las consecuencias. La diferencia entre la IA y el tabaco es que no necesitamos esperar siglos para saber que la IA es adictiva y da\u00f1ina: ya tenemos la evidencia.<\/p>\n\n\n\n<p>Agregar\u00e9 algunas ideas m\u00e1s:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>lo que tenemos ahora no es una verdadera IA, con lo que me refiero a una inteligencia digital no org\u00e1nica capaz de tomar decisiones aut\u00f3nomas y sentientes sobre la base de una auto-consciencia, PERO todo llegar\u00e1. Puede llevar un a\u00f1o o un siglo, pero la \u201csingularidad\u201d suceder\u00e1. Al ceder a los modelos actuales de LLM, preparamos a\u00fan m\u00e1s el terreno para que la IA real se apodere de la vida humana cuando aparezca (por favor, leed y ved ciencia ficci\u00f3n, que est\u00e1 llena de ese tipo de f\u00e1bulas admonitorias).<\/li>\n\n\n\n<li>La IA, en su forma b\u00e1sica actual o avanzada, puede ser una fuerza para el bien si libera a los humanos de ocupaciones onerosas y arriesgadas, de peligros diarios y de problemas m\u00e9dicos. PERO para eso es esencial que sus beneficios econ\u00f3micos reviertan a la sociedad y que la IA no est\u00e9 controlada por corporaciones. Lo que est\u00e1 mal en el desarrollo actual de la IA no es la IA en s\u00ed, sino que su crecimiento corresponde a empresas codiciosas, ultra-capitalistas, inhumanas, fascistas y patriarcales dirigidas por un pu\u00f1ado de hombres crueles y nada emp\u00e1ticos (en su mayor\u00eda blancos y residentes en los EE. UU.). Hay usos maravillosos a los que se puede abrir la IA (por ejemplo, la comunicaci\u00f3n con los animales), pero el modelo actual se basa en provocar dependencia para conducir a ganancias financieras (pronto tendremos que pagar la suscripci\u00f3n) y a pr\u00e1cticas depredadoras a todos los niveles.<\/li>\n\n\n\n<li>La IA puede tener un lugar en la educaci\u00f3n y la investigaci\u00f3n, pero solo como una ayuda instrumental, nunca como un reemplazo de la adquisici\u00f3n de habilidades acad\u00e9micas. Cuando comenc\u00e9 a estudiar en 1984, los cat\u00e1logos de las bibliotecas eran colecciones de tarjetas mecanografiadas impresas en papel mientras que ahora los cat\u00e1logos de las bibliotecas son herramientas digitales de b\u00fasqueda. Sigo necesitando el mismo conjunto de habilidades para encontrar bibliograf\u00eda pero, por supuesto, los recursos a mi alcance son mucho m\u00e1s grandes. Sin embargo, si le pides a ChatGPT que te haga una bibliograf\u00eda, no usas ninguna habilidad acad\u00e9mica y lo m\u00e1s probable es que termines con una lista llena de entradas falsas (las famosas alucinaciones). Se puede usar la IA actual como una versi\u00f3n mucho m\u00e1s avanzada de la b\u00fasqueda t\u00edpica de Google, pero aun as\u00ed, se debe tener cuidado, ya que los LLM est\u00e1n programados para complacer a sus usuarios y le proporcionar\u00e1n informaci\u00f3n para satisfacerlo incluso si es falsa.<\/li>\n\n\n\n<li>Los LLM como ChatGPT siempre est\u00e1n extrapolando el conocimiento ya existente y no pueden innovar. Hasta ahora, solo los cerebros humanos tienen la capacidad de juntar 2+2 y obtener un 5 en lugar de un 4 como resultado, es decir, de tener una visi\u00f3n que haga saltar la chispa y conduzca a una nueva idea. Los LLM devoran vorazmente los documentos que los investigadores producimos para cortar y pegar, y as\u00ed hacer <em>collages<\/em>, raz\u00f3n por la cual las empresas de tecnolog\u00eda son actualmente los mayores ladrones de propiedad intelectual de la historia, si bien lo que producen los LLM es necesariamente un derivado. Puede bastar para aprobar una asignatura, pero no para producir investigaci\u00f3n de calidad ni para entrenar las neuronas.<\/li>\n<\/ul>\n\n\n\n<p>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Este semestre estoy ense\u00f1ando a los estudiantes a escribir rese\u00f1as de libros y, recordando la experiencia del a\u00f1o pasado en la misma asignatura, conf\u00edo plenamente en que no usar\u00e1n ChatGPT. He intentado establecer las bases de nuestra mutua confianza se\u00f1alando lo absurdo que ser\u00eda dejar que ChatGPT les dicte su opini\u00f3n personal sobre un libro, para que as\u00ed se enorgullezcan de expresar su punto de vista sobre los textos que deben rese\u00f1ar. Creo que esto es crucial: necesitamos invitar a los estudiantes a producir ejercicios m\u00e1s personales para que no se limiten a repetir como loros lo que les decimos, o lo que otros investigadores han afirmado.<\/p>\n\n\n\n<p>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Si los estudiantes encuentran usos para ChatGPT que no da\u00f1en su capacidad para adquirir habilidades acad\u00e9micas, los escuchar\u00e9, pero tendr\u00e9 en cuenta la impecable disecci\u00f3n del problema que presentan Guest at al. en el art\u00edculo comentado, y los cinco principios que deben regir nuestra total transparencia y nuestra \u00e9tica <em>deserci\u00f3n<\/em> de la IA actual en el mundo acad\u00e9mico. Tratad de imaginar qu\u00e9 pasar\u00eda si en lugar de IA los estudiantes hubieran comenzado a usar alguna droga ilegal que mejore la mente, y pensad si la recibir\u00edamos con los brazos abiertos en nuestras aulas. Esta es la analog\u00eda m\u00e1s cercana a lo que est\u00e1 sucediendo ahora mismo en la universidad.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Hoy estoy usando mi entrada como excusa para leer un art\u00edculo titulado (traduzco el t\u00edtulo del ingl\u00e9s) \u201cContra la adopci\u00f3n acr\u00edtica de las tecnolog\u00edas de \u2018IA\u2019 en la academia\u201d firmado por Olivia Guest y otros 18 autores empleados principalmente en los Pa\u00edses Bajos. Este texto se puede encontrar en un repositorio de pre-impresiones (https:\/\/philarchive.org\/rec\/GUEATU) donde [&hellip;]<\/p>\n","protected":false},"author":98,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[942,723,868,1139,941],"tags":[990,242,1044],"class_list":["post-4192","post","type-post","status-publish","format-standard","hentry","category-ciencia","category-docencia","category-escritura-academcia","category-estudiantes","category-investigacion","tag-chatgpt","tag-ia","tag-universidad"],"_links":{"self":[{"href":"https:\/\/webs.uab.cat\/saramartinalegre\/wp-json\/wp\/v2\/posts\/4192","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/webs.uab.cat\/saramartinalegre\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/webs.uab.cat\/saramartinalegre\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/saramartinalegre\/wp-json\/wp\/v2\/users\/98"}],"replies":[{"embeddable":true,"href":"https:\/\/webs.uab.cat\/saramartinalegre\/wp-json\/wp\/v2\/comments?post=4192"}],"version-history":[{"count":1,"href":"https:\/\/webs.uab.cat\/saramartinalegre\/wp-json\/wp\/v2\/posts\/4192\/revisions"}],"predecessor-version":[{"id":4193,"href":"https:\/\/webs.uab.cat\/saramartinalegre\/wp-json\/wp\/v2\/posts\/4192\/revisions\/4193"}],"wp:attachment":[{"href":"https:\/\/webs.uab.cat\/saramartinalegre\/wp-json\/wp\/v2\/media?parent=4192"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/webs.uab.cat\/saramartinalegre\/wp-json\/wp\/v2\/categories?post=4192"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/webs.uab.cat\/saramartinalegre\/wp-json\/wp\/v2\/tags?post=4192"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}