Ethical assessments and mitigation strategies for non-racial biases in AI-systems used during the COVID-19 pandemic
The main aim of this article is to reflect on the impact of biases related to artificial intelligence (AI) systems developed to tackle issues arising from the COVID-19 pandemic, with special focus on those developed for triage and risk prediction. A secondary aim is to review assessment tools that have been developed to prevent biases in AI systems. In addition, we provide a conceptual clarification for some terms related to biases in this particular context.
Puyol, A. (2023). AC: de Manuel, A
Big Data & Society, DOI: https://doi.org/10.1177/20539517231179199 [SJR: Q1].
Bias in algorithms of AI systems developed for COVID-19: A scoping review
To analyze which ethically relevant biases have been identified by academic literature in artificial intelligence (AI) algorithms developed either for patient risk prediction and triage, or for contact tracing to deal with the COVID-19 pandemic. Additionally, to specifically investigate whether the role of social determinants of health (SDOH) have been considered in these AI developments or not. We conducted a scoping review of the literature, which covered publications from March 2020 to April 2021.
Puyol, A. (2022). AC: Delgado, J; (10/10)
Bioethical Inquiry, https://doi.org/10.1007/s11673-022-10200-z [SJR: Q2, Health Policy].
El papel de la solidaridad en una pandemia
En este artículo se repasa el uso retórico de la solidaridad durante la pandemia, se muestran las contradicciones derivadas de ese uso y se arroja luz sobre el uso normativo que debería tener la solidaridad para afrontar con más rigor las respuestas a las pandemias del futuro.
Puyol, A. (2022)
Rev Esp Salud Pública, Vol. 96, 5 de octubre, e202210072, e1-e12. [SJR: Q3]
Gender in AI and Robotics. The Gender Challenges from an Interdisciplinary Perspective
Why AI does not include gender in its agenda? The role of gender in AI, both as part of the community of agents creating such technologies, as well as part of the contents processed by such technologies is, by far, conflictive. Women have been, again, obliterated by this fundamental revolution of our century. Highly innovative and the first step in a series of future studies in this field, this book covers several voices, topics, and perspectives that allow the reader to understand the necessity to include into the AI research agenda such points of view and also to attract more women to this field
Vallverdú, Jordi (Ed.) (2021)
Springer
The Deliberated Decision in Children’s Mainstream Cinema: On Socialization in the Discourse of Freedom
The purpose of this article is to highlight a trend in the narrative use of decisions that reinforces a widely accepted discourse of freedom. Through a discursive analysis focusing on contemporary mainstream screenwriting, it explores the relationship between the protagonist’s decision and the climax of the story. pecifically, the article highlights a channel through which this discourse influences the sector of the public that is most sensitive to socialization processes: children and youth. With the normalized practice of screenwriting and without necessarily being aware of the fact, screenwriters can reproduce this discourse of freedom and thereby take part in reinforcing its social legitimacy.
Plana, M. (2021)
Journal of Screenwriting, Intellect.
When the community takes action: building resilience through the Transition Movement in Spain. A critical assessment
The Transition Movement (TM) has been pioneering in the shift from sustainability to resilience, creating positive narratives about change and articulating resilience experiments on the ground. This chapter explores the current state of the transition initiatives in Spain, reports on the challenges they have faced in the 12 years of history of the movement at an international level, and discusses the changes and adaptations that are required for achieving long-term impact in times of social and ecological emergency.
Moyano, C., Garrido, S., Del Rio, J., & Rodriguez-Navas, G. (2021) In Colucci, A. & Pesaro, G. (Eds.)
Ecosystems of Resilience Practices, Elsevier
Fraternidad política y enfermedades raras
Las enfermedades raras reciben, en general, menos financiación para su investigación y tratamientos médicos que el resto de enfermedades. Al margen de explicaciones científicas y económicas conocidas, existen dos grandes posiciones éticas respecto a este hecho, la que lo aprueba por razones de ética utilitarista, y la que lo condena insistiendo en razones igualitaristas y de derechos individuales. En este artículo, analizo los problemas de ambos tipos de justificación moral, y propongo una alternativa ética basada en la idea de fraternidad política que, aplicada a las enfermedades raras, evita las peores consecuencias tanto del utilitarismo como del lenguaje del derecho individual a la salud y el mero igualitarismo.
Puyol, A. (2021)
Araucaria. Revista Iberoamericana de Filosofía, Política, Humanidades y Relaciones Internacionales, n. 46, pp. 353-368.
Ronald Giere, ¿semanticista? Una pregunta provocativa para el debate contemporáneo sobre la representación científica.
El objetivo del presente trabajo es mostrar las ventajas de considerar al enfoque de Ronald Giere separado de lo que se ha llamado la familia semanticista en filosofía de la ciencia. Principalmente porque rechaza las relaciones diádicas de representación isomórfica y de verdad para la representación científica. Mostraremos aquí que, especialmente a partir de su noción de similitud, los beneficios de una interpretación pragmática de su enfoque, que estaría en mejor relación con la propia práctica científica con modelos, así como con el debate contemporáneo sobre la representación. Para ello, recurriremos a un breve ejemplo de modelos DIBs en biología.
Lopez-Orellana, R., & Sans Pinillos, A. (2021)
ArtefaCToS. Revista De Estudios Sobre La Ciencia Y La tecnología, 10(1), 89-106. https://doi.org/10.14201/art202110189106.
The loss of food sovereignty in synthetic meat transition: a critique from eco-republicanism.
Moyano, C. (2021)
In Justice and Food Security in a Changing Climate, EurSafe Conference Proceedings, Wageningen Academic Publishers.
La eficiencia no basta. Análisis ético y recomendaciones para la distribución de recursos escasos en situación de pandemia
Objetivo: Elaborar una herramienta de apoyo que ayude a tomar decisiones en el marco de la pandemia de COVID-19.
Método: Se parte de una búsqueda de diferentes recomendaciones éticas surgidas en España sobre priorización de recursos sanitarios escasos en la pandemia de COVID-19, así como de una revisión narrativa de modelos teóricos sobre redistribución en pandemias para definir una fundamentación ética. Finalmente, se extraen recomendaciones para su posible aplicación en distintos ámbitos asistenciales.
Resultados: Se identifican tres principios — igualdad estricta, equidad y eficiencia — que se concretan en criterios de distribución específicos.
Conclusiones: Se propone un modelo de distribución de recursos sanitarios escasos en situación de pandemia que parte de un procedimiento de toma de decisiones y adapta los criterios de distribución a los escenarios de la atención sanitaria: atención primaria, residencias sociosanitarias y atención hospitalaria.
Puyol, A. (2021) junto a J. Hortal-Carmona, J. Padilla-Bernáldez, M. Melguizo-Jiménez, T. Ausín, M. Cruz-Piqueras, M.T. López de la Vieja, D. Rodríguez-Arias, M.I. Tamayo-Velázquez y R. Triviño.
Gaceta Sanitaria, DOI: https://doi.org/10.1016/j.gaceta.2020.07.006
The benefits of being wrong: bonding epistemic and cognitive incompleteness for natural and artificial intelligent systems
Vallverdú, J. (2021)
LINKs –Special Issue 1 – Unconventional Computing, 70-72.
Language: The “Ultimate Artifact” to Build, Develop, and Update Worldviews.
Magnani, L., Sans Pinillos, A. & Arfini, S (2021)
Topoi. https://doi.org/10.1007/s11245-021-09742-5
Distribuir els recursos sanitaris amb justícia. A qui prioritzem?
Puyol, A. (2021)
Newsletter La Gestió Importa, Societat Catalana de Gestió Sanitària
Investigando en animales para producir alimentos más éticos: los límites morales de la carne cultivada
Moyano, C. (2021)
Revista de Bioética y Derecho; n. 51. https://doi.org/10.1344/rbd2021.51.32473
The benefits of being wrong: bonding epistemic and cognitive incompleteness for natural and artificial intelligent systems
Vallverdú, J. (2021) in Adamatzky, Andrew & Lestocart Louis-José
Thoughts on Unconventional Computing, UK: Luniver Press,70-72. ISBN: 978-1-905986-12-5.
Arxiu de publicacions
Puyol, A. (2020) “Solidarity and regulatory frameworks in (public health) Big Data”, European Journal of Public Health, vol. 30, Supplement 5, ckaaa165.645.
Puyol, A. (2020) “Solidarité moderne: la version light de la vieille fraternité politique”, en Angel Puyol, Jordi Riba et Patrice Vermeren (eds.), Un nouveau regard sur la solidarité?, Paris: L’Harmattan, pp. 101-114.
Vallverdú, J. (2020) ”Approximate and Situated Causality in Deep Learning”, Philosophies 2020, 5, 2. https://doi.org/10.3390/philosophies5010002 Scopus indexed.
Vallverdú, J. (2020) “Biasing AI? A New Approach to AI Intertwining Natural and Cultural Heuristics”, BioNanoScience, DOI: 10.1007/s12668-020-00803-4
Alger Sans Pinillos, Jordi Vallverdú (2020) “Societat, política i COVID-19: les cultures (científiques) de l’epidemiologia”. Audens: revista estudiantil d’anàlisi interdisciplinaria, Vol.3 (2020): 24-33. ISSN online: 2604-7284
Sans, Alger & Vallverdú, Jordi (2020), “Què #®¥§≠$@ és la creativitat?”, Debats, Revista de cultura, poder i societat, 134 (2). [Scopus, Carhus+, Erih Plus indexed]
Vallverdú J. (2020) “Fuckbots: The Challenges of Sexual Robotics”, COJ Rob Artificial Intel., 1(1). COJRA. 000505.
Sans A. (2020). Abductive reasoning on humans/AI interactions in medical contexts. European Journal of Public Health, vol. 30, Issue Supplement 5, September 2020, ckaa165.646. [Abstract] https://doi.org/10.1093/eurpub/ckaa165.646
Sans Pinillos, A. (2020). Arguments against the validity of the inference to the best available explanation from an eco-cognitive perspective of abduction. Anuari de la Societat Catalana de Filosofia 30-31 (Actes del V Congrés Català de Filosofia, Canillo-Andorra, 2019), 177-186. DOI: 10.2436/20.3001.01.108
Tiberius Ignat, Olga Stepankova, Huma Shah, , Ulrico Celentano, Maayan Zhitormsky-Geffet, Yiannis Gialelis, Robin Pierce, Jordi Vallverdú, Damla Bal, Sanja Persic, Julia Bencze, Daniel Wyler, Deniz Ozdemir (2020). Public report on current methods in CS Engagement. CSI-COP EU H2020 project (Report D2.1, CSI-COP) (Version 4). Zenodo. DOI: 10.5281/zenodo.3899478.
Sans, A. (2020). Apuntes sobre los aspectos de valor prescriptivo del razonamiento abductivo. En D. P. Fernandes y R. Lopez-Orellana (Eds.), El jardín de senderos que se bifurcan y confluyen: Filosofía, Lógica y Matemáticas. Serie Selección de Textos (vol. 8, pp. 143-157). Valparaíso: Instituto de Filosofía, Universidad de Valparaíso. ISBN 978-956-402-647-3
Jordi Vallverdú, Valentina Franzoni and Alfredo Milani. (2019). Errors, Biases and Overconfidence in Artificial Emotional Modeling. In Proceedings of WI’19: IEEE/WIC/ACM International Conference on Web Intelligence (WI ’19 Companion), October 14-17, 2019, Thessaloniki, Greece. ACM, New York, NY, USA, 5 pages. https://doi.org/10.1145/3358695.3361749.
Jordi Vallverdú, (2019) “The Situated Nature of Informational Ontologies”, in Dodig-Crnkovic, G & Burgin, M. (Eds) World Scientific Series in Information Studies: Volume 10: Philosophy and Methodology of Information. The Study of Information in the Transdisciplinary Perspective, USA World Scientific. Pages: 353-365. DOI: https://doi.org/10.1142/9789813277526_0016
Jordi Vallverdú & Yosuke Nakano (2019) “No hay nada que sea más real que un videojuego”, in David Ferragut & Alfonso García (Eds.) Ensayos y errores. Arte, ciencia y pensamiento en los videojuegos, Barcelona: Arait. Pp.1-14.
Puyol, A. (2019) Political Fraternity: Beyond Freedom and Equality, New York and London: Routledge.
Puyol, A. (2019) “Philosophical Debates in Public Health”, en J. Vallverdú, A. Estany y A. Puyol (eds.), Philosophical and Methodological Debates in Public Health, Springer, pp. 1-7.
Andrew Adamatzky, Jordi Vallverdu & Georgios Ch. Sirakoulis (2019), “Chemical excitable medium in Barcelona street network as a method for panicked crowds behaviour analysis”, Complex Systems, 28(1): 41-57. ISSN 0891-2513. Complex Systems, RG Journal Impact: 0.38 * [Research Gate], Scopus indexed.
Valentina Franzoni,, Alfredo Milani, Daniele Nardi, and Jordi Vallverdú (2019) “Editorial – Emotional Machines: The Next Revolution”, Web Intelligence, 17(1): 1-8. 17:1 SJR: Q4, Scopus indexed.
(forthcoming in 2019) Puyol A. “Solidarity and regulatory frameworks in Big Data”. In: Casanovas P. and Moreso J.J. (eds.). Democracy and Regulations in a Global and Half-automated World, Springer Verlag.
Farrés O. (2019) “Social Determinants of Health. Citizenship Rights and Responsibilities”. In: Vallverdú J. Estany, A. and Puyol A. (eds.). Philosophical Debates in Public Health, Springer Verlag.
Puyol, A. (2019) “Ética, solidaridad y donación de sangre. Cuatro perspectivas a debate”, Revista de Bioética y Derecho, n. 45, pp. 43-58. https://revistes.ub.edu/index.php/RBD/article/view/27786
(2019) Sans, A. y Casacuberta, D. Remarks on the Possibility of Ethical Reasoning in an Artificial Intelligence System by Means of Abductive Models. En Nepomuceno-Fernández, Á., Magnani, L., Salguero-Lamillar, F. J., Barés-Gómez, C., Fontaine, M (Ed.). Model-Based Reasoning in Science and Technology, Inferential Models for Logic, Language, Cognition and Computation. Switzerland: Springer Nature Switzerland, pp. 318-333.
(2019) Vallverdú, J., Puyol, A. y Estany, A. (Ed.). Philosophical and Methodological Debates in Public Health. Switzerland: Springer Nature Switzerland.
(2019) Sans, A. “Rigor Mortis: Què passa quan una teoria nega allò que no li pertany o què passa quan un coneixement es veu obligat a adaptar-se al que no pot. Comentari crític de «Construir en la foscor. Teoria i observació en ciència i en psicoanàlisi» de R. Caper”, Revista Catalana de Psicoanàlisi, n. 35 (2), pp. 141-152.
Vallverdú, J. & Müller, V. (eds) (2019) Blended Cognition & Multicognitive Systems for Robotics, Germany: Springer. ISBN 978-3-030-03104-6.
Ulrich Furbach, Steffen Hölldobler, Marco Ragni, Rafal Rzepka, Claudia Schon, Jordi Vallverdu and Andre Wlodarczyk (Eds.) (2019) Joint Proceedings of the IJCAI-2019 Workshops on Linguistic and Cognitive Approaches to Dialog Agents and on Bridging the Gap Between Human and Automated Reasoning August 12, 2019 Macao, China. ISBN: 1613-0073. http://ceur-ws.org/Vol-2452/
(2018) Puyol A. y Segura, A. “Ética y priorización sanitaria. Una introducción”, en Prioridades y políticas sanitarias, Barcelona: Cuadernos de la Fundació Víctor Grífols i Lucas n. 48, pp. 7-13. ISBN: 978-04-09-03356-0. https://www.fundaciogrifols.org/documents/4662337/45564333/q48/448dcd6c-578a-4456-8577-1ccc8155f2cf
Moyano, C. (2018).«¿Fraternidad política con los animales? Hacia una justicia interespecífica», Daimon International Journal of Philosophy, Supplement n. 7, https://doi.org/10.6018/daimon/333791.
(2018) Puyol A. “The uncomfortable truths of healthcare prioritisation”, in Juan E. del Llano-Señarís and Savador Peiró Moreno (Eds.), Prioritising Health Services or Muddling Through, Madrid: Springer, pp. 125-143. ISBN: 978-84-940118-9-4.
Moyano, C. (2018). Review on Peter Singer’s book «The Most Good You Can Do: How Effective Altruism Is Changing», Enrahonar: an international journal of theoretical and practical reason; n. 60., 2018.
(2018) Puyol A., Roman, B. y Segura, A. “Hygea y la virtud o recordando a Protágoras: diálogo sobre ética de la salud comunitaria. Informe SESPAS 2018”, Gaceta Sanitaria. https://doi.org/10.1016/j.gaceta.2018.06.005
http://www.gacetasanitaria.org/en-pdf-S0213911118301456
Moyano, C. (2018). «Identity or Solidarity Food? Ex-ante Responsibility as a Fair Culture Approach». In Springer, S. & Grimm, H. (Eds.). Professionals in Food Chains, Wageningen Academic Publishers. ISBN 978-90-8686-321-1.
(2018) Puyol, A. “Del derecho a la salud a la ética del racionamiento sanitario”, Anales de la Cátedra Francisco Suárez, n. 52, pp. 43-65. http://revistaseug.ugr.es/index.php/acfs/article/viewFile/6550/5671
Moyano, C. (2018). «¿Alimentarnos libremente o por igual? Solidaridad e identidad», Revista de Bioética y Derecho; n. 42, https://doi.org/10.1344/rbd2018.1.21553.
(2017) Puyol, A. “La idea de solidaridad en la ética de la salud pública”, Revista de Bioética y Derecho, n. 40, pp. 33-47. http://revistes.ub.edu/index.php/RBD/article/view/19161/21615
(2016) Puyol, A. “El valor del benestar. Una idea sense ideal”, Butlletí del Comité de Bioètica de Catalunya, n. 19 (juny 2016).
(2016) Farrés O. “Ideología y epidemiología”. In: Estany A. Puyol A. (eds.), Filosofía de la epidemiología social, Madrid: CSIC, pp. 183-201.
(2016) Borrell-Carrió F. & Hernández-Clemente J. “La certeza diagnóstica. El difícil camino que nos lleva a comprender el concepto de probabilidad en la práctica clínica”, Folia Humanística. Revista de salud, ciencias sociales y humanidades, 3 (mayo-junio).
(2016) Vallverdú J. “Causalidad en epidemiología”, in Puyol, A. & Estany, A. (Eds.) Filosofía de la Epidemiología social, Madrid: Editorial CSIC. ISBN: 978-84-16032-92-1, EAN: 9788416032921, págs.: 97-116.
(2016) Estrach, N. & Vallverdú J. “Epidemiología de las enfermedades mentales: ¿un caso aparte?”, in Puyol, A. & Estany, A. (Eds.) Filosofía de la Epidemiología social, Madrid: Editorial CSIC. ISBN: 978-84-16032-92-1, EAN: 9788416032921, págs. 219-241.
(2016) Gustaffson C. & Vallverdu J. “The best model of a cat is several cats”, Trends in Biotechnology, 34(3): 207–213. DOI: http://dx.doi.org/10.1016/j.tibtech.2015.12.006
(2016) Estany A. Puyol A. (eds.), Filosofía de la epidemiología social, Madrid: CSIC.
(2016) Estany, A., “Epidemiología ¿social?: hacia un enfoque interdisciplinar”, En Filosofía de la epidemiología social, Anna Estany y Angel Puyol (eds.) Construcción y refutación de nuevas enfermedades. El debate entre esencialistas y pragmáticos desde la perspectiva de la epidemiología social, PP. 59-78, Plaza y Valdés y CSIC, Madrid.
(2016) Puyol, A. “Ética y epidemiología social”. En: Estany A. Puyol A. (eds.), Filosofía de la epidemiología social, Madrid: CSIC, pp. 143-161.
Moyano, C. (2016). «Naturalesa humana com a desenvolupament humà: superant el reconeixement i l’autonomia efectiva», Filosofia, Ara! Revista per a pensar, vol. 2, n. 2. ISNN 2462-3865.
(2015) Puyol A. Camps V. Hernández I. Segura A. “An ethics training specific for European public health”. Public Health Reviews, vol. 36, n. 6.
Casacuberta, D. & Vallverdú, J (2014). “E-Science and the data deluge”. Philosophical Psychology. 27 pp: 126-140.
(2014) Vallverdú J. & Casacuberta D. “Ethical and technical aspects of the use of artificial emotions to create empathy in medical machines”, in Simon Peter van Rysewyck & Matthijs Pontier (Eds.) Machine Medical Ethics, USA: Springer. Series: Intelligent Systems, Control and Automation: Science and Engineering, Vol. 74. ISBN 978-3-319-08107-6. Pp: 341-362.
(2014) Borrell-Carrió F., Estany A., Platt FW. & Morales-Hidalgo V. “Doctors as a knowledge and intelligence building group: pragmatic principles underlying decision-making processes.”, J Epidemiol Community Health, online first, July, 10.1136/jech-2014-203868.
[/vc_column_text][/vc_column]
(2014) Puyol A. “Un fundamento inesperado para la autonomía en la bioética actual”. En: Antonio Casado (ed.). Autonomía con otros. Ensayos sobre bioética, Madrid: Plaza y Valdés, pp. 19-34.
(2014) Puyol A. “Justicia distributiva en el sistema de salud. El racionamiento de los recursos en tiempo de crisis”. Derecho y Salud, vol. 24, pp. 6-13.
(2014) Puyol A. “¿Quién es el guardián de nuestra propia salud? Responsabilidad individual y social por la salud”. Revista Española de Salud Pública, vol. 88, n. 5, pp. 569-580.
(2014) Puyol A. “Ética y salud pública”. Dilemata, n. 15, pp. 15-22.
Casacuberta. D. (2013) “Innovación, big data y epidemiología” Revista Iberoamericana de Argumentación. 7. pp: 1-12.
(2012) Farrés O. “Por una filosofía del error. Anna Estany, Victoria Camps y Mercè Izquierdo (eds.): Error y conocimiento: la gestión de la ignorancia. Granada, Comares, 2012, 376 pp.”, ISEGORÍA, N.º 47, pp. 688-694. https://ddd.uab.cat/pub/artpub/2012/200068/isegoria_a2012m7-12n47p688.pdf
(2012) Puyol A. “Hay bioética más allá de la autonomía”. Revista de Bioética y Derecho, n. 25, pp. 45-58.
(2012) Puyol A. “Ética, equidad y determinantes sociales de la salud”. Gaceta Sanitaria, vol. 26, n. 2, pp. 178-181.
(2012) Estany, A., “Reflexiones sobre la biológica aplicada: el caso de la investigación del cáncer”, en DIÉGUEZ, Antonio et al. (eds.): Actas del I Congreso de la Asociación Iberoamericana de Filosofía de la biología (Valencia, 28-30 nov. 2012). Valencia: Univ. de Valencia, 2012, p. 267-272.
(2012) Estany A. Camps V. Izquierdo M. (eds). Error y conocimiento: la gestión de la ignorancia, Granada: Comares.
(2011) Puyol A. “El derecho a subsistir y la justicia global”. Ideas y Valores. Revista Colombiana de Filosofía, vol. 60, n. 147, pp. 177-208.
(2010) Puyol A. “Salud y justicia global”. Isegoría, n. 43, pp. 479-502.
(2009) Vallverdú J. Bioética computacional, México: FCE. 280 pages.
(2009) Vallverdú J. & Delgado M. “Values in controversies: stem cell research”. Bio-Phronesis: Revista de Bioética y Socioantropología en Medicina. 4(2): 1-27. ISSN: 1850-4051.
(2009) Vallverdú J. & Gustafsson C. “Synthetic Life. Etho-bricks for a New Biology”, in: Systems Biology and Synthetic Biology, Edited by Pengcheng Fu & Sven Panke, USA: Publisher: John Wiley & Sons, Inc, Chapter 8: 205-220.
(2007) Delgado M. & Vallverdú J. “Valores en controversias: la investigación con células madre“. Revista Iberoamericana de Ciencia, Tecnología y Sociedad; vol. 3 (9): 9-31.
