Sesgos y discriminaciones sociales de los algoritmos en Inteligencia Artificial
Una revisión documental
DOI:
https://doi.org/10.59057/iberoleon.20075316.202339664Palabras clave:
Inteligencia Artificial, agentes artificiales, sesgos y brechas, discriminación social, Social Construction of Technology (SCOT)Resumen
El objetivo de este trabajo es analizar el concepto y aplicación de la Inteligencia Artificial (IA) a la luz de los posibles sesgos, discriminaciones y desigualdades al momento de ser implementada en la sociedad. Mediante una investigación en repositorios especializados, se revisa una serie de externalidades negativas de los sistemas de IA, las cuales se podrían manifestar en aquellos grupos e individuos que carecen de la posibilidad de acceso, no cuentan con los medios para evaluar la calidad y veracidad de los datos masivos o que simplemente son segregados y/o discriminados por los algoritmos debido a su color de piel, etnia, género u otro aspecto. Este escenario fomentaría con mayor recurrencia dichas externalidades e incluso podría crear nuevas brechas digitales, sociales, políticas y económicas. Una de las preguntas clave que guiaron la investigación fue: ¿qué consecuencias éticas, morales y sociales podría implicar la presente generación en Inteligencia Artificial? La principal contribución de este artículo es la de proveer una revisión documental y ejemplificada con casos particulares a nivel internacional sobre el impacto social de dicha tecnología, particularmente desde una perspectiva de las Ciencias Sociales.
Descargas
Citas
Angwin, J., Larson, J., Mattu, S. y Kirchner, L. (2016, 23 de mayo). Machine Bias. There is software that is used across the county to predict future criminals. And it is biased against blacks. ProPublica. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.
Arguelles, E. y Amaro, M. (2023, 10 de noviembre). Preocupaciones éticas en el uso de inteligencia artificial, transparencia y derecho de acceso a la información. El caso de los chatbots en el gobierno de México, en el contexto de la COVID-19. Estudios en Derecho a la Información, 1(15), 85-111. https://doi.org/10.22201/iij.25940082e.2023.15.17472.
Barrios, H., Pérez, V. y Guerra, Y. (2020, diciembre). Subjetividades e inteligencia artificial: desafíos para “lo humano”. Veritas, 47, 81-107. https://www.scielo.cl/pdf/veritas/n47/0718-9273-veritas-47-81.pdf.
Bornstein, A. M. (2017, 5 de diciembre). Are algorithms building the new infrastructure of racism? Nautilus. https://nautil.us/are-algorithms-building-the-new-infrastructure-of-racism-236911/.
Bowles, C. (2018). Future Ethics. Now Next Press.
Bucher, T. (2018). If... Then: Algorithmic power and politics. Oxford University Press.
Cabrol, M., González, N., Pombo, C. y Sánchez, R. (2020, enero). Adopción ética y responsable de la inteligencia artificial en América Latina y el Caribe. Banco Interamericano de Desarrollo. http://dx.doi.org/10.18235/0002169.
Chartered Banker Institute. (2023, 3 de febrero). Dissecting Techwashing. https://www.charteredbanker.com/resource_listing//dissecting-techwashing.html.
Dobrosovestnova, A., Hannibal, G. y Reinboth, T. (2022, junio). Service robots for affective labor: a sociology of labor perspective. AI & Society, 37(2), 487–499. https://doi.org/10.1007/s00146-021-01208-x.
Elliott, K., Price, R., Shaw, P., Spiliotopoulos, T., Ng, M., Coopamootoo, K. y Van Moorsel, A. (2021, junio). Towards an equitable digital society: Artificial Intelligence (AI) and Corporate Digital Responsibility (CDR). Society, 58, 179–188. https://doi.org.10.1007/s12115-021-00594-8.
European Parliament Procedure. (2021). Artificial intelligence: questions of interpretation and application of international law in so far as the EU is affected in the areas of civil and military uses and of state authority outside the scope of criminal justice. https://oeil.secure.europarl.europa.eu/oeil/popups/printficheglobal.pdf?id=710011&l=.
Ferrante, E. (2021, julio-agosto). Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos? Nueva Sociedad, 294, 27-37. https://nuso.org/articulo/inteligencia-artificial-y-sesgos-algoritmicos/.
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P. y Vayena, E. (2018, diciembre). AI4People-An ethical framework for a good AI society: opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689–707. https://doi.org.10.1007/s11023-018-9482-5.
García-Vigil, J. (2021, abril). Reflexiones en torno a la ética, la inteligencia humana y la inteligencia artificial. Gaceta Médica de México, 157, 311-314. https://www.scielo.org.mx/pdf/gmm/v157n3/0016-3813-gmm-157-3-311.pdf.
Govia, L. (2020, 30 de julio). Coproduction, ethics and Artificial Intelligence: a perspective from cultural anthropology. Journal of Digital Social Research, 2(3), 42-64. https://doi.org/10.33621/jdsr.v2i3.53.
Granieri, M. (2023, 5 de marzo). ¿Qué es la Inteligencia Artificial Generativa? OBS Business School. https://www.obsbusiness.school/blog/que-es-la-inteligencia-artificial-generativa.
Hagerty, A. y Rubinov, I. (2019, 18 de julio). Global AI Ethics: A review of the social impacts and ethical implications of Artificial Intelligence. Computer and Society, 1-27. https://doi.org/10.48550/arXiv.1907.07892.
Heaven, W. (2020, 17 de julio). Predictive policing algorithms are racist. They need to be dismantled. MIT Technology Review. https://www.technologyreview.com/2020/07/17/1005396/predictive-policing-algorithms-racist-dismantled-machine-learning-bias-criminal-justice/.
Henz, P. (2021, 22 de septiembre). Ethical and legal responsibility for Artificial Intelligence. Discover Artificial Intelligence, 1(2), 1-10. https://link.springer.com/article/10.1007/s44163-021-00002-4.
IBM. (s.f.). ¿Qué es un chatbot? https://www.ibm.com/mx-es/topics/chatbots.
Isola, N. J. (2020, 11 de septiembre). Humanizar la Inteligencia Artificial. Expansión. https://expansion.mx/opinion/2020/09/10/humanizar-la-inteligencia-artificial.
Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Jin, Y., Madotto, A. y Fung, P. (2022, 8 de febrero). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1-47. https://doi.org/10.48550/arXiv.2202.03629.
Kalluri, P. (2020, 7 de julio). Don’t ask if Artificial Intelligence is good or fair, ask how it shifts power. Nature, 583(169). https://www.nature.com/articles/d41586-020-02003-2.
Lamola, M. (2021, 11 de abril). The future of artificial intelligence, posthumanism and the inflection of Pixley Isaka Seme’s African humanism, AI & SOCIETY, 37, 131-141. https://doi.org/10.1007/s00146-021-01191-3.
Lobel, O. (2022, 22 de octubre). In Japan, humanoid robots could soon become part of the family. Big Think. https://bigthink.com/the-future/the-equality-machine/.
Lupton, D. (2016, 15 de abril). The diverse domains of quantified selves: self-tracking modes and dataveillance. Economy and Society, 45(1), 101-122. http://dx.doi.org/10.1080/03085147.2016.1143726.
Madrigal, A. (2020). América Latina busca su propia ruta hacia la Inteligencia Artificial (IA). En W. Weck y L. Salazar (eds.), Inteligencia Artificial en Latinoamérica (pp. 105-131). Fundación Konrad Adenauer. https://dialogopolitico.org/wp-content/uploads/2023/04/Inteligencia-Artificial-en-Latinoamerica.pdf.
Manasi, A., Panchanadeswaran, S., Sours, E. y Ju, S. (2022, 8 de noviembre). Mirroring the bias: gender and Artificial Intelligence. Gender, Technology and Development, 3(26), 295-305. https://doi.org/10.1080/09718524.2022.2128254.
Muradas, D. (2021, julio-agosto). Inteligencia Artificial: el derecho y el revés. Nueva Sociedad, 294. https://nuso.org/articulo/inteligencia-artificial-el-derecho-y-el-reves/.
Murphy, K. (2012). Machine Learning: A Probabilistic Perspective. MIT Press.
Osoba, O. y Welser, W. (2017, enero). An Intelligence in our image: the risks of bias and errors in Artificial Intelligence. RAND Corporation. https://www.rand.org/pubs/research_reports/RR1744.html.
Pinch, T. (2009). The Social Construction of Technology (SCOT): The Old, the New and the NonHuman. En P. Vannini (ed.), Material Culture and Technology in Everyday Life: Ethnographic Approaches (pp. 45-58). Peter Lang.
Pinch, T. y Bijker, W. (1989). The social construction of facts and artifacts: or how the Sociology of Science and Sociology of Technology might benefit each other. En W. Bijker, T. Hughes y T. Pinch. (eds.), The Social Construction of Technological Systems. MIT Press.
Polak, P. (2021, 14 de junio). Welcome to the Digital Era—the Impact of AI on Business and Society. Society, 58, 177-178. https://link.springer.com/article/10.1007/s12115-021-00588-6.
Rakowski, R., Polak, P. y Kowalikova, P. (2021, 25 de mayo). Ethical aspects of the impact of AI: the status of humans in the Era of Artificial Intelligence. Society, 58, 196-203. https://www.springerprofessional.de/en/ethical-aspects-of-the-impact-ofai-the-status-of-humans-in-the-/19200602.
Rao, A. (s.f.). Sizing the prize. PwC’s Global Artificial Intelligence Study: Exploiting the AI Revolution. What’s the real value of AI for your business and how can you capitalise? PWC. https://www.pwc.com/gx/en/issues/data-and-analytics/publications/artificial-intelligence-study.html.
Rezaev, A. y Tregubova, N. (2018, noviembre). Are sociologists ready for “artificial sociality”? Current issues and future prospects for studying Artificial Intelligence in the Social Sciences. The Monitoring of Public Opinion Economic & Social Changes, 147(5), 91-108. https://doi.org/10.14515/monitoring.2018.5.10.
Rifkin, J. (2015). La sociedad de costo marginal cero. El internet de las cosas, el procomún colaborativo y el eclipse del capitalismo. Paidós.
Salazar, L. (2020). Inteligencia Artificial: una oportunidad mundial. En W. Weck y L. Salazar (eds.), Inteligencia Artificial en Latinoamérica (pp. 11-28). Fundación Konrad Adenauer. https://dialogopolitico.org/wp-content/uploads/2023/04/Inteligencia-Artificial-en-Latinoamerica.pdf.
Shi, Z. (2023, 25 de julio). Learning and planning towards AI for social good [Tesis de Doctorado, Carnegie Mellon University, Software and Societal Systems Department School of Computer Science]. Repositorio. https://kilthub.cmu.edu/articles/thesis/Learning_and_Planning_Towards_AI_for_Social_Good/23681178.
Singer, N. (2019, 3 de septiembre). When apps get your medical data, your privacy may go with it. The New York Times. https://www.nytimes.com/2019/09/03/technology/smartphone-medical-records.html.
State of Wisconsin Department of Corrections. (s.f.). COMPAS. https://doc.wi.gov/Pages/AboutDOC/COMPAS.aspx.
Sued, G. (2022, 31 de agosto). Culturas algorítmicas: conceptos y métodos para su estudio social. Revista Mexicana de Ciencias Políticas y Sociales, 246, 43-73. https://doi.org/10.22201/fcpys.2448492xe.2022.246.78422.
Sutko, D. (2019, 26 de septiembre). Theorizing femininity in Artificial Intelligence: a framework for undoing technology’s gender troubles. Cultural Studies, 34(4), 567-592. https://doi.org/10.1080/09502386.2019.1671469.
Techjury. (2021, mayo). 101 Artificial Intelligence Statistics. https://techjury.net/blog/ai-statistics/#gref.
Toboso, M. y Aparicio, M. (2019, 31 de mayo). Entornos de funcionamientos robotizados. ¿Es posible una robótica inclusiva? Dilemata, 30, 171-185. https://www.dilemata.net/revista/index.php/dilemata/issue/view/31.
UNESCO. (2019). Preliminary study on the Ethics of Artificial Intelligence. https://unesdoc.unesco.org/ark:/48223/pf0000367823.locale=es.
UNESCO. (2023). ChatGPT e inteligencia artificial en la educación superior: guía de inicio rápido. https://unesdoc.unesco.org/ark:/48223/pf0000385146_spa.locale=es.
Wright, N. (2018, 10 de julio). How Artificial Intelligence will reshape the global order. Foreign Affairs, 5(22). https://www.semanticscholar.org/paper/How-Artificial-Intelligence-Will-Reshape-the-Global-Wright/2c6057a67191fc65a66f6e-485166da79c1c06d4a.
Zimmerman, M. (2018). Teaching AI: Exploring new frontiers for learning. International Society for Technology in Education.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2023 Entretextos
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial 4.0.
