Innovación

[COLUMNA]: Más Allá de ChatGPT: Abordando las cuestiones éticas del uso de la IA en la educación

Miguel Córdova Docente e investigador

“Lo que todos tenemos que hacer es asegurarnos de que estamos usando la IA de una manera que sea en beneficio de la humanidad, no en detrimento de la humanidad”. Tim Cook, CEO de Apple.

La Inteligencia Artificial (IA) es una tecnología que emula al comportamiento inteligente del humano, cómo reacciona, cómo aprende; se trata de dotar de esta inteligencia artificial a las computadoras y aplicaciones [1]. Debido a su potencial para abordar diversas situaciones y problemas se utilizan cada vez más en aplicaciones que repercuten en nuestra vida cotidiana como sugerir y leer las noticias, generar una respuesta o una opinión, sugerir resultados de búsqueda, generar videos o brindar recomendaciones de préstamos y compras, la IA en el ámbito educativo es capaz de predecir si un estudiante va aprobar o abandonar sus estudios, realiza reconocimiento facial y de voz y es capaz de supervisar a un estudiante que rinde una evaluación online, y prioriza quién debe obtener una entrevista de trabajo, obtener un préstamo educativo o recibir servicios de tutoría o consejería académica, además de evaluar el estado afectivo y emocional del estudiante a través de la visión artificial.

Preocupaciones de la IA

Sin embargo, preocupa que estas aplicaciones puedan estar sesgadas en contra de grupos de estudiantes como mujeres, mayores de edad, de color, inmigrantes, de comunidades LGTBI+, contra estudiantes de bajo rendimiento académico o que provengan de poblaciones marginadas. Por ejemplo, el reconocimiento facial comete muchos más errores al reconocer a mujeres afroamericanas que a otros grupos demográficos, hasta un 35% de los casos frente a los hombres de tez blanca cuyos errores llegan al 1% [2], también en un estudio sobre el impacto de IA en los derechos de las personas con discapacidad, evidencian que “se han hallado determinadas limitaciones en los procesadores de lenguaje natural y reconocimiento de voz en los asistentes personales virtuales, en los sistemas biométricos, de reconocimiento por visión artificial o de conducción autónoma” [3].

Las razones de los resultados sesgados de la IA se asocian, por lo general con los sesgos incrustados en la data utilizada para entrenar a la IA, a este fenómeno se le conoce como “basura entra, basura sale”[4], la IA aprende estos prejuicios de los datos que provienen - en muchos casos - de sociedades sexistas, racistas, clasistas y capacitistas y lamentablemente perpetúa los patrones de discriminación a través de sus resultados [5]. Más allá de los resultados injustos, diversos investigadores han identificado otros daños potenciales de la IA como el uso y exposición de datos personales privados, el enorme impacto en el medio ambiente por el consumo de energía, el potencial para sustituir la mano de obra humana y empeorar drásticamente las oportunidades laborales de las personas así como las condiciones precarias laborales de miles de personas que etiquetan los datos y moderan contenidos, prácticas denominadas como trabajo fantasma detrás de la IA [6].

Necesidad de la ética en IA

Ante ello, ¿podemos fiarnos de la Inteligencia Artificial? La respuesta está en la ética; por ello, es necesario abordar la ética de la IA como una “reflexión normativa, sistemática, basada en un marco integral, global, multicultural y evolutivo de valores, principios y acciones interdependientes, que puede guiar a las sociedades a la hora de afrontar de manera responsable los efectos conocidos y desconocidos de la IA” [7], tomando como referencia la dignidad humana, la justicia, la imparcialidad, el bienestar y la prevención de daños y apoyándose en la ética de la ciencia y la tecnología.

El auge de la IA generativa de texto o imágenes de fácil uso, como ChatGPT o Dall-e respectivamente, han exacerbado aún más otros problemas, dado que podrían generar textos creíbles con información falsa y engañosa que los estudiantes podrían estar propagando como noticias falsas o “fakenews”. Actualmente, se estima que el 70% de la población mundial ha sido expuesta a este tipo de noticias en el último año, convirtiéndose en una especie de círculo vicioso [8]. A ello, se suma la proliferación de imágenes y videos falsos que permiten la intimidación, el acoso sexual como los deepfakes pornográficos, ya un estudio de Sensity AI en 2019 estimó que el 96% de las imágenes deepfake eran contenido pornográfico y el 99% de esas fotos eran dirigidos contra mujeres [9], el FBI ya advirtió del repunte de la “sextorción” y hasta setiembre de 2023 hubo un incremento del 149% desde 2019 [10].

Acciones para contrarrestar

Algunos investigadores examinan si la IA toma decisiones moralmente cuestionables, como una especie de “ética de las máquinas”, otras en cambio, se centran en la conducta moral de los seres humanos involucrados en el desarrollo y el uso de la IA.

En este esfuerzo general hacia una conducta moral de los humanos, no se puede dejar de lado el papel crucial de la educación; las escuelas tienen una importante responsabilidad de incorporar en sus planes de estudio el desarrollo de competencias digitales y de pensamiento crítico por mencionar algunas; que permita a los estudiantes y los ciudadanos proveer a la sociedad con información veraz y estimular un pensamiento crítico, que oriente hacia un uso responsable, crítico, creativo y ético de las nuevas tecnologías como la Inteligencia Artificial, potencializando las habilidades analíticas y fomentando la innovación en el desarrollo de las tareas de los estudiantes.

Otro frente son las políticas organizativas y públicas incluso de instituciones multilaterales como la Unesco y la ONU, que definen un conjunto de principios fundamentales que deben guiar el desarrollo y el uso de la IA, análoga a la ética biomédica. Más de 70 países en el mundo cuentan con una Ley y el Perú no la excepción que cuenta con la Ley N° 31814 que promueve el uso de la inteligencia artificial (IA) en beneficio del desarrollo económico y social [11], los principios de la IA más comunes son la equidad y la no discriminación, la protección de la privacidad, el respeto de los derechos humanos y la promoción del bienestar social, la transparencia, la explicabilidad, la seguridad, la protección, el control humano de la IA y la sostenibilidad medioambiental [5], conforme la humanidad vaya conociendo del avance de la IA y de sus aún hipotéticos daños, conducirá a nuevos avances en la investigación, las políticas y las prácticas organizativas en torno a la ética de la IA.

 

[1] R. L. de Mántaras, «El futuro de la IA: hacia inteligencias artificiales realmente inteligentes», OpenMind. Accedido: 25 de noviembre de 2023. [En línea]. Disponible en: https://www.bbvaopenmind.com/articulos/el-futuro-de-la-ia-hacia-inteligencias-artificiales-realmente-inteligentes/

[2] L. Goode, «Facial recognition software is biased towards white men, researcher finds», The Verge. Accedido: 25 de noviembre de 2023. [En línea]. Disponible en: https://www.theverge.com/2018/2/11/17001218/facial-recognition-software-accuracy-technology-mit-white-men-black-women-error

[3] V. C. Yllera, J. H. Galán, J. A. González, A. A. Raya, F. Bariffi, y L. E. Q. Embiz, «Estudio del impacto de la Inteligencia Artificial en los derechos de las personas con discapacidad».

[4] «Basura entra, basura sale: el papel crucial de la calidad de los datos en la IA - Unite.AI». Accedido: 24 de noviembre de 2023. [En línea]. Disponible en: https://www.unite.ai/es/basura-en-basura-fuera-el-papel-crucial-de-la-calidad-de-los-datos-en-ia/

[5] «Índice Latinoamericano de Inteligencia Artificial | IA para el desarrollo sostenible de América Latina». Accedido: 24 de noviembre de 2023. [En línea]. Disponible en: https://indicelatam.cl/

[6] «Mary L. Gray | La inteligencia artificial funciona gracias al trabajo mal pagado de millones de personas - XL Semanal», XLSemanal. Accedido: 24 de noviembre de 2023. [En línea]. Disponible en: https://www.abc.es/xlsemanal/personajes/inteligencia-artificial-mary-l-gray-trabajadores-en-la-sombra-precariedad.html

[7] «Recomendación sobre la ética de la inteligencia artificial - UNESCO Biblioteca Digital». Accedido: 25 de noviembre de 2023. [En línea]. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

[8] N. Meneses, «La tecnología y el pensamiento crítico, esenciales para combatir la desinformación y las ‘fake news’», El País. Accedido: 25 de noviembre de 2023. [En línea]. Disponible en: https://elpais.com/economia/formacion/2023-09-01/la-tecnologia-y-el-pensamiento-critico-esenciales-para-combatir-la-desinformacion-y-las-fake-news.html

[9] M. S. Rana, M. N. Nobi, B. Murali, y A. H. Sung, «Deepfake Detection: A Systematic Literature Review», IEEE Access, vol. 10, pp. 25494-25513, 2022, doi: 10.1109/ACCESS.2022.3154404.

[10] P. P. Verm, «Cómo la pornografía falsa generada con Inteligencia Artificial está arruinando la vida de jóvenes y adolescentes», infobae. Accedido: 25 de noviembre de 2023. [En línea]. Disponible en: https://www.infobae.com/wapo/2023/11/06/como-la-pornografia-falsa-generada-con-inteligencia-artificial-esta-arruinando-la-vida-de-jovenes-y-adolescentes/

[11] «Perú promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país», Garrigues. Accedido: 25 de noviembre de 2023. [En línea]. Disponible en: https://www.garrigues.com/es_ES/noticia/peru-promueve-uso-inteligencia-artificial-favor-desarrollo-economico-social-pais

 

Lo más leído
Innovación

TikTok: ¿cómo recuperar mi contraseña sin usar correo electrónico o número de celular?

Más información
Te puede interesar
Innovación

Los chatbots y su importancia en la atención al cliente

Más información
Innovación

[Columna] Ciberacoso: La importancia del control parental para garantizar una navegación segura para los niños y niñas

Más información
Innovación

Tecnología cloud: 10 beneficios del almacenamiento en la nube

Más información
Innovación

#AprendiendoEnLínea: aprende a crear un e-commerce

Más información