[responsivevoice_button buttontext="Escuchar la noticia" voice="Spanish

Latin American Female"]

Por José Luis Fernández

La Universidad de Pensilvania desarrolla un programa para que los alumnos aprendan a comprobar de forma sistemática si los resultados de los sistemas de IA son justos o discriminatorios, sin necesidad de conocimientos de programación.

La inteligencia artificial está entrando con rapidez en las aulas, pero la Universidad de Pensilvania considera que enseñar a utilizar estas herramientas ya no es suficiente. Los estudiantes necesitan también aprender a cuestionar sus respuestas, analizar sus resultados y detectar posibles sesgos. Con este objetivo, investigadores de la Graduate School of Education de la Universidad de Pensilvania (Penn GSE) han desarrollado un programa que introduce en las aulas la denominada auditoría algorítmica.

La iniciativa está liderada por Yasmin Kafai, profesora distinguida de Penn GSE, en colaboración con Danaé Metaxa, profesora del departamento de Computer and Information Science de Penn Engineering, y con profesores de enseñanza secundaria. Su objetivo es proporcionar a los estudiantes herramientas para examinar de manera práctica el funcionamiento de sistemas de inteligencia artificial y determinar si sus resultados presentan patrones de sesgo.

La propuesta parte de una cuestión que adquiere cada vez mayor importancia a medida que los alumnos incorporan la IA a sus trabajos académicos: ¿cómo saber si el resultado generado por una inteligencia artificial es justo o está condicionado por algún tipo de sesgo?

Para Kafai, una interacción aislada puede servir para detectar señales de alerta, pero no permite determinar por sí sola que exista un sesgo. Para llegar a esa conclusión es necesario realizar una investigación sistemática, comparando diferentes entradas y observando cómo responde el sistema ante ellas.

No hace falta programar para auditar una IA

Uno de los aspectos más relevantes de la metodología desarrollada por Penn es que los estudiantes no necesitan conocer programación ni tener acceso al algoritmo interno del sistema para realizar una auditoría.

La metodología consiste en introducir diferentes tipos de información en una herramienta de inteligencia artificial, registrar los resultados y compararlos. A partir de esas observaciones, los alumnos pueden aplicar procedimientos estadísticos sencillos para identificar diferencias significativas entre los resultados obtenidos.

La experiencia desarrollada por Kafai y sus colaboradores cuestiona así la idea de que los sistemas de IA son demasiado complejos para que puedan ser examinados por personas sin conocimientos técnicos especializados. El análisis sistemático de las respuestas puede proporcionar evidencias suficientes para formular preguntas sobre su posible comportamiento discriminatorio.

La clave está, por tanto, no tanto en conocer el código que hay detrás de una inteligencia artificial como en aprender a formular preguntas, diseñar comparaciones, recoger datos, identificar patrones y extraer conclusiones de manera rigurosa.

El cambio pedagógico que propone Penn es significativo. En lugar de formar exclusivamente a estudiantes capaces de utilizar herramientas de inteligencia artificial para obtener respuestas, el objetivo es convertirlos en usuarios críticos capaces de examinar esas respuestas.

La auditoría algorítmica introduce de esta manera una nueva dimensión en la alfabetización digital. El alumno deja de ser únicamente consumidor de tecnología para convertirse también en investigador de sus resultados.

El programa desarrollado por Penn GSE, denominado “AI Auditing for High School”, incluye cuatro lecciones experimentadas en las aulas: una introducción al sesgo algorítmico, una segunda centrada en auditorías e investigación, una tercera dedicada a la auditoría de TikTok y una cuarta relacionada con inteligencia artificial y aprendizaje automático mediante dispositivos físicos Microbit CreateAI.

Los materiales incluyen además investigaciones publicadas, vídeos de experiencias en el aula y ejemplos de auditorías realizadas por estudiantes sobre aplicaciones y plataformas digitales reales.

Los alumnos pueden descubrir sesgos que los expertos no habían contemplado

Una de las conclusiones más interesantes de la experiencia es que los estudiantes pueden aportar perspectivas diferentes a las utilizadas habitualmente por los investigadores. En los trabajos desarrollados por Kafai, los alumnos introdujeron variables que no siempre aparecen en las investigaciones profesionales. En un análisis sobre posibles sesgos de género en imágenes generadas por inteligencia artificial para diferentes profesiones, por ejemplo, incorporaron también la variable de la edad.

Los estudiantes ampliaron además el número de profesiones examinadas, incluyendo actividades como tatuadores o técnicos de uñas. Estas aportaciones permitieron introducir en el análisis cuestiones y perspectivas que podían quedar fuera de las bases de datos convencionales. La participación tiene además una dimensión educativa. Según Kafai, algunos de los jóvenes que colaboraron como asesores manifestaron que se sintieron reconocidos por primera vez en su experiencia y conocimiento sobre cuestiones que les preocupaban directamente.

Esto convierte la auditoría de algoritmos no solo en una herramienta para enseñar inteligencia artificial, sino también en un mecanismo para incorporar la experiencia de los propios estudiantes al análisis de la tecnología.

Otro de los principios defendidos por la investigación es que las actividades educativas no necesitan manejar grandes bases de datos. Los estudiantes trabajan normalmente con conjuntos de información mucho más pequeños que los utilizados por los investigadores profesionales. Sin embargo, Kafai y sus colaboradores comprobaron que, cuando los expertos han realizado posteriormente análisis a mayor escala sobre los mismos fenómenos, han llegado a conclusiones similares a las obtenidas por los estudiantes.

La enseñanza de la auditoría algorítmica puede, por tanto, desarrollarse utilizando pequeñas muestras de datos, siempre que estén correctamente diseñadas y permitan observar diferencias entre los resultados. Esta característica facilita la incorporación de estas actividades a centros educativos que no disponen de grandes recursos tecnológicos o de capacidades avanzadas de análisis de datos.

El método científico como guía

Penn propone además utilizar el método científico como estructura pedagógica para enseñar a los estudiantes a auditar sistemas de IA. El planteamiento permite formular una pregunta, establecer una hipótesis, diseñar una investigación, recoger datos, analizar los resultados y extraer conclusiones. Pero Kafai concede especial importancia a una fase que a menudo queda relegada: la reflexión sobre lo aprendido.

El profesor desempeña aquí un papel fundamental. No se trata simplemente de que los alumnos obtengan un resultado estadístico, sino de que sean capaces de discutir qué significa, cuáles son sus limitaciones, qué variables pueden haber influido y cómo podría mejorarse el experimento. El objetivo último es desarrollar una actitud intelectual aplicable mucho más allá de la inteligencia artificial: ser sistemático, riguroso y crítico ante la información que proporciona una tecnología.

El programa también recomienda adaptar las actividades a la edad y al nivel educativo de los estudiantes. Los alumnos de secundaria pueden trabajar con sus propios conjuntos de datos y realizar auditorías relativamente abiertas. En niveles inferiores puede ser preferible utilizar conjuntos de datos más controlados, en los que el profesor conozca previamente los resultados esperados.

Una posibilidad consiste en construir una base de datos limitada e introducir deliberadamente determinados sesgos para que los estudiantes intenten encontrarlos. De esta manera, el profesor puede controlar el ejercicio y comprobar si los alumnos han identificado correctamente las anomalías.

Esta precaución resulta especialmente importante porque los sistemas de IA cambian con rapidez. Una herramienta que produce determinados resultados durante un curso académico puede comportarse de manera diferente al año siguiente debido a actualizaciones de sus modelos, cambios en los datos o modificaciones de sus políticas.

Una competencia necesaria en la era de la IA

La iniciativa de Penn refleja un cambio de perspectiva en la enseñanza de la inteligencia artificial. El debate educativo se ha centrado durante los últimos años en cómo introducir ChatGPT y otras herramientas generativas en las aulas, cómo evitar el plagio o cómo garantizar que los estudiantes sigan realizando por sí mismos sus trabajos.

La auditoría algorítmica desplaza parte de esa discusión hacia otra pregunta: ¿están los alumnos preparados para determinar cuándo una inteligencia artificial puede estar equivocándose o reproduciendo un sesgo?

La cuestión afecta a ámbitos especialmente sensibles. Los sistemas de IA ya intervienen en procesos relacionados con contratación, educación, crédito, información, publicidad, reconocimiento de imágenes o recomendaciones de contenidos. Una persona que no sepa evaluar críticamente sus resultados puede aceptar como objetivo o neutral un resultado que en realidad esté condicionado por los datos, el diseño del sistema o las características de su modelo.

Por eso, enseñar a auditar algoritmos puede convertirse en una nueva dimensión de la alfabetización digital: no basta con saber utilizar una herramienta, sino que hay que saber preguntarle, contrastarla y poner a prueba sus respuestas.

Otro de los mensajes de Penn es que la auditoría algorítmica no debería limitarse a las asignaturas de informática. Las actividades pueden incorporarse a cualquier materia relacionada con la alfabetización mediática y de la información. Un análisis de imágenes generadas por IA puede abordarse desde las ciencias sociales, la educación artística o la comunicación; una auditoría de recomendaciones de contenidos puede servir para estudiar redes sociales; y el análisis de resultados diferenciados puede convertirse en una actividad matemática o estadística.

De esta forma, la inteligencia artificial deja de ser exclusivamente un contenido tecnológico para convertirse también en un objeto de investigación transversal.

La Universidad de Pensilvania considera que esta aproximación puede ayudar a formar ciudadanos capaces de desenvolverse en un entorno en el que los algoritmos tienen cada vez más influencia. La meta no es enseñar a los estudiantes a desconfiar automáticamente de la inteligencia artificial, sino proporcionarles métodos para determinar cuándo sus resultados son fiables y cuándo necesitan ser cuestionados.

La propuesta de Penn apunta, en definitiva, a una transformación de la alfabetización digital. Si la primera etapa consistió en enseñar a los ciudadanos a utilizar ordenadores e internet, y la siguiente en aprender a buscar y contrastar información digital, la expansión de la IA introduce una nueva necesidad: comprender críticamente los resultados producidos por sistemas algorítmicos.

La auditoría puede proporcionar a los estudiantes una herramienta concreta para hacerlo. No exige conocer el código fuente, acceder a los datos utilizados para entrenar un modelo ni convertirse en expertos en inteligencia artificial. Exige formular preguntas adecuadas, comparar resultados, trabajar con datos y aplicar un procedimiento riguroso.

En palabras de Kafai, se trata de un enfoque que puede resultar especialmente empoderador porque no requiere conocimientos técnicos avanzados: lo esencial es ser sistemático y riguroso. La experiencia desarrollada por Penn GSE plantea así una posible respuesta educativa a uno de los grandes desafíos de la inteligencia artificial: formar no solo usuarios capaces de utilizarla, sino ciudadanos capaces de auditarla.

Fuente: https://exitoeducativo.net/actualidad-directiva/tecnologia-educativa-1/asi-se-puede-ensenar-a-los-estudiantes-a-auditar-la-ia-para-detectar-sus-sesgos