La IA ya está aquí y no se va a ir: ¿cuáles son nuestros retos?

En una sesión del diplomado sobre IA e interdisciplina que coordinamos en el CEIICH (UNAM), la Dra. Flavia Costa, una de las principales autoras al respecto de temas ligados a sociedad y tecnología en Iberoamérica, se refirió al futuro de la IA de la siguiente forma: “puede pasar cualquier cosa”. Es decir, que el tema climático llegue a un límite y se detengan las innovaciones, o bien, que éstas se acrecienten. O quién sabe, a lo mejor se acaba el mundo.

Más allá de esta última posibilidad (ligada a grandes emporios económicos que cada día aceleran más la “innovación tecnológica” para maximizar sus ganancias), tal parece que nos encaminamos hacia el segundo escenario; ante lo que podemos afirmar: la IA ya esta aquí y no se va a ir.

Con sus retos, consecuencias, discontinuidades y posibilidades. Al respecto, el Dr. Luis Jaime Estrada, de la Universidad Complutense de Madrid, nos comentó en el Seminario Ser Humanx en tiempos de IA, en la UNAM, que valora el hecho de que la IA pone en relieve muchas preguntas que creíamos ya resueltas: ¿qué ser humano? ¿Por qué el humano se cree el centro del mundo? ¿A qué humano nos referimos, cuando se dice que lo van a sustituir? ¿Hay un solo tipo de humano? ¿Qué sucede con las emociones y subjetividad? ¿cómo abordarlo desde la educación? ¿Y la investigación?

También lee: Inteligencia Artificial en la educación: de vuelta a las brechas

Cada pregunta amerita una columna distinta. Para comenzar, si nos situamos desde la educación, podemos apelar a un reciente estudio de la UNAM titulado: Presencia y uso de la inteligencia artificial generativa en la Universidad Nacional Autónoma de México, desarrollado por los especialistas Mario Alberto Benavides-Lara, Víctor Jesús Rendón Cazales, Nancy Escalante Rivas, Ana María del Pilar Martínez Hernández y Melchor Sánchez Mendiola.

En este sentido, el estudio realizado en noviembre de 2024 por la Coordinación de Evaluación, Innovación y Desarrollo Educativos (CEIDE) de la UNAM encuestó a 2,069 docentes y 4,725 estudiantes de bachillerato, licenciatura y posgrado. Su propósito principal fue analizar las percepciones y el uso de la inteligencia artificial generativa dentro de la comunidad universitaria.

Entre los resultados más destacados, se identificaron que la mayoría del profesorado ha empleado alguna herramienta de IAGen: el 83% en bachillerato, el 73% en posgrado y el 70% en licenciatura. De manera similar, una proporción considerable del estudiantado también ha recurrido a estas tecnologías: el 87% en bachillerato, el 88% en posgrado y el 81% en licenciatura. Estos hallazgos evidencian una presencia significativa de la IAGen en los distintos niveles educativos de la UNAM.

Es decir, por lo menos en la educación e investigación, quienes ya han superado la brecha de acceso (de acuerdo con en Inegi e IFT, a cierres del 2023, 81.2 por ciento de los mexicanos ya eran usuarios de internet en México), hoy tienen la posibilidad de usar la IA: ¿ética y responsablemente? No en todos los casos. Para ello, necesitamos acciones y estudios al respecto.

El estudio también señala que tanto docentes como estudiantes coinciden en que la principal aplicación de la inteligencia artificial generativa es la búsqueda y obtención de información. No obstante, el estudiantado la emplea con mayor frecuencia en actividades directamente relacionadas con el aprendizaje, como la solicitud de explicaciones sobre un contenido (45% en bachillerato, 40% en licenciatura y 38% en posgrado), la búsqueda de información (42% en bachillerato, 37% en licenciatura y 32% en posgrado) y la generación de ideas para iniciar tareas académicas (35% en bachillerato, 33% en licenciatura y 23% en posgrado).

Cruzamos estos resultados, con el trabajo cualitativo que hemos hecho, pues a nivel de experiencias, esto supone prácticas relacionadas a estudiantes que buscan explicaciones extras en la IA porque a veces no le entienden a sus profesores, o en otros casos, deshonestidad para que las IA les haga todo su trabajo (y si el profesor no sabe usar la IA, el tema de complejiza). Pero también aparecen meta buscadores asistidos por IA (como Undermind o Sci Space) que abonan al ecosistema educativo, y complementan a las fuentes ya existentes.

Por su parte, según el estudio referido, el profesorado, en especial en los niveles de licenciatura y posgrado, utiliza la IAGen principalmente para actividades asociadas a la investigación, como la búsqueda y el análisis de literatura científica. En el caso del profesorado de bachillerato, además de la consulta de información, se observa un uso significativo en el diseño de actividades de aprendizaje (18%), la elaboración de materiales didácticos (17%) y la creación de instrumentos de evaluación (15%).

El panorama actual de la ecología educativa se enriquece y complica con el uso de herramientas de Inteligencia Artificial Generativa (IAGen) que ofrecen reportes desde perspectivas globales. Este fenómeno desafía las visiones unidireccionales del conocimiento y evidencia sesgos y brechas, especialmente porque gran parte de esta literatura se presenta en inglés. Sin embargo, también enriquece nuestro entendimiento al introducirnos a diversos autores y corrientes de pensamiento. Este escenario subraya la importancia de la alfabetización digital como herramienta clave para mitigar las disparidades y combatir las injusticias epistémicas.

Mención aparte tratar el caso de los profesores de media superior, que muchas veces olvidamos y necesitan ser escuchados y acompañados en procesos de alfabetización. Al respecto, en el texto Impacto de la IA en la docencia en el Nivel Medio Superior, quienes lo escriben aducen que es fundamental que los educadores reciban formación en tecnologías emergentes como la IA y se creen oportunidades para su uso efectivo en el entorno educativo. Esto permitirá maximizar los beneficios de estas herramientas para elevar la calidad de la educación y equipar a los estudiantes para el futuro en un mundo que evoluciona rápidamente hacia lo tecnológico y lo dinámico.

En este sentido, Mario Alberto Benavides-Lara, Víctor Jesús Rendón Cazales, Nancy Escalante Rivas, Ana María del Pilar Martínez Hernández y Melchor Sánchez Mendiola, destacan la importancia de capacitar a la comunidad universitaria en las capacidades reales y específicas de la inteligencia artificial generativa, con el objetivo de evitar su infrautilización, uso inadecuado o poco ético. Asimismo, advierten sobre el riesgo de desinformación derivado de las “alucinaciones” o la generación de información falsa por parte de algunas herramientas gratuitas, especialmente en la búsqueda de literatura académica.

Por último, la investigación enfatiza la necesidad de establecer pautas pedagógicas claras para el uso de la IAGen y de reformular los criterios de evaluación, priorizando el aprendizaje como un proceso y fomentando el desarrollo de habilidades como el pensamiento crítico y la creatividad, en lugar de centrarse únicamente en la entrega de productos finales perfectos.

Lo que muestra varios retos que tenemos por delante. Por mencionar un ejemplo, las alucinaciones, que implica a la IA arrojando información falsa o inexistente, son prevenibles, en tanto las personas conozcan su tema y sean capaces de detectarlo. Pero si esto no sucede, ¿tendremos a seres replicadores de mentiras porque no saben cómo detectarlas?

Y aparecen otras incógnitas: ¿Cuál es el rol del docente? ¿Qué estrategias de enseñanza aprendizaje necesitamos para tiempos de IA? ¿Cómo combinar estrategias de enseñanza tradicional con habilidades como promptear o generar imagen y video con IAg? ¿Quiénes ganan y quiénes pierden en estos procesos? ¿Por qué tanta urgencia de incorporar la IAg? ¿En qué casos sí y en qué casos no fomentar el uso de IAg? Y al mismo tiempo, ¿qué prácticas asociadas al uso de IA coexisten en estudiantes de media superior, licenciatura y posgrado? ¿Qué protocolos se necesitan en cada centro educativo para el uso ético y responsable de la IAg?

Las preguntas pueden seguir, y las acciones, deben corresponderse en ese sentido. Consecuentemente, desde las universidades tenemos un compromiso con seguir generando incógnitas situadas, pero también proyectos que inciden y atiendan el problema. Por nuestra parte, deseamos contribuir desde nuestras posibilidades, y por eso hemos generado el Laboratorio de IA, Sociedad e Interdisciplina en el CEIICH, UNAM; seminarios, talleres, proyectos y alfabetizaciones que intentarán aportar insumos cognitivos e interventivos para una nueva era.

Nos encontramos pronto.