Sigo compartiendo avances de mi investigación, sigue insertándose en el diálogo, moviendo un poquito el conocimiento:
un colega, en la preparación de sus cátedras, asume la tarea de prohíbir ChatGPT(c) en su curso. Lo hace angustiado, y con razones: le preocupa el plagio, le preocupa la dependencia, le preocupa ver a sus estudiantes pedirle a una máquina lo que deberían pensar ellos. La preocupación es legítima, es aguda, es pedagógicamente significativa. Y no cambió ni una línea de su evaluación. Sigue pidiendo el mismo ensayo, con la misma consigna, con el mismo criterio de calificación de hace cinco años.
La psicología moral conoce desde hace décadas este fenómeno, pero la formación docente aun no lo incorpora: James Rest señaló que una cosa es la sensibilidad moral —percibir que una situación tiene implicaciones éticas— y otra distinta es la competencia moral —saber actuar ante esa percepción—. Se puede tener la primera sin la segunda. Mi colega la tiene. Percibe con total claridad que el uso irrestricto de la IAG plantea un problema de equidad. No sabe qué hacer con esa percepción.
Cuando comencé la validación del instrumento del modelo CDD-IAG (Competencias Digitales Docentes con Inteligencia Artificial Generativa) con docentes de al menos cuatro países, apareció un hallazgo que al principio me pareció una curiosidad estadística y resultó ser una tesis pedagógica. La preocupación ética por la Inteligencia Artificial Generativa (IAG) se comporta como un registro cognitivo propio, con vida independiente de las demás competencias. En otras palabras: un docente puede estar profundamente inquieto por el uso de estas herramientas y no tener la menor destreza para formular un prompt eficaz, evaluar críticamente una respuesta generada o diseñar una secuencia que promueva el uso crítico. Y al revés. Alguien técnicamente fluido puede ser éticamente negligente.
Aquí, la relectura de cada párrafo me sugirió una analogía que pudiera probar el punto: la competencia clínica y la competencia bioética de un cirujano no son grados de una misma escala. Un cirujano puede ser técnicamente impecable y éticamente negligente, o éticamente sensible y torpe con el bisturí. La medicina aprendió, con décadas de errores, que necesita formar ambas capacidades por separado y luego integrarlas en el mismo acto. Nadie supone que sensibilizar éticamente a un residente lo vuelve mejor operando.
Seguimos regazados en la pedagogía. En la docencia seguimos suponiendo justo eso. Suponemos que un taller de “ética de la IA” resuelve la formación, o que enseñar a usar la herramienta trae de contrabando la reflexión sobre a quién beneficia y a quién perjudica su uso. Son intervenciones distintas sobre sustratos distintos. La formación ética no se resuelve enseñando a usar la herramienta. La formación técnica no se resuelve sensibilizando.
¿Qué significa esto para el colega que prohíbe? Que su prohibición es una emoción moral buscando una forma pedagógica, y todavía no la encontró. Prohibir es fácil y se siente como acción. Rediseñar una tarea para que el uso de IAG sea visible, discutible y evaluable como parte del proceso —eso es competencia, y es otra cosa, y cuesta—.
La inquietud es el comienzo. Nunca fue el final. Entre percibir que algo está mal y saber diseñar la actividad que lo atiende hay una distancia que ningún manifiesto ético cruza por nosotros.
La pregunta, entonces, no es si usted se preocupa. Casi todos nos preocupamos. La pregunta es qué diseñó usted el lunes pasado con esa preocupación.
Referencias
Rest, J. R. (1986). Moral development: Advances in research and theory. Praeger.
Fricker, M. (2007). Epistemic injustice: Power and the ethics of knowing. Oxford University Press.
