La irrupción de la Inteligencia Artificial (IA) generativa está introduciendo un cambio radical en nuestra interacción con la tecnología. Un sistema con IA puede producir un resultado incorrecto sin necesariamente estar defectuoso o ser mal utilizado. Simplemente puede "fallar", y al igual que con un humano, tenemos la opción de corregirlo.
Esta faceta única de la IA modifica nuestra confianza en ella y cómo la utilizamos, lo cual se contrasta con otras herramientas tecnológicas donde los errores suelen ser evidentes. Los sistemas con IA nos obligan a cuestionar su funcionalidad y a verificar los resultados que producen.
Esta variación tiene un impacto significativo en el sector educativo, afectando tanto a profesores como a alumnos. Los usos de la IA en este ámbito pueden ir desde mejorar el aprendizaje hasta ser efectivamente perjudicial para el aprendizaje. La confianza que depositamos en ella tiene un vínculo directo con cada uno de estos extremos.
Confianza y tecnología: Una ecuación cambiante
La confianza juega un papel crucial en el uso de la tecnología. Mientras que la confianza excesiva puede provocar dependencia y dejarnos expuestos cuando la tecnología falla, la falta de confianza puede conducir a un uso ineficiente o incluso al rechazo completo de su utilización. En el contexto educativo, el segundo escenario es menos problemático que el primero: La desconfianza estimularía al estudiante a corroborar si la información obtenida es acertada, lo que debería ser beneficioso para su aprendizaje.
Para comprobar si este planteamiento es correcto, se ha realizado un estudio en el que se ha investigado hasta qué punto los estudiantes universitarios confían en la información proporcionada por la IA y cómo la verifican.
Los hallazgos del estudio revelan que casi el 80% de los 132 estudiantes participantes utilizan la IA de manera frecuente o muy frecuente. Ninguno de ellos afirmó nunca haber usado esta herramienta con fines académicos.
Percepción personal vs. realidad
Más del 75% de los estudiantes utilizan métodos considerados poco fiables para verificar los resultados proporcionados por la IA. Alrededor del 40% ni siquiera realiza acciones básicas, como solicitar las fuentes que respaldan la respuesta. Esto es especialmente preocupante, considerando que más del 75% admite que las herramientas de IA proporcionan respuestas incorrectas con cierta frecuencia.
No obstante, lo más notable es que la gran mayoría (más del 90% de los encuestados) se considera capaz de identificar respuestas incorrectas al menos ocasionalmente, y ninguno afirmó ser incapaz de hacerlo. Sin embargo, perciben que los profesores no están capacitados para detectar dichos errores.
Irracionalidad subjetiva
La mayoría de las universidades están fomentando el uso de la IA a través de capacitaciones específicas para profesores y estudiantes. Sin embargo, hay un número significativo de estudiantes que desconfía de las herramientas de IA de pago proporcionadas por la universidad, ya que les preocupa que su privacidad se vea comprometida. Ellos creen que la universidad podría tener acceso a sus consultas y saber si han utilizado la IA de manera incorrecta.
Este estudio revela un alto grado de subjetividad irracional por parte de los alumnos que evidencia que la forma en que se usa esta herramienta no es adecuada. Esto se refiere tanto a la verificación de la información como a qué herramientas son las más adecuadas para el uso académico y cómo utilizarlas. Muchos docentes observamos diariamente que los alumnos no son conscientes de estar utilizándola de manera incorrecta en su proceso de aprendizaje.
Mayor confianza, menor aprendizaje
Aunque la IA puede ser útil para realizar tareas académicas, esto no implica necesariamente que sea útil para aprender. Cuando los alumnos confían en las respuestas proporcionadas por la IA y no verifican su validez, el aprendizaje se ve afectado.
Este exceso de confianza en la IA limita su utilidad como herramienta de aprendizaje, ya que no se activa el pensamiento crítico ni la metacognición (procesos mentales en funcionamiento cuando necesitamos resolver un problema). Paradójicamente, gran parte del tiempo que los estudiantes "ahorran" usando IA se dedica a eliminar pruebas de su uso de la IA.
Aunque utilizar la IA puede ser vital para su futuro profesional, los estudiantes necesitan aprender a usarla como herramienta de aprendizaje, distinto de su uso hipotético en el ámbito profesional. Por lo tanto, queda mucho por hacer para lograr que la IA se integre de manera eficiente en el ámbito educativo, y estudios como este son necesarios para ir adoptando las medidas adecuadas.
