Los expertos han lanzado alertas sobre las consecuencias potenciales del uso inapropiado de la inteligencia artificial (IA), un tema que se vuelve crucial a medida que la Xunta de Galicia avanza en la formulación de una nueva ley de educación digital.

En Santiago de Compostela, a fecha del 6 de septiembre, la inquietud por los 'deepfakes'—imágenes, audios o videos alterados por IA—se ha intensificado en el ámbito escolar. A pesar de estas preocupaciones, algunos educadores, como Fina Paulos y Óscar Rey, abogan por su uso en un contexto pedagógico. Ellos han desarrollado iniciativas donde los alumnos producen contenido educativo, como un video que presenta a Castelao promoviendo la donación de sangre y órganos.

Ambos docentes han liderado la creación del primer manual gallego sobre inteligencia artificial aplicado a la educación, y sostienen que su uso es valioso siempre que cuente con supervisión docente. "La IA tiene el potencial de impartir valores y conocimientos, pero es esencial educar sobre su uso responsable", enfatizan.

Amongst las aplicaciones de la IA, destacaron los 'deepfakes', que, a pesar de su reputación negativa, pueden ser herramientas para fomentar el aprendizaje dinámico y atractivo entre estudiantes. Un notable ejemplo es el trabajo titulado 'A doazón de órganos e tecidos, un acto de intelixencia moi natural', realizado por alumnos del IES Maximino Romero de Lema, donde figuras literarias gallegas abordan el tema de la donación desde un enfoque positivo.

Este creativo proyecto obtuvo el primer premio en un concurso del Servicio Galego de Saúde (Sergas) en 2023, destacando la innovación de los estudiantes. A través de entrevistas, los jóvenes interactuaron con personajes históricos mediante la IA, brindándoles voz a concepciones sobre la donación.

Continuando en la misma línea, el mismo centro educativo produjo un documental que aborda la diversidad sexual, representando a personajes históricos que debieron ocultar su identidad, como Elisa y Marcela, las primeras mujeres en casarse en España. Este documental fue reconocido con un premio especial en el Festival Plasencia EnCorto 2024 en la categoría educativa.

Estos proyectos no son aislados; los alumnos han abordado diversas temáticas, desde la igualdad de género hasta la visibilización de enfermedades poco comunes, siempre incorporando la IA. "Hemos estado innovando durante dos años, creando 'deepfakes' que motivan a los alumnos y enriquecen su aprendizaje de formas que el método tradicional no podría", comparten.

A pesar de estos avances, los educadores señalan que la alfabetización digital ha sido insuficiente para los adolescentes. "Es ineficaz esperar hasta los 14 años para ofrecer formación en estas materias, ya que muchos jóvenes llegan sin el conocimiento necesario para manejar su bagaje tecnológico", argumentan.

Ambos educadores destacan que mejorar la educación es fundamental para cerrar la brecha digital, y que esto debe comenzar desde las etapas más tempranas del desarrollo infantil. Además, resaltan la necesidad de empoderar a las familias para que comprendan qué hacen sus hijos en línea, mencionando la falta de utilización de herramientas de control parental.

En paralelo, la Xunta de Galicia se encuentra en las últimas etapas de elaboración de una nueva ley de educación digital que busca regular la incorporación de la IA y las nuevas tecnologías. Se espera que esta ley sea presentada al Parlamento en otoño, con la meta de implementarla en el próximo ciclo académico.

Desde febrero, el gobierno regional ha estado recabando opiniones para la ley, con más de 600 aportes recopilados hasta ahora. Este proceso continuará, buscando la opinión pública sobre cómo utilizar de manera correcta las herramientas digitales en cada etapa educativa.

Sin embargo, los 'deepfakes' también tienen un lado oscuro. El profesor de sociología Lluís Ballester ha advertido sobre el aumento en la creación de 'deepfakes' pornográficos, que se han convertido en una forma de acoso digital. Según Ballester, esto refleja una falta de conciencia sobre las consecuencias del daño causado por estas prácticas y la fácil accesibilidad de la tecnología.

Ballester también subraya la importancia de una educación sexual integral que enseñe a los jóvenes sobre sus derechos y las relaciones saludables, contrarrestando así la distorsión que propaga la pornografía.

Además, María Salmerón, doctora y coordinadora del grupo de Salud Digital de la Asociación Española de Pediatría, destaca que el uso excesivo de tecnologías digitales tiene repercusiones en la salud integral de los jóvenes. Advierte que los comportamientos en línea de los adultos influyen directamente en sus hijos, y es esencial que los padres sean modelos a seguir en el uso responsable de la tecnología.

Salmerón hace un llamado a mejorar la comunicación entre los sectores educativo y de salud para abordar casos de ciberacoso, así como para ayudar a los adolescentes que recurren a la violencia como medio de comunicación. Una educación adecuada es clave para formar jóvenes conscientes y responsables en un entorno digital cada vez más complejo.