Ética, transparencia y buen uso de la Inteligencia Artificial en Trabajos de Fin de Estudios

Enfoque

La llegada y evolución de la Inteligencia Artificial (IA) está implicando un gran cambio en los ámbitos educativo y laboral.

En estudios universitarios, la herramienta se ha convertido en un gran apoyo para docentes y discentes. Su versatilidad e inmediatez la convierte en una gran ayuda para la preparación de clases, resolución de tareas y elaboración de trabajos fin de estudios (TFE), entre otros.

No obstante, es fundamental que su uso se desarrolle con una necesaria integridad y transparencia científica que identifique el contenido generado por la IA mediante marcas de agua o similares.

En esta línea, el 14 de junio de 2023, el Parlamento Europeo aprobó un marco regulatorio para garantizar la seguridad en el uso y desarrollo de la misma, atendiendo principalmente a la protección a la privacidad, a los modelos fundacionales, al etiquetado y transparencia y a su implementación.

El presente estudio es una revisión bibliográfica que analiza el actual uso de la IA en el contexto universitario atendiendo a las dimensiones de transparencia y ética académico-científica y pretende que toda la comunidad educativa tenga la información necesaria para que pueda usarse de forma correcta, eficiente y lícita.

María José Barragán Ortiz

Comentó el 20/02/2024 a las 18:13:20

Enhorabuena por vuestro trabajo. Dado que el Parlamento Europeo aprobó un marco regulatorio para garantizar la seguridad en el uso y desarrollo de la misma, principalmente atendiendo la protección a la privacidad y su implementación, ¿tienen conocimiento de otros países que hayan propuesto marcos regulatorios similares? Si es así, ¿existe algún marco teórico regulador actual que tenga en cuenta las implicaciones socioemocionales del uso de la inteligencia artificial en entornos educativos? Gracias de antemano.
- Jose Antonio Vigario Castaño
  
  Comentó el 20/02/2024 a las 18:35:42
  
  Agradecemos mucho tu pregunta, estamos precisamente en un grupo de investigación donde se está profundizando en la materia reguladora, los avances están siendo notorios, pero no hemos encontrado ninguno que recoja implicaciones socioemocionales en entornos educativos.
Fernando Bonete Vizcaíno

Comentó el 20/02/2024 a las 15:31:58

Muchas gracias Ana María y José Antonio por esta interesante aportación. Tras la revisión que han efectuado, ¿creen que el uso que los estudiantes están haciendo de herramientas de IA generativa podría llegar a suponer que la orientación, objetivos y competencias evaluables de los TFE cambien? ¡Saludos!
- Jose Antonio Vigario Castaño
  
  Comentó el 20/02/2024 a las 16:13:29
  
  Gracias a ti Fernando por tu pregunta.
  La idea de utilizar la IA no es que cambien su orientación, objetivos ni las competencias, es que la puedan usar para conseguir una información veraz en el menor tiempo posible, que ayude a ganar tiempo en la elaboración de los TFE, pero no que consiga cambiar los criterios del alumnado en su perspectiva del propio trabajo o estudio.
Maitane Palacios López

Comentó el 17/02/2024 a las 19:50:59

Estimados autores:
Enhorabuena por la ponencia, desde luego se trata de un tema de gran interés para todos los docentes y estudiantes. Quería consultarles en relación a los inconvenientes que plantean sobre las IAs en la elaboración de TFE: pese a que las IAs podrían ser una gran herramienta a los hora de buscar, filtrar y resumir artículos científicos, parece que las limitaciones de la herramienta le impiden hacer estas búsquedas, llegando incluso a ofrecer autores, papers, citas y datos completamente inventados -tras preguntarle por la fuente original, ChatGPT4 llega a confesar no que se haya equivocado, sino que se inventa las fuentes y datos-. En su revisión bibliográfica ¿han encontrado ustedes indicada esta realidad de las IAs? Más allá de la verificación, ¿se plantea alguna extensión o mejora para el uso de las IAs en el marco académico e investigador?
¡Gracias!
- Jose Antonio Vigario Castaño
  
  Comentó el 20/02/2024 a las 16:10:21
  
  Gracias Maitane.
  Totalmente de acuerdo que falta mucho por mejorar.
  En las evidencias se han encontrado errores considerables de datos inventados, nos queda la esperanza de que Gemini, la nueva IA de Google, pueda dar datos más exactos y concretos de citas que nos ayuden como herramienta colaborativa en los TFE, ya que entendemos que puede recoger información de Google académico. Seguimos en el proceso de mejora...
Carlos Pose

Comentó el 02/02/2024 a las 10:01:13

Muy interesante, Ana María y José Antonio. Sin duda, la IA puede proporcionar ayuda puntual en el TFG o cualquier trabajo. Lo que me pregunto es si los alumnos lo acaban viendo como una ayuda, o como un sustituto. Como ayuda, me parece legítimo; como sustituto, todavía la IA, por más generativa que se la vea, todavía no ha llegado a ese punto. Por ejemplo, la IA todavía no tiene capacidad de discriminar las fuentes de información. En el mundo de las ciencias humanas esto es un problema, porque abundan las interpretaciones, y no todas son correctas. Soy profesor de una materia titulada "Técnicas de trabajos de investigación", y lo que enseño a los alumnos puedo asegurar que no lo resuelve todavía la IA.
- Jose Antonio Vigario Castaño
  
  Comentó el 02/02/2024 a las 10:11:31
  
  Gracias Carlos.
  Estás en lo correcto compañero, como bien hemos dicho, debe utilizarse como herramienta de ayuda en la realización de los trabajos, pero no debe ni puede sustituir la creatividad y la capacidad humana.
  En cuanto a las fuentes de información aún le queda mucho por mejorar, esperamos que Bard de Google pueda darnos datos más exactos al recoger la información de Google Académico.
Mónica Carmen Ramos Montesdeoca

Comentó el 02/02/2024 a las 09:41:12

Buenos días. Felicidades por esta ponencia. El tema es muy interesante y recoge la problemática que existe relacionada con la ética de la Inteligencia Artificial y la protección de la privacidad de estudiantes e instituciones. Es crucial que se trabaje con los alumnos los aspectos éticos del buen uso de la tecnología y favorecer el pensamiento crítico para evitar el plagio, especialmente en los trabajos de fin de grado. Saludos.
- Jose Antonio Vigario Castaño
  
  Comentó el 02/02/2024 a las 09:51:59
  
  Gracias Mónica.
  Muy de acuerdo con tu comentario, es un tema que preocupa y atañe a toda la comunidad educativa.
  Ahora comenzamos la etapa de dirección de TFG en nuestra Facultad y se pretende informar y ayudar al alumnado a que la utilicen de forma correcta.
Juan Pedro Rivero González

Comentó el 01/02/2024 a las 17:43:25

Enhorabuena por la aportación realizada. También desde las Islas Canarias, les he seguido con interés. Me gustaría preguntarles si han encontrado en la revisión bibliográfica temáticas relacionadas con la competencia de interrogar a la AI. La información a la que es posible acceder a través de la Inteligencia Artificial en inmensa. ¿No estará en la capacidad de preguntar, de manera adecuada, fundamentada y rigurosa, la clave del aprendizaje? Saludos y enhorabuena. Gracias.
- Jose Antonio Vigario Castaño
  
  Comentó el 02/02/2024 a las 09:49:01
  
  Gracias Juan Pedro.
  Totalmente de acuerdo con tu apreciación, realizar correctamente los prompt ayuda y mucho a que la respuesta sea más detallada y acertada, no obstante, como todas las herramientas tecnológicas, están en proceso de mejora continua. Recordemos cuando comenzaron internet o las RRSS y lo que son hoy día.
  La IA aprende y se retroalimenta de la información que le vamos facilitando, por ello, debemos ser precisos en las preguntas para que sus repuestas se vayan ajustando más a lo que buscamos.
Adriana Mutu

Comentó el 01/02/2024 a las 13:32:49

Enhorabuena por su investigación. ¿Cómo cree que los cambiadores de plagio por la IA afectan la integridad académica y qué deberían hacer las instituciones de educación superior? Muchas gracias.
- Jose Antonio Vigario Castaño
  
  Comentó el 01/02/2024 a las 13:47:11
  
  Muchas gracias Adriana.
  El plagio lo había antes de la IA, lo hay y lo habrá, el problema no radica en que su implementación pueda aumentarla, es la concienciación en el uso de la misma, una buena utilización puede ayudar a reducir el tiempo en la búsqueda de información, pero no debe usarse para la elaboración de contenido.
  Los antiplagios pueden ayudar a detectar parte o la totalidad de la información obtenida a través de la IA, igual o parecido, al análisis de similitud de coincidencias que nos facilita TURNITIN, la cuestión es que los docentes puedan servir de orientadores, guías y asesores para que el alumnado que la utilice lo haga de forma correcta y con sentido común.
  Las instituciones universitarias deben facilitar todas las herramientas que puedan ayudar al alumno a mejorar sus estudios y sus necesidades, siempre que puedan estar a su alcance y que faciliten el proceso de enseñanza-aprendizaje.
Cristina Faba-Pérez

Comentó el 01/02/2024 a las 12:47:43

Estimados autores:
Soy Cristina Faba, de la Universidad de Extremadura.
Me parece muy interesante la revisión bibliográfica sobre este tema. A este respecto, en los trabajos bibliográficos que habéis revisado, ¿hay datos, porcentajes de la cantidad de Trabajos Fin de Estudios que han sido plagiados?
Muchas gracias, un saludo
- Jose Antonio Vigario Castaño
  
  Comentó el 01/02/2024 a las 13:27:12
  
  Buenos días Cristina, desde la Universidad del Atlántico Medio de las Palmas de Gran Canaria.
  Gracias por el comentario.
  En esta revisión no se han podido recoger esos datos, pero estamos elaborando otros trabajos en la misma línea de investigación donde si pretendemos recogerlos.
  Aún es pronto para tener una gran muestra debido a la reciente implementación en el uso de los TFE, pero pretendemos recoger los mismo en base a los trabajos realizados en nuestra Universidad.
Tania Blanco Sánchez

Comentó el 01/02/2024 a las 10:46:56

Buenos días. Muchas felicidades por su trabajo, es muy interesante. Me gustaría pregutarle si considera que con la llegada de la IA, los profesores deberíamos de cambiar el enfoque y planteamiento que tienen que tener los alumnos en el TFG. Muchas gracias. Un saludo.
- Jose Antonio Vigario Castaño
  
  Comentó el 01/02/2024 a las 11:38:22
  
  Hola Tania, gracias por tu pregunta.
  El enfoque y planteamiento del TFG depende siempre de la Universidad con la que se trabaje, siempre atendiendo a su normativa, formato y regulación, pero la llegada de la IA debe servir como herramienta colaborativa que ayude a conseguir información rápida y concisa, no debe sustituir la capacidad de desarrollo, redacción y creatividad del alumnado.
  Si la duda es saber como detectar si el alumnado la puede utilizar para un uso ilícito es algo complejo aún, porque, a pesar de haber otras herramientas que pueden detectar su uso, no existe un 100% de fiabilidad, por ello, no se debe prohibir su utilización, si no, al contrario, utilizarla como fuente de información para la creación y redacción de textos.
Macarena Gema Astudillo Vásquez

Comentó el 01/02/2024 a las 06:50:51

Estimado Jose Antonio, primero agradecer el enfoque de esta investigación, la verdad que es un tema hoy en día preocupante, mi pregunta es la siguiente:

¿Qué seguridad tenemos en el uso de la IA para conseguir la información necesaria dentro de temas y enfoques de investigación, sabiendo que la IA no es 100% precisa en temas específicos? Dado que sin ir muy lejos uno puede hacer una pregunta al ChatGPT (armar un prompt) y no siempre puede responder con certeza y seguridad sobre el tema tratado, aunque ofrezcan servicios de pago donde las IA están más conectadas a la red por así decirlo.
La IA e internet nos proveen de mucha información y desinformación a la vez, estas son herramientas muy poderosas, pero no 100% óptimas o efectivas, dado que el estudiante debe buscar de forma autónoma e indagar más dentro de su investigación; ya que la tecnología le provee al estudiantado la facilidad de la búsqueda de la información y sin darse cuenta pierden su objetivo de exploración en el aprendizaje. A su vez tampoco se puede cerrar las puertas a la era digital, es algo que está y que debemos aprender a trabajar con ella.
Y mi última pregunta:
¿Cuál debería ser el uso efectivo de esta herramienta y hasta qué punto como institución debemos tolerar el uso de ellas, para la formación profesional del estudiante?
- Jose Antonio Vigario Castaño
  
  Comentó el 01/02/2024 a las 11:29:05
  
  Gracias Macarena, cierto que en la actualidad es un tema que preocupa, y mucho, dentro de la comunidad educativa.
  La seguridad absoluta no existe, actualmente, en la utilización de la IA, como así refleja la propia página de ChatGPT de OpenAI. En cuanto a su utilización para investigación facilita información, que siempre debe ser contrastada, aunque es cierto, que a medida que se van realizando prompt más detallados la respuesta es más cercana a lo que se busca. Están saliendo nuevas herramientas de IA, por ejemplo Bard de Google que recoge los datos de Google Académico y puede aportar esa información rápida, relevante y eficiente para trabajos de innovación, investigación o revisiones bibliográficas.
  No se debe prohibir su utilización, se debe aconsejar su uso y trabajar en conjunto con el alumnado, indicándole cómo debe realizar los prompt, cómo debe contrastar la información que le facilita (a través de motores de búsqueda académicos, como Google Académico, ERIC, SciELO, Redalyc, Dialnet, entre otros) y, por último, cómo debe utilizarla.
  - Macarena Gema Astudillo Vásquez
    
    Comentó el 02/02/2024 a las 15:40:19
    
    Jose Antonio gracias por tu pronta respuesta, entonces la mejor forma de integrarla a nuestras instituciones, como bien señaló, es adaptarnos al cambio, capacitando y acompañando a los estudiantes, para que el impacto tanto en la comunidad docente como en la comunidad estudiantil no se vean afectados, mejorando las oportunidades y el desarrollo en el espacio de la exploración y hacer de ello una nueva metodología de estudio y herramienta de trabajo.
    Gracias nuevamente.
    
    Jose Antonio Vigario Castaño
    
    Comentó el 02/02/2024 a las 16:13:04
    
    Exacto Macarena, no hay que verla como un enemigo, si no al revés, un amigo que nos puede ayudar en el proceso de enseñanza-aprendizaje a ser más eficientes.
Gastón Sanglier Contreras

Comentó el 31/01/2024 a las 19:12:27

Muchas gracias por vuestra ponencia, sin embargo me gustaría realizaros un par de preguntas:
¿Cómo consideráis que la implementación de la inteligencia artificial en el ámbito universitario puede afectar la relación tradicional entre docentes y discentes en términos de enseñanza y aprendizaje?
Dada la importancia de la transparencia y ética académico-científica en el uso de la inteligencia artificial, ¿cómo podría influir esta regulación europea aprobada en junio de 2023 en la adopción y desarrollo futuro de la IA en el contexto universitario, y cuáles podrían ser sus posibles desafíos? Muchas gracias.
Un saludo
- Jose Antonio Vigario Castaño
  
  Comentó el 01/02/2024 a las 11:14:31
  
  Gracias a ti Gastón por las preguntas.
  La relación entre docentes y discentes está cambiando, no solo debido a la implementación de la inteligencia artificial, sino a todas las nuevas TIC que se están incorporando al proceso de enseñanza-aprendizaje. En la actualidad, hay un mayor acercamiento del profesorado al alumnado, un vínculo más cercano, accesible, rápido y eficiente, como se ha podido observar en varios estudios que se han realizado por el grupo investigador de la Universidad del Atlántico Medio de las Palmas de Gran Canaria.
  El Parlamento Europeo ha sentado las bases reguladoras en cuanto a la transparencia y regulación que está marcando las bases a tener en cuenta para su utilización, lo que no quiere decir que las mismas no cambien debido a los avances que se están produciendo a diario.
  En cuanto a los desafíos que atañen al contexto universitario es aliarse con ésta y todas las herramientas que puedan ayudar a mejorar la enseñanza, sin olvidarse que no deja se ser un aliado colaborativo y que no debe, en ningún caso, sustituir la parte creativa del alumnado, donde debe seguir buscando la innovación y originalidad en cada una de las tareas o trabajos que realicen.