LA INTELIGENCIA ARTIFICIAL EN SOCIOLOGÍA

Enfoque

LA INTELIGENCIA ARTIFICIAL (IA), EN SOCIOLOGIA

El presente trabajo tiene como objetivo principal investigar cómo la Inteligencia Artificial (IA), especialmente aquella basada en redes neuronales y “deep learning”, puede influir y potencialmente exacerbar las desigualdades sociales. La IA, definida como la emulación de procesos de pensamiento y razonamiento humano por máquinas, así como una disciplina enfocada en crear sistemas con capacidad de razonamiento y toma de decisiones humanas, se ha integrado profundamente en nuestra vida diaria. Su presencia es notable en dispositivos como teléfonos móviles, donde facilita reconocimiento facial, de voz, escritura y mejora en la calidad de las fotografías, además de influir en los motores de búsqueda y las sugerencias de contenido en plataformas digitales.

En campos como la medicina, medio ambiente, economía y educación, la IA ha demostrado ser una herramienta poderosa, capaz de asistir en decisiones médicas, administrar medicamentos, supervisar pacientes y diagnosticar enfermedades complejas. Su papel también ha sido crucial durante la crisis sanitaria global provocada por el COVID-19, ayudando en la detección de la enfermedad, en la predicción de contagios, el seguimiento de pacientes y en el desarrollo de vacunas. Sin embargo, estas aplicaciones han generado un intenso debate ético relacionado con la privacidad de los datos personales, el control excesivo y la vigilancia constante.

Este trabajo se centra en proporcionar una perspectiva sociológica sobre el desarrollo de la IA, se analizará cómo se recopilan y procesan los datos utilizados en la IA, los posibles sesgos que esto puede generar en sus aplicaciones y cómo estas prácticas pueden influir en la sociedad, tanto en sus aspectos beneficiosos como en los riesgos y desigualdades sociales que puede intensificar o incluso crear.

Dado que la IA es una tecnología emergente de gran relevancia para las sociedades actuales y futuras, es crucial su análisis desde una perspectiva sociológica. Este estudio abordará el debate ético que rodea al desarrollo de la IA, que incluye preocupaciones como la destrucción de empleos, la predominancia de intereses de sectores más privilegiados, la privacidad de los datos personales y la posibilidad de que la IA supere la inteligencia y eficiencia humanas.

El marco de este trabajo incluirá una revisión del contexto sociohistórico del desarrollo y uso de la IA, y una comparación y contraste con el análisis de datos secundarios y entrevistas en profundidad. Se investigará el proceso de diseño y desarrollo de los sistemas de IA, así como la percepción social hacia esta tecnología. Se explorará la preocupación por la protección de datos personales y el impacto de la IA en el mercado laboral, buscando comprender la magnitud de dicho impacto y las opiniones de la población al respecto.

En resumen, este trabajo busca contribuir al entendimiento de la relación entre la IA y las desigualdades sociales, con un enfoque en cómo los avances tecnológicos en este campo están moldeando y siendo moldeados por las estructuras y dinámicas sociales existentes.

Alessandro Gentile

Comentó el 04/02/2024 a las 09:14:14

Muchas gracias por la comunicación. ¿Puede indicar unas referencias bibliográficas introductorias y útiles para conocer mejor la relación entre la investigación social (técnicas y contenidos) y la Inteligencia artificial?
- Rafael Bellido Salvador
  
  Comentó el 04/02/2024 a las 10:45:38
  
  Para explorar la relación entre la investigación social y la inteligencia artificial, considerando tanto las técnicas como los contenidos, es útil consultar una variedad de fuentes que aborden desde los fundamentos de la IA hasta sus implicaciones éticas y sociales. A continuación, sugiero algunas referencias bibliográficas que pueden servir como punto de partida:
  
  "Artificial Intelligence: A Guide for Thinking Humans" por Melanie Mitchell.
  Este libro proporciona una visión accesible de la IA, cubriendo tanto sus capacidades técnicas como las cuestiones filosóficas y éticas que plantea, lo que lo hace relevante para la investigación social.
  
  "Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy" por Cathy O'Neil.
  O'Neil explora cómo los algoritmos y los modelos de big data, a menudo considerados objetivos, pueden perpetuar y amplificar las desigualdades sociales, ofreciendo una perspectiva crítica importante para los investigadores sociales.
  
  "Algorithms of Oppression: How Search Engines Reinforce Racism" por Safiya Umoja Noble.
  Este trabajo se centra en cómo los algoritmos de los motores de búsqueda pueden perpetuar estereotipos raciales y de género, proporcionando un estudio de caso claro de las implicaciones sociales de la IA.
  
  "The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power" por Shoshana Zuboff.
  Zuboff examina cómo la recolección masiva de datos personales por parte de corporaciones tecnológicas afecta la privacidad, la autonomía y, en última instancia, la democracia, temas cruciales para la investigación social.
  
  "Automate This: How Algorithms Came to Rule Our World" por Christopher Steiner.
  Este libro ofrece una mirada a cómo los algoritmos están transformando diversas industrias y aspectos de la vida cotidiana, con implicaciones significativas para el empleo, la economía y la estructura social.
  
  "Hello World: Being Human in the Age of Algorithms" por Hannah Fry.
  Fry aborda cómo la IA y los algoritmos afectan a la vida cotidiana, desde la justicia hasta la medicina, subrayando la importancia de comprender estas tecnologías desde una perspectiva humana y social.
  
  Estas referencias abarcan una gama de perspectivas sobre cómo la IA interactúa con la sociedad y los desafíos que presenta para la investigación social, desde la ética y la equidad hasta el impacto en la privacidad y la democracia.
Lizeth Carolina Ronderos Sepulveda

Comentó el 03/02/2024 a las 00:57:13

Excelente ponencia Doctor Rafael, es emocionante como el mundo evoluciona hacia las nuevas tecnologias y como la Inteligencia artificial hace parte de nuestro dia a dia con mas frecuencia y normalidad. Bajo este efecto es inevitable no preguntarse sobre las consecuencias del desarrollo, lo que incluso Schumpeter denominaba como destrucción creativa, ¿cree usted que el uso masivo de las inteligencias artificiales pueda llegar en algun momento a aumentar los niveles de desigualdad y pobreza en el mundo por la posibilidad de la perdida de empleos debido al avance tecnologico y al uso de las IA?
- Rafael Bellido Salvador
  
  Comentó el 03/02/2024 a las 08:55:25
  
  Es plausible que el uso masivo de la IA pueda aumentar las desigualdades y la pobreza debido a la automatización de empleos y la demanda de nuevas habilidades. Sin embargo, este impacto podría mitigarse mediante políticas inclusivas, educación adaptada y un enfoque en el desarrollo ético de la IA que considere las implicaciones sociales.
César López Pérez

Comentó el 02/02/2024 a las 18:08:08

Interesante ponencia Rafael, gracias. ¿Cree que la IA puede ser una herramienta de futuro para que el docente la pueda utilizar en el aula o más bien un elemento que se podría considerar "peligroso" por el potencial que puede tener para la copia de trabajos, atajos o similar?
- Rafael Bellido Salvador
  
  Comentó el 03/02/2024 a las 08:56:25
  
  La IA tiene el potencial de ser una herramienta valiosa en el aula, ofreciendo personalización del aprendizaje y apoyo administrativo a los docentes. No obstante, también presenta desafíos, como fomentar la dependencia de atajos y la copia de trabajos. La clave radica en un uso equilibrado, donde se maximicen sus beneficios educativos mientras se educan a los estudiantes sobre la integridad académica y el pensamiento crítico.
Juan Pedro Rivero González

Comentó el 02/02/2024 a las 13:54:33

Buenos días. Muchas felicidades por su ponencia. Me ha parecido muy interesante y enriquecedora.. Me gustaría preguntarle si, desde su punto de vista, la IA puede aumentar desigualdades sociales. ¿Será otra herramienta que vincule y desarrolle solo el primer mundo, Muchas gracias. Un saludo y felicitarle por su comunicación a este Congreso.
- Rafael Bellido Salvador
  
  Comentó el 03/02/2024 a las 08:58:46
  
  Desde mi perspectiva, la IA tiene el potencial tanto de aumentar como de mitigar las desigualdades sociales. Si no se gestiona adecuadamente, puede exacerbar las brechas existentes, beneficiando principalmente a aquellos que ya tienen acceso a la tecnología avanzada y a la educación necesaria para su uso y desarrollo, lo que suele ser característico de las naciones más desarrolladas o del "primer mundo". Sin embargo, también ofrece oportunidades para abordar desafíos globales y mejorar la calidad de vida a través de aplicaciones en salud, educación y economía, si se implementan políticas inclusivas y se promueve un acceso equitativo a la tecnología.
Lizbeth Labañino Palmeiro

Comentó el 02/02/2024 a las 11:14:16

Interesante ponencia. Que campos quedan abiertos con los resultados obtenidos? Desde el punto de vista social?
- Rafael Bellido Salvador
  
  Comentó el 02/02/2024 a las 11:43:40
  
  Los resultados sugieren la necesidad de explorar cómo mitigar los sesgos de la IA y sus efectos en la desigualdad social, y cómo las políticas pueden equilibrar los beneficios de la IA con la protección de los derechos individuales y la inclusión social.
Laura Beatriz Vidal-Turrubiates

Comentó el 01/02/2024 a las 20:39:55

Felicidades al ponente participante, se puede observar la gran participación que el tema "LA INTELIGENCIA ARTIFICIAL EN SOCIOLOGÍA", están motivando en los demás, para expresar grandes aportes. Felicidades por los comentarios aportados. Invitamos a los demás participantes del FOROEDUCA a contribuir con sus aportaciones.
Tania Blanco Sánchez

Comentó el 01/02/2024 a las 11:01:32

Buenos días. Muchas felicidades por su ponencia. Me ha parecido muy interesante. Me gustaría preguntarle desde su punto de vista si la IA puede aumentar o dismunuir las desiguladades sociales. Muchas gracias. Un saludo.
- Rafael Bellido Salvador
  
  Comentó el 01/02/2024 a las 11:39:42
  
  La Inteligencia Artificial (IA) tiene el potencial tanto de aumentar como de disminuir las desigualdades sociales, dependiendo de cómo se diseñe, implemente y regule.
  
  Por un lado, la IA puede aumentar las desigualdades sociales a través de varios mecanismos, uno de los más destacados es el riesgo de sesgo en los algoritmos, donde los sistemas de IA pueden perpetuar o incluso exacerbar los prejuicios existentes si se entrenan con datos sesgados, lo que puede llevar a decisiones injustas en áreas críticas como el empleo, la atención médica y la justicia penal, afectando desproporcionadamente a grupos ya marginados. Además, la automatización impulsada por la IA puede desplazar a trabajadores de ciertos sectores, potencialmente exacerbando el desempleo y la brecha de habilidades, lo que podría ampliar las desigualdades económicas.
  
  Por otro lado, la IA también ofrece oportunidades para disminuir las desigualdades sociales. Puede proporcionar herramientas para mejorar el acceso a la educación y la atención médica, especialmente en áreas remotas o desatendidas, a través de tecnologías como la tutoría virtual y los diagnósticos médicos asistidos por IA, también puede ayudar a identificar y mitigar las desigualdades a través de análisis de datos más sofisticados, permitiendo a los responsables de la formulación de políticas y las organizaciones dirigir mejor sus recursos y esfuerzos hacia quienes más los necesitan.
  
  La clave para maximizar los beneficios de la IA mientras se minimizan sus riesgos radica en un diseño y una implementación conscientes, que incluyan prácticas éticas, la eliminación de sesgos en los datos y algoritmos, y una regulación adecuada que promueva la transparencia y la responsabilidad, es fundamental fomentar la inclusión digital y la capacitación en habilidades digitales para garantizar que los beneficios de la IA estén disponibles para todos, reduciendo así las brechas existentes en lugar de ampliarlas.
  
  La IA tiene un potencial dual en relación con las desigualdades sociales: puede ser tanto una fuerza para exacerbarlas como una herramienta poderosa para mitigarlas. El resultado dependerá en gran medida de las decisiones conscientes tomadas por desarrolladores, legisladores, y la sociedad en su conjunto, para guiar el desarrollo y la aplicación de la IA de manera ética y equitativa.
Luis Miguel Garay Gallastegui

Comentó el 01/02/2024 a las 09:57:49

Estimado Rafael, en primer lugar felicitarle por la temática escogida y evidentemente, por el desarrollo que ha realizado en la ponencia.
Me ha resultado especialmente atractiva la afirmación de que la tecnología no es un campo neutral y que refleja ideologías y sesgos de sus creadores, así como la posibilidad de magnificar desigualdades estructurales ya existentes.
Desde un punto de vista social entiendo que se refiere al uso de la tecnología o incluso, a la utilización de datos con sesgo en el entrenamiento del os modelos. Es un debate muy interesante.
Gracias !!!
- Luis Miguel Garay Gallastegui
  
  Comentó el 01/02/2024 a las 10:21:45
  
  Siguiendo con el razonamiento anterior, ¿ considera que el sesgo de los datos puede ser eliminado o reducido solamente con medidas tecnológicas?
- Rafael Bellido Salvador
  
  Comentó el 01/02/2024 a las 11:44:40
  
  La afirmación de que la tecnología no es un campo neutral y que puede reflejar las ideologías y sesgos de sus creadores es fundamental para entender las implicaciones sociales de cualquier avance tecnológico, incluida la Inteligencia Artificial (IA). Esta perspectiva resalta cómo las herramientas tecnológicas, lejos de ser meros instrumentos objetivos, están imbuidas de los valores, creencias y prioridades de las sociedades y los individuos que las desarrollan. En el contexto de la IA, esto tiene implicaciones profundas en varios niveles.
  
  Primero, en el nivel de la creación y el diseño de la tecnología, los desarrolladores de IA, consciente o inconscientemente, pueden incorporar sus propios prejuicios en los algoritmos. Esto ocurre a menudo en la fase de selección y tratamiento de los datos utilizados para entrenar modelos de IA. Si los datos reflejan historias de desigualdades o prejuicios (como datos históricos de contratación, préstamos o decisiones judiciales), la IA puede aprender y perpetuar estos patrones.
  
  Segundo, en la implementación y aplicación de la IA, las decisiones sobre dónde y cómo se utiliza esta tecnología pueden reflejar y reforzar desigualdades estructurales. Por ejemplo, si las herramientas de IA se emplean principalmente para optimizar ganancias en sectores ya lucrativos, en lugar de abordar necesidades críticas en comunidades desatendidas, la brecha entre los "haves" y los "have-nots" puede ampliarse.
  
  Este debate toca aspectos cruciales como la responsabilidad y la ética en el desarrollo tecnológico. Plantea preguntas sobre quién tiene la autoridad para diseñar y desplegar tecnologías de IA, quién se beneficia de estas innovaciones y quién puede ser perjudicado por ellas. La preocupación es que sin una reflexión y regulación cuidadosas, la tecnología de IA podría magnificar las desigualdades estructurales existentes, creando un ciclo donde la tecnología no solo refleja sino que también intensifica las disparidades sociales.
  
  Para contrarrestar estos riesgos, es esencial fomentar una mayor diversidad e inclusión en los campos de la tecnología y la IA, asegurando que una amplia gama de perspectivas y experiencias informen el desarrollo de la tecnología. Además, se necesita una mayor transparencia en los algoritmos de IA y los conjuntos de datos de entrenamiento, junto con una regulación y supervisión más sólidas para identificar y corregir los sesgos potenciales.
  
  Reconocer que la tecnología no es neutral subraya la importancia de abordar críticamente cómo se desarrolla y se despliega la IA, con un compromiso continuo hacia la equidad y la justicia social para asegurar que los avances tecnológicos beneficien a toda la sociedad de manera justa y equitativa.
Genoveva Carrión Ruiz

Comentó el 01/02/2024 a las 09:51:42

Buenos días,

Encantada de haber escuchado tu ponencia Rafael. Abre sin duda preguntas sobre las posibilidades de composición de un futuro mediado, sin duda, por un nuevo paradigma tecnológico.
En tu ponencia abres la puerta a la posibilidad de que la IA represente una herramienta afirmativa pero estableces la condición vigilante de un "marco ético regulador robusto" en tus palabras y me pregunto ¿De quién dependen estos marcos éticos reguladores? ¿Cómo se puede ejercer resistencia o disidencia cuando la herramienta ya se ejerce desde el sistema del poder?

Muchas gracias otra vez y seguimos hablando.

Genoveva Carrión Ruiz.
- Rafael Bellido Salvador
  
  Comentó el 01/02/2024 a las 11:49:14
  
  Los marcos éticos reguladores en tecnología, y específicamente en Inteligencia Artificial (IA), dependen de múltiples actores que incluyen gobiernos, organismos reguladores internacionales, la industria tecnológica, la comunidad académica, organizaciones de la sociedad civil y, en última instancia, los usuarios y consumidores. La creación y aplicación de estos marcos es un proceso complejo que involucra la negociación entre diferentes intereses, valores y perspectivas.
  
  Gobiernos y Organismos Reguladores
  Los gobiernos nacionales tienen un papel crucial en la creación de leyes y regulaciones que establezcan los límites éticos y legales para el desarrollo y uso de la IA. Las políticas pueden abordar aspectos como la privacidad de los datos, la transparencia algorítmica, la no discriminación y la responsabilidad por decisiones automatizadas. Organismos internacionales como la Unión Europea, la UNESCO y la ONU también están trabajando en marcos éticos y regulaciones para guiar el desarrollo global de la IA de manera responsable.
  
  Industria Tecnológica
  Las empresas que desarrollan y despliegan tecnologías de IA tienen la responsabilidad de adherirse a principios éticos, lo que incluye realizar evaluaciones de impacto ético, garantizar la transparencia de sus algoritmos y ser responsables de las consecuencias no intencionadas de sus tecnologías. Algunas empresas han establecido sus propios comités de ética o han adoptado principios de IA ética para guiar su trabajo.
  
  Comunidad Académica y Organizaciones de la Sociedad Civil
  Los académicos y las organizaciones no gubernamentales juegan un papel importante en la crítica y el análisis de la tecnología, resaltando problemas éticos y sociales y proponiendo soluciones. A través de la investigación, la defensa y la educación, estos actores pueden influir en las políticas públicas y las prácticas empresariales, promoviendo una mayor consideración de los aspectos éticos y sociales de la IA.
  
  Usuarios y Consumidores
  Los individuos también tienen un papel, ejerciendo su poder a través de decisiones de consumo, participación en el discurso público y presión sobre las empresas y los gobiernos para que actúen de manera responsable. La demanda de productos y servicios que respeten la privacidad y la ética puede impulsar a las empresas a adoptar prácticas más responsables.
  
  Ejerciendo Resistencia o Disidencia
  La resistencia o disidencia frente a tecnologías que se perciben como opresivas o injustas puede tomar varias formas:
  
  Movilización Social y Campañas de Concienciación: Organizar o participar en campañas para sensibilizar sobre los aspectos problemáticos de ciertas tecnologías de IA y movilizar a la opinión pública para exigir cambios.
  
  Acción Legal: Utilizar los sistemas legales para desafiar prácticas o políticas que se consideren injustas o discriminatorias, incluidos litigios y demandas.
  
  Desarrollo de Tecnología Alternativa: Crear y promover tecnologías alternativas que incorporen valores éticos y sirvan como modelos para un desarrollo tecnológico más responsable y equitativo.
  
  Participación en el Proceso Político: Participar en consultas públicas, votaciones y otras formas de participación política para influir en la creación de políticas y regulaciones.
  
  Educación y Capacitación: Fomentar la alfabetización digital y ética en la tecnología para empoderar a más personas para que comprendan, critiquen y cuestionen el desarrollo y la implementación de la IA.
  
  Los marcos éticos reguladores de la IA son responsabilidad de una amplia gama de actores y requieren un enfoque colaborativo y multidisciplinario. La resistencia y la disidencia son esenciales para garantizar que el desarrollo de la tecnología sea inclusivo, justo y alineado con los valores humanos fundamentales.
María Oralia Urías Rivas

Comentó el 31/01/2024 a las 17:34:53

Hoy en día es una herramienta muy útil, la importancia de la inteligencia artificial en la educación radica en su capacidad para personalizar el aprendizaje, adaptarse a las necesidades individuales de los estudiantes y ofrecer herramientas avanzadas para la enseñanza y el aprendizaje. La IA puede ayudar a identificar patrones de aprendizaje, proporcionar retroalimentación instantánea, crear entornos de aprendizaje interactivos y facilitar el acceso a recursos educativos de alta calidad. Además, puede ayudar a los educadores a administrar mejor el tiempo y los recursos, permitiéndoles centrarse en actividades más creativas y enriquecedoras para los estudiantes. En resumen, la IA tiene el potencial de transformar la educación al hacerla más personalizada, eficiente y efectiva para todos los estudiantes.
- Rafael Bellido Salvador
  
  Comentó el 01/02/2024 a las 11:51:47
  
  La Inteligencia Artificial (IA) ciertamente posee un gran potencial para transformar la educación, haciéndola más personalizada, eficiente y efectiva para todos los estudiantes. Este cambio puede manifestarse en varios aspectos clave del proceso educativo:
  
  Personalización del Aprendizaje
  La IA puede analizar las necesidades de aprendizaje individuales de los estudiantes, adaptando el contenido educativo a su nivel y estilo de aprendizaje. Esto significa que los estudiantes que necesitan más tiempo pueden recibir recursos adicionales, mientras que aquellos que avanzan rápidamente pueden ser desafiados con material más complejo. La personalización puede aumentar la motivación y la participación de los estudiantes al ofrecerles una experiencia de aprendizaje que se siente relevante y adaptada a sus necesidades.
  
  Mejora en la Eficiencia Educativa
  Los sistemas de IA pueden automatizar tareas administrativas y de calificación, liberando a los educadores para que se concentren más en la enseñanza y la interacción personal con los estudiantes. Esto puede aumentar la eficiencia en el aula y permitir que los maestros dediquen más tiempo a actividades que fomenten el pensamiento crítico, la creatividad y las habilidades interpersonales de los estudiantes.
  
  Tutoría y Soporte Constantes
  Los tutores virtuales basados en IA y los asistentes educativos pueden proporcionar apoyo adicional a los estudiantes fuera del horario escolar. Estos sistemas pueden ofrecer explicaciones adicionales, práctica suplementaria y retroalimentación inmediata, lo que puede ser particularmente beneficioso en entornos donde los recursos humanos son limitados.
  
  Detección Temprana de Dificultades de Aprendizaje
  La IA puede analizar los patrones de aprendizaje y rendimiento de los estudiantes para identificar a aquellos que pueden estar en riesgo de quedarse atrás o que podrían estar enfrentando dificultades de aprendizaje no diagnosticadas. La intervención temprana es crucial para abordar estas dificultades y garantizar que todos los estudiantes tengan la oportunidad de tener éxito.
  
  Acceso Ampliado a la Educación
  La IA puede hacer que la educación de alta calidad sea más accesible, especialmente en áreas remotas o desfavorecidas, a través de plataformas de aprendizaje en línea y contenido educativo digital. Esto puede ayudar a cerrar la brecha educativa entre diferentes regiones y grupos socioeconómicos.
  
  Preparación para el Futuro
  Al integrar la IA en la educación, los estudiantes pueden adquirir habilidades digitales y de alfabetización tecnológica que son esenciales para el futuro mercado laboral. Este enfoque también puede fomentar una mentalidad de aprendizaje continuo, preparando a los estudiantes para adaptarse a los cambios rápidos en la tecnología y en las demandas de habilidades.
  
  Sin embargo, la implementación exitosa de la IA en la educación requiere abordar desafíos importantes, incluidos problemas éticos, privacidad de datos, igualdad de acceso a la tecnología y la necesidad de un diseño inclusivo que tenga en cuenta la diversidad de los estudiantes. Además, la integración de la IA no debe reemplazar la interacción humana crucial en la educación, sino complementarla, asegurando que la tecnología sirva para potenciar y no para despersonalizar el proceso educativo.