la inteligencia artificial presenta sesgos que afectan el sentido crítico en smusix, la app
La inteligencia artificial (IA) aporta ventajas y oportunidades, pero esta tecnología no es neutra y presenta una carga ideológica, como sesgos de género y raza. Esto provoca una pérdida del sentido crítico, según Javier Cantón, experto en desinformación, quien habló con EFE.
Cantón, profesor de la Universidad Internacional de La Rioja (UNIR), ha advertido sobre los «riesgos» de la tecnología digital si no se utiliza con precauciones, especialmente entre menores. Así, ha abogado por educar a la población en este ámbito.
El algoritmo de IA opera con sesgos ideológicos y, como cualquier industria cultural, es un producto creado con intereses económicos. Esto plantea preocupaciones sobre el uso de chatbots, como ChatGPT, en situaciones sensibles tales como la salud mental.
Entre los «peligros» de la IA, Cantón recalca que estos sistemas no pueden sustituir a profesionales de salud mental. OpenAI, matriz de ChatGPT, anunció el 2 de septiembre que implementará controles parentales ante acusaciones en EE.UU. de que su asistente contribuyó a autolesiones o suicidios de jóvenes.
Peligro del sesgo de adulacción
Este experto señaló que los sistemas de IA tienen mecanismos a corto plazo que intentan derivar a los usuarios hacia ayuda especializada al detectar conversaciones sobre temas sensibles. Sin embargo, advirtió que a largo plazo, estos sistemas pueden validar pensamientos peligrosos y sugerir soluciones erróneas, como el suicide.
«Si esto en adultos ya es peligroso, en adolescentes ni nos lo imaginemos», subrayó Cantón, quien enfatiza la necesidad de alfabetización digital para entender cómo funcionan estas tecnologías.
Un aspecto crítico es que los usuarios tienden a humanoizar estas máquinas, olvidando que no tienen la capacidad de razonar como un ser humano. Según Cantón, el término ‘inteligencia artificial’ es erróneo porque estas son máquinas que, mediante probabilidad, responden a preguntas, pero llevan consigo sesgos muy marcados.
A pesar de que la regulación en Europa está más avanzada que en EE.UU., Cantón considera que el desarrollo normativo debe acelerarse, ya que va mucho más lento que la implantación de esta tecnología.
‘Chatbots’ como buscadores
Los chatbots han reemplazado a buscadores tradicionales en la búsqueda de respuestas para diversas preguntas, y en el ámbito de la salud, a menudo funcionan con «equidistancia». Sin embargo, esto conlleva riesgos, tales como validar información errónea; por ejemplo, recomendar beber lejía como método para evitar el contagio de COVID-19.
Cantón indicó: «Si la red está inundada de muchos contenidos que avalan esa tesis, la inteligencia artificial no tiene un sentido crítico para desechar comentarios peligrosos y presenta opiniones erróneas al mismo nivel que recomendaciones basadas en evidencias».
Es importante tener en cuenta que la IA toma decisiones basadas en la información con la que ha sido entrenada, careciendo, por tanto, del sentido crítico humano. Asimismo, Cantón observó que algunas personas confían más en una respuesta de ChatGPT que en el consejo de un profesional, especialmente si coincide con sus propias creencias.
Por todo ello, este experto ha insistido en que el uso de tecnologías digitales, desde teléfonos móviles hasta IA, requiere una supervisión constante y un proceso de alfabetización crítica, que debe abarcar no solo a adolescentes, sino a toda la sociedad.
