El uso sin control de la Inteligencia Artificial (IA) sigue aumentando a niveles alarmantes, no solo impacta en el cambio climático, en el agua o en la energía que se utiliza, también está exponiendo a la niñez y mujeres en el mundo a la violencia sexual; los carteles mexicanos han utilizado esta herramienta para extender sus actividades criminales, manipular información falsa para sembrar miedo, confundir a la población y aparentar control territorial; incluso gobiernos como el de Donald Trump que frecuentemente utiliza la IA, ha causado preocupación a los expertos en desinformación, quienes temen que la difusión de dichas imágenes erosione la percepción pública de la verdad y siembre desconfianza.
En ese sentido, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó este jueves durante la Cumbre sobre el Impacto de la IA realizada en Nueva Delhi, sobre el riesgo de que la inteligencia artificial se convierta en “el monstruo de Frankenstein” si quienes la desarrollan carecen de una comprensión profunda de los principios éticos y sociales fundamentales.
“Cuando los desarrolladores tienen un conocimiento muy superficial de los principios fundamentales, me recuerda un poco al monstruo de Frankenstein: desarrollas algo que ya no controlas”, advirtió Volker Türk “Si no eres consciente de los peligros y los riesgos, puedes causar estragos”. El máximo responsable de derechos humanos de la ONU propuso una gobernanza global, instó a gobiernos y empresas a establecer urgentemente salvaguardas para evitar que la tecnología profundice la desigualdad, amplifique los sesgos y genere daños en el mundo real.
Türk identificó la inequidad como uno de los peligros más acuciantes, y celebró que la cumbre se celebrara en India precisamente para garantizar que estas herramientas “se utilicen y desarrollen en todas partes”… ”Si los datos solo se recogen de una parte del mundo, si solo los hombres desarrollan la IA, se incorporarán sesgos inconscientes”, señaló. “Es clave prestar atención a los grupos vulnerables y las minorías, porque a menudo quedan excluidos del desarrollo de la IA”, sin embargo Estados Unidos rechazó la iniciativa.
Por otra parte, durante el Primer Congreso Internacional de Ciencias Sociales e Inteligencia Artificial, John M. Ackerman, titular del Programa Universitario de Estudios sobre Democracia, Justicia y Sociedad (PUEDJS), estimó urgente regular el uso que se puede o no dar a la IA, así como a las grandes empresas que ofrecen estos servicios que hoy representan un tecnofeudalismo.
Durante el “Foro Interdisciplinario Gobernanza, regulación y evaluación democrática de la Inteligencia Artificial”, el investigador envió un mensaje de video donde destacó que el poder de los nuevos oligarcas digitales transnacionales pone en riesgo no sólo la democracia, sino también a nuestra civilización entera. “En México, la situación se encuentra en una situación particularmente grave, ya que empieza una ley de la selva en el ámbito digital que muy pronto podría salirse de control”.
Patricia Claudia Brogna, profesora de la FCPyS, subrayó ante estudiantes y profesores, reunidos en el Auditorio Manuel Sánchez Rosado de la ENTS, que especialistas ya han alertado del impacto del uso de tecnologías como la IA, las cuales ya representan un riesgo por la diseminación de mensajes de odio. La académica recordó que si bien la IA optimiza decisiones, a la vez es parte de un modelo económico y político cuyo núcleo es convertir la experiencia humana en datos; es decir, cada vez que la utilizamos extrae, a gran escala, información de nuestra actividad, lo que deriva en los llamados mercados conductuales del futuro que están centrados en predecir nuestras acciones.
ONU Una IA sin control: el peligro de crear un “monstruo de Frankenstein” | UNAM Urgente, regular el uso de la inteligencia artificial | UNICEF IA y deepfakes: nuevos riesgos de violencia sexual contra la niñez | INFOBAE Estados Unidos rechazó la iniciativa de la ONU para establecer una gobernanza mundial de la inteligencia artificial | Expansión Política De la extorsión al reclutamiento: Cárteles usan IA para extender actividades | PBS El uso de imágenes de IA por parte de Trump erosiona aún más la confianza pública, dicen los expertos | El sol de San Luis Crimen organizado utiliza IA para crear videos y sembrar pánico en SLP: SSPCE | DW 86 países firman el mayor acuerdo de la historia sobre IA
