Observatorio de Inteligencia Artificial y Diversidad

Fundación Diversidad se une como entidad colaboradora al nuevo Observatorio de Inteligencia Artificial y Diversidad.

Este Observatorio y Think Tank especializado en las implicaciones éticas de la inteligencia artificial (IA) y su relación con la sociedad en cuanto a las cuestiones de diversidad, es una iniciativa conjunta de Ineco, ingeniería y consultoría de referencia en movilidad y transformación digital, y la Universitat Politècnica de València (UPV).

El Observatorio de Inteligencia Artificial y Diversidad cuenta con la Fundación Diversidad, la Asociación de Mujeres Empresarias y Profesionales (EVAP) y Woman in AI como entidades colaboradoras especializadas en diversidad. También participarán la red de mujeres mINerva y la red de diversidad IRIS, ambas nacidas en Ineco.

El Observatorio tiene como objetivo analizar, debatir y brindar orientación en el desarrollo y uso responsable de la IA para promover un enfoque humano y ético en su implementación. Además, prestará especial atención a identificar patrones y desigualdades relativos a la movilidad y la diversidad; concienciar y sensibilizar sobre posibles barreras; así como incorporar reflexiones hacia una movilidad inclusiva.

El Observatorio de Inteligencia Artificial y Diversidad se desarrolla bajo la premisa de que la IA no solo debe ser una herramienta eficiente, sino también una fuerza positiva que beneficie a toda la humanidad, reduciendo los riesgos que puedan derivarse de su uso. El Observatorio actuará como un centro de estudio y análisis, reuniendo a expertos en ética, tecnología, economía, derecho, sociología y otras disciplinas relevantes para explorar las complejas interacciones entre la IA y la sociedad. 

El sesgo algorítmico, privacidad y protección de datos, responsabilidad corporativa, ética en la toma de decisiones autónomas, interacción humano-IA, ética en investigación y desarrollo de IA y gobernanza y regulación son los aspectos sobre los que se articulará el estudio del proyecto.

La constitución de este Observatorio y Think Tank se ha formalizado hoy con la firma de un convenio de colaboración. El encuentro, que ha tenido lugar en el rectorado de la UPV, ha contado con la participación de Sergio Vázquez, presidente de Ineco; José Capilla, rector de la UPV, y Nuria Lloret, catedrática de la UPV y directora del Observatorio.

El rector de la UPV, que ha presidido el acto, ha señalado durante el mismo que la IA “es algo que ha llegado y nos va a facilitar la vida. No debemos tenerle ningún temor, lo que tenemos que hacer es incorporarla. Pero sabemos que los modelos generativos tienen sus sesgos y que hay que solucionar esos problemas. En ese sentido, bienvenido sea un Observatorio como el que hoy presentamos, que va a velar por la calidad del uso de la IA evitando problemas de discriminación y favoreciendo la igualdad y la diversidad”.

Por su parte Nuria Lloret, subdirectora del Instituto de Investigación de Diseño y Fabricación (IDF), ha indicado que, si bien el avance y la expansión de la IA han revolucionado la sociedad en múltiples aspectos, desde la automatización de tareas hasta la toma de decisiones en áreas cruciales como la medicina, la educación, las finanzas o la ciberseguridad, “este progreso tecnológico también plantea desafíos éticos y sociales que deben abordarse de manera exhaustiva. Por ello nace este Observatorio”, ha destacado.

Lloret, elegida para el Observatorio, es referencia internacional en el ámbito de la diversidad en los entornos académicos y empresariales, además de una reconocida experta en la mentorización de mujeres jóvenes hacia los estudios STEAM. No en vano, la catedrática de la UPV ha sido profesora invitada de la New York University y del Tecnológico de Monterrey, ha dirigido más de 50 proyectos de investigación a niveles nacional y europeo, y es la fundadora de la plataforma “Atenea: Women in Art and Stem” y miembro de la plataforma de Estudios de Genero de la Universidades Españolas.

Fundación Diversidad, junto con otras entidades colaboradoras, testeará las herramientas de IA en una primera fase “sin conocimiento” y, posteriormente, realizarán una formación para desarrollar la segunda parte del testeo. Los datos recopilados serán analizados para realizar comparativas de uso “con y sin conocimiento en materia de inteligencia artificial”.