Línea de investigación: Inteligencia Artificial para el Desarrollo
La ética en torno a la Inteligencia Artificial (IA) sigue siendo un tema de suma atención dentro del círculos que rodean no solo los debates de política digital, sino también los más amplios de tecnología, economía y movimientos. Las narrativas sobre un futuro distópico basado en la tecnología siguen aumentando, particularmente en el contexto de la pandemia de COVID-19, y la IA está en el centro de muchos de estos temores así como contemplado en oportunidades de transformaciones. Sin embargo, en muchos casos aquellos que están desarrollando las tecnologías o tratando de regularlas todavía no entienden cómo las preocupaciones éticas planteadas por la IA se pueden abordar los sistemas.
En este contexto GUIA.ia se creó en 2019 desde el Centro de Estudios en Tecnología y Sociedad (CETyS) de la Universidad de San Andrés como una plataforma regional para la difusión de investigaciones sobre ética, políticas y gobernanza en América Latina, que actualmente se encuentra en su segunda edición.
Hoy en día, GuIA es una iniciativa conjunta entre el CETyS, el Centro Latam Digital (CLD) y el Banco Interamericano de Desarrollo (BID), a través de su iniciativa fAIr LAC y cuenta con financiamiento de Facebook. El proyecto tiene como objetivo fortalecer un espacio donde investigadores regionales abordan discusiones sobre la ética, los principios, normas y políticas de los sistemas de Inteligencia Artificial (IA), y problemas específicos de América Latina y el Caribe. El proyecto busca aportar una perspectiva propia desde la región sobre el impacto de la IA en distintos ámbitos a través del análisis empírico que permita obtener evidencia. Contar con estos datos es fundamental para entender los resultados de los avances llevados a cabo hasta el momento, así como para informar las políticas públicas, la regulación y la legislación.
La primera edición de GuIA (2019-20) se enfocó en la discusión en torno a los distintos desafíos que implica el desarrollo de sistemas de IA, atendiendo a las particularidades de la región. Esta fase resultó en la publicación de estudios de distintos países de América Latina centrados, por ejemplo, en el análisis de las estrategias de inteligencia artificial y la gobernanza de datos; la perspectiva de derechos humanos de los marcos éticos de IA; potenciales sesgos en el desarrollo de IA; y cuestiones de justicia social, entre otros temas preliminares.
Dado que la IA atraviesa de distintas maneras el despliegue de infraestructura digital a distintos ámbitos y sectores, integrando no sólo dispositivos informáticos sino objetos, no es de extrañar que los instrumentos para su gobernanza sean variados, e incluyen iniciativas, legislación, normativa, principios, recomendaciones, buenas prácticas, casos de uso, entre otros. La pertinencia de cada instrumento estará vinculada con la capacidad para resolver el problema en cuestión. Este salto en la gobernanza de la IA implica conceder que los principios éticos no son suficientes, pero que al mismo tiempo no hay una normativa aún capaz de contener los distintos escenarios e impacto de esta tecnología.
Edición 2021
En los últimos años, si bien los principios éticos y los derechos humanos han guiado las recomendaciones sobre IA en el mundo y la región, aún no contamos con datos que den cuenta de su entendimiento efectivo e implementación por parte de los distintos actores involucrados en el desarrollo y uso de esta tecnología. Asimismo, tampoco es claro cómo reguladores, policymakers y empresas que desarrollan IA en la región incorporan –o consideran incorporar– la perspectiva ética y de derechos humanos de la IA, fundamental para lograr políticas inclusivas. En este contexto, y en esta segunda etapa de GuIA, el proyecto busca comprender si se ha logrado consolidar un vínculo efectivo entre los principios éticos y los derechos humanos en el diseño y uso de tecnología basada en IA en la región, las formas que éste adopta y los obstáculos que estarían impidiendo esta adopción. Para lograrlo, es necesario comprender cómo los principios, normas y políticas en torno a la IA son interpretadas y apropiadas por los distintos actores y ciudadanos/as en la región, examinar su aplicabilidad y las distancias existentes entre los principios y su concreción en soluciones tecnológicas, así como las barreras que podrían surgir de la regulación.
La convocatoria llama a artículos que aborden estas temáticas. El análisis puede estar enfocado en el sector privado –incluyendo emprendedores y/o asociaciones público-privadas–, organizaciones de sociedad civil, universidades, sector público, entre otros sectores. Aunque no es excluyente , los trabajos podrán abordar algunos de los siguientes temas:
- (Incipientes) prácticas del sector privado / sociedad civil para el desarrollo de IA basada en principios éticos;
- Barreras –prácticas y/o regulatorias– y desafíos para la implementación de principios éticos en el desarrollo de IA;
- Tendencias regulatorias / gubernamentales en materia de implementación de principios éticos y derechos humanos en iniciativas basadas en el uso de IA;
- Documentación / identificación de iniciativas de interés público basadas en el diseño ético de IA (por ejemplo, en el sector de educación, salud, mercados laborales, entre otros);
- Caracterización de los actores que comprenden un ecosistema (nacional, sub-regional, regional) de IA;
- Análisis y propuestas de coordinación/integración de los distintos instrumentos de gobernanza de la IA en países de América Latina;
- Identificación de iniciativas exitosas de implementación de principios en el contexto internacional y recomendaciones a nivel regional.
Para más información sobre guIA visita proyectoguia.lat
