Los sistemas automatizados basados en tecnologías de inteligencia artificial están cada vez más presentes en nuestra vida diaria, desde los que influyen en la información que vemos en redes sociales hasta los que toman decisiones sobre quiénes pueden acceder a ciertos bienes y servicios, a puestos de trabajo, a la salud pública o a la justicia. Casi sin darnos cuenta, gran parte de nuestra vida cotidiana se ve mediada por estas tecnologías, afectando lo que vemos, hacemos, consumimos e incluso lo que pensamos.

Las tecnologías pueden, entonces, jugar un rol clave para habilitar derechos, potenciar las capacidades humanas fundamentales y abrir oportunidades para todas las personas. Sin embargo, también pueden lo contrario; servir para controlar, censurar, manipular y reprimir aspectos fundamentales de la vida humana, derechos de personas y la posibilidad misma de vivir en condiciones de igualdad, tal como sucede en casos donde son utilizados para espiar o vigilar activistas, personas defensoras de derechos humanos o periodistas, cuando se instrumentalizan para censurar expresiones legítimas en redes sociales y en otros espacios, o cuando son desarrollados de manera que afectan la posibilidad de comunidades enteras para acceder a bienes o servicios básicos, por razones de género, raza, capacitismo, edad o clase social.

Esto implica que las tecnologías de IA no son ni neutrales, ni objetivas, ni tienen un carácter etéreo que les da un poder metafísico que les da un tinte todopoderoso (como muchas veces son planteadas), sino que se trata de una industria concreta que sigue intereses económicos y un modelo particular de negocios que hace que su diseño, uso, desarrollo e implementación se dirija muchas veces en dirección contraria a intereses humanos básicos como la dignidad de la vida, la subsistencia ecológica, la libertad y la igualdad, y otros que son desplazados por un modelo extractivo descontrolado.

Entender de manera crítica la forma en que la IA se despliega en nuestro mundo, las maneras en que lo afecta y las narrativas con las que se legitima es entonces de vital importancia para las personas defensoras de derechos humanos, la academia, la sociedad civil y para cualquier otra persona interesada en los intereses humanos antes mencionados, no sólo para tener un mejor entendimiento de los riesgos a los que se enfrentan, sino también para poder hacer un uso de las propias tecnologías de manera segura y para poder enfocar su activismo para resistir, oponerse y revertir la implementación y avance de las mismas en distintos contextos (como el de la migración, la protesta social, el activismo político, la defensa de los territorios, los conflictos armados, entre otros).

¿De qué trata el curso?

El curso explora la relación entre el desarrollo de la inteligencia artificial y el compromiso ético de la justicia social. Se propone explicar de manera crítica los distintos sistemas basados en tecnologías de IA, comprendiendo sus distintas dimensiones (material, tecnológica, discursiva, económica y política) y particularidades, para generar primero un lenguaje común entre las y los participantes del curso. En este primer momento se explorará cómo funciona su estructura técnica y los distintos discursos que generan una “mitología tecnoptimista” sobre la misma, para empezar a explorar las formas en que afecta de manera directa la vida de personas, comunidades y el planeta mismo.

En segundo lugar, el curso desentraña el vínculo entre tecnología y justicia social (entendida en sentido amplio para revisar tanto su carácter distributivo como cultural/simbólico). En este bloque exploraremos distintas formas en que los sistemas de IA afectan a la democracia, los derechos, el sistema de conocimiento, el medio ambiente y la propia cognición humana. Para ello se explorarán problemáticas concretas como los sesgos y la discriminación, la desinformación y la manipulación de creencias, y la sustitución epistémica y la deferencia a la tecnología en tareas humanas relevantes.

Finalmente, se destinará un espacio de herramientas prácticas para la seguridad y el resguardo digitales, no limitadas a las relacionadas con la inteligencia artificial, con un foco especial en las relevantes para habitar el mundo digital de manera más segura, así como para ejercer la defensa de los derechos humanos y la resistencia a tecnologías extractivas que lesionan los derechos humanos y el planeta.

A la finalización del curso, el/la participante podrá:

• Comprender las diferencias entre las distintas tecnologías a las que el término “inteligencia artificial” suele referirse, así como sus dimensiones tecnológicas, materiales, económicas y políticas. 
• Entender los problemas concretos que la IA representa para los derechos de las personas, el medio ambiente, el acceso a bienes y servicios, el sistema de conocimiento y para ámbitos como la educación, la salud y el trabajo. 
• Dimensionar el ámbito digital de distintos derechos humanos, tales como la libertad de expresión, la privacidad, el acceso a la educación/salud/cultura, con relación al ejercicio de la democracia en contextos mediados por la tecnología. 
• Entender riesgos concretos de problemáticas relacionadas con las tecnologías frente a los derechos humanos, tales como la vigilancia y el espionaje estatal, la censura en Internet, la persecución ilegítima del anonimato, la proliferación de los discursos de odio en línea, entre otros. 
• Pensar en estrategias de resistencia y de usos seguros de las tecnologías para el ejercicio de derechos en contextos de protesta social, activismo social, periodismo, crítica política, entre otros. 
• Desarrollar estrategias en el ámbito digital para la defensa de los derechos humanos en general. 
• Lograr una comprensión básica de temas emergentes relevantes para la democracia y el ejercicio de los derechos humanos, tales como la relación de las tecnologías de IA con el acceso a bienes y servicios, el rol de sujetos privados y empresas de tecnología en el ejercicio de derechos y la democracia.