DESAFÍOS ÉTICOS EN TORNO A LA INTELIGENCIA ARTIFICIAL

Nos visitó en C5N la investigadora Karina Pedace, coordinadora en el grupo GIFT UNLAM, para discutir los avances de la IA en la vida actual de las personas.

¿Qué se está debatiendo en torno a la inteligencia artificial?

Es un tema hiper candente, de carácter omnipresente, ubicuo, que tienen nuestras vidas sobre la inteligencia artificial: desde que nos levantamos y tomamos nuestros smartphones (en caso de tener el privilegio acceder a ellos), luego podemos hablar de la brecha digital, por citar algunos ejemplos. Hay una teórica norteamericana, Kate Crafford, que nos dice de un modo que nos viene interpelar que la Inteligencia artificial tal vez no deba pensarse ni como tan artificial ni como tan inteligente.

¿Esto qué implica?

No tan artificial en el sentido de que efectivamente los sistemas de inteligencia artificial son sistemas capaces de replicar tareas de dominio específico, tareas inteligentes como el reconocimiento, por ejemplo, determinados objetos. Ocurren efectivamente sobre un formato corpóreo, físico, que hace uso de recursos naturales, con el impacto que esto tienen términos de costo planetario por la matriz extractivista que esto supone: la logística, la mano de obra, entre otras cuestiones. Y, por otro lado, ni tan inteligente tampoco, en virtud de que no son sistemas capaces de discernir por sí mismos sino que funciona en virtud del procesamiento y el entrenamiento, fundamentalmente intensivo, en base a una cantidad ingente de datos que nosotros en tanto humanos les vamos parametrizando.

¿Cómo entra el tema de la ética?

Parte del interés también es que comprendamos que cuando hablamos de Inteligencia artificial, hay una dimensión que es estrictamente técnica, pero en virtud de que se trata de una tecnología que es generada desde nuestra sociedad y hay una imbricación mutua entre sociedad y tecnología. Nosotros como sociedad generamos este tipo de tecnologías y estas tecnologías a su vez nos vienen moldeando y moldean nuestras subjetividades. Tenemos que comprender que hay estructuras culturales, sociales y políticas subyacentes a este tipo de desarrollos.

¿Y qué se puede hacer con este desafío?

Parte de lo que nos interesa poner en jaque es efectivamente, por ejemplo, a quién puede resultar funcional la metáfora de la nube. Ver esto de la dimensión artificial de la Inteligencia artificial sin reparar del modo reflexivo en el que creo debemos hacer a propósito de este costo planetario, por ejemplo. ¿Al servicio de quiénes se pone precisamente este tipo de sistemas con inteligencia artificial?

¿Qué estudian en la UNLAM por ejemplo en relación a este tema?

Tanto el proyecto que tengo el honor de dirigir en la Universidad Nacional de La Matanza como varios de los proyectos que venimos trabajando en el interior del grupo GIFT (Grupo de Investigaciones Filosofía Inteligencia artificial y tecnología) tenemos precisamente como uno de esos ejes que nos interpelan los sesgos. Lo que se hace es traducir el vocablo inglés y muchas veces se lo traduce casi automáticamente a la manera de prejuicios, pero podríamos en principio tomar esa noción y los algoritmos se alimentan efectivamente de datos que nosotros generamos como sociedad, en tanto somos individuos-personas que estamos atravesadas y atravesados por valores. Muchos de esos valores efectivamente lo que hacen es dar cuenta de desigualdades preexistentes. En el año 2018 se trató de implementar desde el Gobierno de Salta conjuntamente con Microsoft un sistema de Inteligencia artificial que tenía como objetivo declarado la predicción de embarazo adolescente. Lo que nos interesa es deconstruir la cantidad de funciones subyacentes casi como si esos embarazos fueran una suerte de catástrofe natural inexorable.

¿Qué te parece toda esta situación donde la población está con mucho interés sobre los chats que empiezan a salir sobre esta facilidad que hay para estudiar de repente con la Inteligencia artificial?

El otro día leía una nota en el New York donde hablaba de un periodista que tuvo como un cruce con el chat que está de moda, el GPT, en donde empezaba a hacerle preguntas y el chat termina confesándole que termina enamorándose de él.

¿Qué nos está diciendo todo esto?

Es maravilloso que se pueda dar el debate, que no sea en términos reduccionistas en que quede confinado solo a la palabra de y tecnócratas sino que se abra precisamente en este sentido polifónico. Si vamos a confiar nada más que en la buena voluntad y la autorregulación por parte de las corporaciones estaremos en serios inconvenientes.