Doctora en Comunicación por la Universidad de Paris y consultora de la UNESCO en temas de educación y tecnologías, Roxana Morduchowicz es reconocida por su sostenido trabajo en relación a la educación, los adolescentes y las pantallas. Asesora en diversos países que van de Latinoamérica hasta Afríca, Asia y Europa Oriental, acaba de lanzar su libro “La inteligencia artificial: ¿necesitamos una nueva educación?’ en donde la niña mimada de la tecnología es vista de reojo y constituye un desafío para la enseñanza, pero también para quienes quieran comprender sus efectos. Aquí la visión de la experta.
Al leer tu trabajo imaginé una suerte de manual contenedor o un recurso necesario a prueba de emergencias ¿Lo mío es exagerado o va en ese sentido?
– Algo así. El libro busca explicarles a los padres y a los docentes qué significa la inteligencia artificial, cómo afecta nuestra vida diaria, nuestras decisiones cotidianas y sobre todo qué le cambia a la escuela y qué desafíos genera para la educación. Y además, como incluye actividades prácticas, es una especie de manual que ayuda a ver cómo llevar todo esto de manera clara a la clase o a las familias.
¿Cuál fue el propósito inicial del libro y qué cambió en vos durante ese recorrido?
-El propósito del libro fue justamente ese: ayudar a los docentes y a los padres a entender la inteligencia artificial y a poder explicar mejor a los chicos lo que provoca, afecta y genera en nuestra vida diaria.
En el texto también ponés el foco sobre el accionar de los algoritmos. ¿tenés algunas recomendaciones básicas para acotarlos o enmarcarlos?
-El tema de los algoritmos es fundamental, porque son los que estudian, analizan y procesan todo lo que hacemos en Internet. Alcanza con estar conectados para que los algoritmos recojan informaciones sobre qué nos gusta, quiénes somos, qué queremos ser, hacer y tener. La usan para influir y predecir la conducta de las personas. Y toman decisiones a partir de los comportamientos de cada uno cuando estamos on line. La recomendación es siempre prestar atención y limitar la información personal que compartimos en Internet. Sobre todo porque no hay nada 100 por ciento privado en Internet. Y porque lo que subimos a Internet es difícil de borrar. Tenemos que saber que siempre hay otros usan nuestros datos en la web.
En él hablás de sesgos de la IA, de su incidencia en lo cotidiano, en lo inmediato ¿cuáles son tus principales preocupaciones?
-La inteligencia artificial ofrece muchas oportunidades y beneficios. Por ejemplo, cuando un GPS nos explica cómo llegar a un lugar que no conocemos. O una plataforma de música nos recomienda una canción o un artista que nunca escuchamos. O cuando llamamos por teléfono y una máquina nos resuelve una duda. Pero, como decís vos, también genera preocupaciones. Los resultados de un sistema de inteligencia artificial pueden generar discriminación, cuando por ejemplo publican ofertas laborales y el sistema o algoritmo excluye a una determinada población (mujeres, sectores populares, etc.). También pueden tomar decisiones arbitrarias, o usar información personal sin autorización nuestra para mandarnos publicidades o difundir contenidos falsos sin advertirnos que es un contenido de dudosa credibilidad. Estas son las preocupaciones que genera hoy la inteligencia artificial.
Decís que necesitamos una IA más justa e igualitaria ¿no creés que precisamente la misma está fundada en su capacidad de diferenciación y segregación?
-En ese caso, habrá que modificar los modelos que utilizan y la construcción de los algoritmos. Necesitamos una inteligencia artificial que no reproduzca ni perpetúe desigualdades; que no discrimine; que no refleje sesgos y que no difunda contenidos falsos. Habrá que pensar en su diseño y también monitorearla para que nada de esto suceda.
Planteás que “El desafío no es prohibir la IA, sino ser mejores que ella” ¿cómo se logra en un contexto donde su aplicación se asume pasivamente o de modo incuestionable?
-Lo primero que es necesario es dejar de idealizarla. No naturalizar su uso, ni pensar solo en los beneficios que ofrece. Hay que tomarla como objeto de estudio, pensarla, incorporar este análisis y debate en la escuela y formar a los alumnos y docentes como ciudadanos digitales.
¿Cómo desarrollar una alfabetización digital en un ámbito también dominado por docentes de formación analógica?
-Como decía, el gran desafío hoy para el Estado nacional, provincial o municipal, es formar a los docentes en Ciudadanía Digital para que sean capaces de identificar, comprender y responder a los grandes dilemas que genera hoy el uso de Internet. Las tecnologías ofrecen un potencial enorme, pero también riesgos. Necesitamos que los docentes puedan aprovechar todo el potencial haciendo uso de ese potencial y comprendiendo los riesgos. Ello requiere una formación docente que sea política pública.
No creés que la preocupación por incorporar rápidamente el conocimiento de la IA lleva al usuario a la lógica de “no perderse nada” por temor a ser “excluido”?
-Creo, como bien decis, que muchos usuarios sienten que tienen que usar la inteligencia artificial para “no quedar afuera” ni sentirse excluido. El problema es que en ese querer hacer un uso de la IA como instrumento, sin analizarla ni pensarla, corren riesgos de exponerse y recibir resultados no deseados ni buscados. Siempre se dice que un martillo puede ser una herramienta fundamental, solo si sabemos cómo usarla. Porque si no, puede golpear o herir. La IA es una herramienta con enorme potencial, pero hay que saber cómo funciona y cómo utilizarla. La idealización no ayuda.
Pensás que la tarea de los usuarios, de los docentes y también de las organizaciones gubernamentales, ¿pueden ser capaces de acotar a las normas impartidas desde las plataformas?
-Creo que una alfabetización digital, una ciudadanía digital nos permite entender cómo funcionan las tecnologías, los algoritmos y la inteligencia artificial. Es necesario pedir una mayor transparencia y ética en el diseño de la IA por parte de las empresas. Eso puede hacerlo el Estado y también los ciudadanos. La educación aquí tiene un rol fundamental para formar a docentes y estudiantes en estos desafíos.
¿Qué imaginario educativo ideal proyectas para sacarle provecho a la IA y no quedar sujeto a ella?
-La educación tiene ante sí enormes desafíos que no son nuevos pero que ahora se necesitan con mayor urgencia. En primer lugar, necesita volver al objetivo fundamental de enseñar a pensar críticamente. Promover el pensamiento crítico es una competencia que ninguna IA puede llevar a cabo. Necesitamos además una escuela que enseñe a preguntar, a formular preguntas precisas, a saber re preguntar porque estas capacidades permitirán analizar los resultados y el funcionamiento de la IA. La educación necesita enseñar a ser siempre mejores que las máquinas y sistema de IA. Siempre a evaluar sus resultados antes que tomarlos automáticamente.
Quienes quieran acceder al libro de la autora editado por la Unesco pueden hacerlo a través del siguiente enlace: https://unesdoc.unesco.org/
Colaborá con la sostenibilidad de El Ágora:
