Foto de Xavier Torres-Bacchetta
15 de junio 2020
El desarrollo y uso de la inteligencia artificial (IA)* nos atañe ya a todos de una forma u otra por la transversalidad de sus aplicaciones pero, además, el debate sobre su utilización e idoneidad seguirá siendo central dada la porosidad de sus cimientos éticos. Un ejemplo de ello sería la reciente polémica entorno a las herramientas de reconocimiento facial que aplican algunos estados e instituciones, de cuya carrera se han apeado, de momento, empresas como IBM por cuestionar el sesgo racial de su propia tecnología. Por otra parte, Audrey Azoulay, directora general de la Unesco, declaraba hace unos días en un medio español que la cultura es una de las grandes perjudicas por esta pandemia. Por ello afirmaba: «Esta crisis consagrará el papel central de lo digital y de la inteligencia artificial en la economía; para la cultura, las cosas no serán distintas”. Al leerlo pensé que necesitaba hablar con una persona experta que me diera luz sobre este campo y encontré a una de las mejores. Esther Paniagua es una periodista que nos está ayudando desde medios como Retina de El Pais, Xataca, Innovadores, Muy Interesante, National Greograpich, Cancer World y otras publicaciones temáticas, a entender mejor en qué consiste la IA y de qué forma afecta a nuestras vidas. El suyo es un periodismo que quiere explicar realidades complejas y trascendentes, comprometido con la información clara y contrastada, un periodismo constructivo y de soluciones, que es aquel que no solo aporta detalles sobre los problemas que existen sino el que apunta también posibles salidas. Escribe sobre tecnología, innovación, economía digital, salud, ciencia e investigación y su labor ha sido reconocida con el Premio de Periodismo Accenture (2019) en la categoría «Inteligencia Artificial». La revista Forbes la incluyó en su lista ‘100 most creative people in business 2019’ y fue elegida una de las Top 100 Mujeres Líderes de España. En 2018 ganó el Premio de Periodismo ‘Fundación Instituto Roche’ y los Premios de Periodismo ‘Foro Transfiere’ y ESET como finalista en sus respectivas ediciones. En 2017 fue nombrada ‘Spanish Science Writer of the Year’ (2017) y fue finalista del ‘European Science Writer of the Year’, nominada por la ABSW. Es además docente en materias relacionadas con el periodismo, la comunicación y la innovación.
¿Por qué es importante el periodismo divulgativo sobre la inteligencia artificial? La inteligencia artificial está en todas partes, pero no todos los periodistas conocen en qué consiste este tipo de tecnología ni que tipo de mirada crítica o riesgos pueden surgir al tratar estos temas (desde informar mal a hacer publicidad). Hay muchas aplicaciones y herramientas que se presentan como algo revolucionario, que va a cambiar el mundo, y ni se piensa en las consecuencias, o en que ofrecen promesas hechas para vender y seguir sacando dinero, sin democratizar los beneficios que puedan traer. Además, la tecnología esta presente en todas partes y necesitamos saber sus efectos, que pueden ser positivos pero también negativos. Por eso necesitamos ciudadanos informados, con capacidad de tener una mirada crítica sobre el sentido de las cosas o a quien benefician.
¿Cómo diferenciamos avances tecnológicos de avances en IA? No veo relevancia en separar una cosa de la otra. Lo importante es cuestionarse por qué es un avance, a quién puede ayudar, cómo puede llegar a quien más lo necesita, qué riesgos acarrea, como por ejemplo en la privacidad, o en el aumento de la desigualdad. Existen muchas posibilidades de error de estas tecnologías, incluso riesgos mayores que van más allá de que algo esté mal construido. Un software de mala calidad, un algoritmo erróneo, puede tener un impacto importante. Da igual si es IA o tecnología, lo que hay que tener en cuenta es el impacto, si puede tener consecuencias positivas o negativas, o si es algo que no vale la pena seguir investigando.
¿Cuáles suelen ser las fuentes más codiciadas para una periodista como tú? Las más necesarias son las básicas: personas de confianza como son expertos, por ejemplo, en temas de impacto social: filosófos, sociólogos, expertos en privacidad, gente en quien puedes confiar porque van a analizar con una mirada crítica aquello sobre lo que se está investigando. Yo, como periodista, tengo que tener fuentes de confianza a las que consultar y que aporten esa mirada critica. Si hablamos de fuentes mas codiciadas serían los grandes pensadores, referentes en el campo de la investigación, premios Nobel y los líderes de las empresas tecnológicas, porque son muy inaccesibles y a la vez existe una necesidad de fiscalizarles y hacerles preguntas incómodas. En ese sentido son codiciados, porque no se dejan. El grado de acceso es muy limitado, y más en España. A veces coincides en eventos pero siempre se las apañan para escabullirse, tienes que pasar por los departamentos de prensa, que en estos casos a menudo hacen más de barrera que de facilitador, y cuando se trata de medios españoles más, porque miran el impacto y para ellos no siempre está justificado someterse a preguntas incómodas
¿Cómo valoras si aquello en lo que se está investigando va a ser importante y merece ser tratado periodísticamente? Es muy difícil. Si llega por ejemplo una información sobre cáncer y veo que está en un estadio de investigación con ratones (hay muchas y la mayoría de ellas no llegan a nada), no le suelo prestar atención, salvo que estén más avanzadas y vayan a entrar en pruebas con humanos. Te hablo de cáncer porque hay mucha investigación; pero si es una enfermedad rara puede que sí sea importante ese estadio inicial porque no hay tanta investigación. En todo caso yo no tengo la capacidad de juzgar a priori qué va a ser importante, por eso cuando algo tiene potencial consulto a mis fuentes y valoro la importancia con respecto a lo que ellos me han dicho. Criterios periodísticos en tecnología son: qué tiene de nuevo y qué tipo de avance es. También juega mucho el conocimiento de cada uno. Llevo muchos años en el ámbito de tecnología y salud, me resulta más fácil filtrar, porque hay cosas que se presentan como nuevas pero yo ya las he visto antes y se que no tienen relevancia; o ya se ha contado y no tiene sentido contarlo de nuevo. También hay que valorar el impacto en las personas y los potenciales riesgos, no solo hay que contar cosas en positivo. Si veo que algo puede tener impacto negativo y no se está contando, eso tiene un valor noticiable.
¿Existe algún tema por el que tengas predilección? Si, el ámbito de la salud. Al principio de mi carrera me especialicé en tecnología y ciencia, y más en salud porque es la parte que más afecta a las personas. Son muy interesantes las aplicaciones de IA para el descubrimiento de posibles moléculas que vayan a ser usadas en fármacos, se hace más rápido que el descubrimiento humano porque lo que se llama el aprendizaje automático, que es una de las tecnologías de la IA, puede hacer ese proceso de cribado mucho más rápido. También se está aplicando a diagnóstico, como una app con la que te haces una foto de un lunar para ver si puede ser potencial cáncer de piel. Pero hay que ver también qué problemas plantean o posibles fallos (como por ejemplo falsos positivos o falsos negativos), porque estos sistemas los hacen con bases de datos de muchas personas y si en ellas no hay una proporción adecuada de personas con piel de color más oscura ya no servirán para un tipo de gente. Por otra parte, estas apps son un complemento, no cubren el proceso de principio a fin. Es decir, puedes usarla y obtener una valoración inicial más o menos acertada pero luego tendrás que ir al médico a corroborar el diagnóstico y ver próximos pasos en caso de ser positivo. Pueden servir de filtro, pero no son aceptables si no son precisas para todo tipo de personas, lo cual sería discriminatorio
Si ponemos en una balanza ¿la IA puede estar más del lado del control o del lado de la emancipación en la sociedad?¿Cual es tu opinión de experta? Hasta hora lo que más vende es el lado de la emancipación pero lo que más se practica es el lado del control. La IA estará donde queramos que esté, pero el problema es que estos avances vienen de empresas privadas, aunque previamente de centros de investigación pagados con fondos públicos de los que estas empresas se benefician para luego no repartir los beneficios a la sociedad. Por otra parte, cuando empiezan a desarrollar estos algoritmos a nivel comercial siempre llegan las promesas falsas de que poco menos que van a acabar con el hambre en el mundo (el potencial esta ahí). Venden esto y luego lo aplican para otras cosas en su propio beneficio. Así que, históricamente, vemos promesas incumplidas de la tecnología, y aunque es verdad que sirven para avanzar (estamos mejor que el siglo pasado) si no hacemos presión, si no hacemos el esfuerzo de estar informados, si no exigimos que se repartan los beneficios, o que se acceda democráticamente al uso de estas tecnologías para que todos se beneficien y sean de verdad promesas cumplidas, si no exigimos que se haga bien, pidiendo confidencialidad con nuestros datos o accediendo libremente pero de manera informada a nuestros datos, por ejemplo para investigación médica, si no se dan estos requisitos seguiremos potenciando la vigilancia per se. Cada vez hay más conciencia y las empresas hablan de buenos propósitos, pero si nos fijamos en los gigantes tecnológicos que acumulan poder, vemos que no está sirviendo para emancipar a la sociedad sino para esclavizarnos a cierta tecnología sin la cual no podemos vivir.¿Qué pasaría si nos quitaran internet? Nos estamos beneficiando de ellas, pero a la vez están creando más desigualdad.
He leído “el trabajo que se viene realizando en creatividad computacional se basa en la premisa de que no se ha entendido lo suficiente una capacidad humana hasta que se consigue construir algo que la emule”. ¿Podrías explicarme que es la creatividad computacional y ponerme ejemplos de esta idea? Una de las cosas más apasionantes de la IA es que nos está llevando a conocernos a nosotros mismos, porque si queremos que la IA nos ayude en tareas humanas tenemos que saber cómo hacemos las cosas los humanos. Uno de estos aspectos es la creatividad, tratar de entender cómo funciona para crear sistemas artificiales que generen un producto creativo (una pintura , una canción,…). Para cualquier tecnólogo la creatividad computacional sería tener la creatividad de un humano, pero lo que esta hace es imitar a un humano, simula la creatividad pero no entiende lo que está haciendo. En IA los sistemas aprenden e imitan, aprenden de pinturas, novelas, canciones,… hechas por humanos, lo que más gusta a la gente, lo más clicado para, a partir de ahí, generar productos culturales con esas características. Pero no entiende lo que está haciendo, solo reconoce unas patrones y los imita, genera cosas de manera aleatoria pero no tiene imaginación ni se da el concepto de inspiración. Lo que sí puede hacer es facilitar el proceso de crear o inventar. Como suele pasar, en este debate hay opiniones enfrentadas, la que acabo de exponer y la de quienes sostienen que esta capacidad de complementar la capacidad humana y de generar producciones a partir de patrones también puede llamarse creatividad. Si entiendes la creatividad como algo que es nuevo, con un valor cuya definición es subjetiva, que depende del receptor, al que le puede gustar, independientemente de que lo haya creado un humano o una máquina, puedes decir que una máquina es creativa. Yo me quedo con la reflexión de Luis Beltrán, catedrático de Lingüística General e Hispánica de la Universidad de Zaragoza, de que las máquinas no pueden crear un arte que no sea arte muerto, que no sea una imitación. Para él el arte es una creación simbólica dirigida a las generaciones futuras, una manera de comunicarnos entre generaciones, y la IA no crea símbolos, los imita; puede producir creaciones nuevas pero no originales.
¿Es el metaverso una parte del desarrollo de la IA? ¿Son las exposiciones en realidad aumentada, ahora muy en boga, metaverso o IA? El metaverso es un mundo virtual ficticio. Estableciendo conceptos para aclarar algo abstracto, el ejemplo más claro es un videojuego, un entorno donde los humanos interactúan con avatares, en el cual tú te personificas a través de un soporte en un ciberespacio que es una metáfora del mundo real en cualquier tipo de escenario. Para mí internet ya es una forma básica de metaverso porque estamos interactuando en diferentes esferas con otras personas, aunque no es en formato tridimensional sino a través de una pantalla. El metaverso complementado con la realidad virtual y la realidad aumentada es una especie de evolución natural de cómo nos relacionamos con la computación, de cómo nos conectamos entre nosotros de manera virtual y con el mundo que nos rodea. En la parte en que puede ayudar la IA es en perfeccionar estos sistemas para que sean más naturales y que en la interacción nos sintamos más próximos a la realidad, para hacer los avatares más reales, con mejores imágenes, menos pixelada. Una forma realista de representar ese mundo 3D.
La IA se está aplicando a campos creativos como la escritura, -también de guiones para series-, los musicales, las artes visuales, la danza o la música. ¿Estará más presente en la creación en el futuro pese a la precariedad consustancial a la cultura y el escaso presupuesto disponible para innovación tecnológica en las industrial culturales? En cuanto a aplicaciones de tecnología cada vez están mas democratizadas, no hay -por lo general- grandes barreras de entrada. Sí la hay a las más avanzadas, que pertenecen a las grandes empresas de turno, cuyo objetivo prioritario es maximizar sus beneficios y por tanto licencian sus tecnologías con costes asociados que pueden ser elevados. Dicho esto, ahí fuera ahora mismo hay mucha gente desarrollando tecnologías que se pueden usar sin necesidad de gastar mucho. Con la Covid-19 estamos viendo cómo estas industrias culturales han tenido que adaptarse, de forma precaria, con cosas muy básicas como conciertos en vídeo. A partir de ahora probablemente las cosas tienen que cambiar y estas tecnologías pueden ser aliadas y creo que se empezarán a aplicar más.
En el ámbito de la creación los artistas autónomos, músicos, escritores, pintores … son profesionales precarios generalmente y si estas herramientas se democratizasen podrían suponer un complemento para su actividad; en la producción musical o audiovisual ayudan a reducir costes a gente que no tiene acceso a las herramientas de las grandes empresas; pero las más avanzadas seguirán perteneciendo a las grandes porque invierten mucho dinero. Si se invierte menos en cultura de calidad y hay máquinas que están creando cosas que reproducen los patrones de las creaciones artísticas, igual hay empresas que por ser más baratos se dedican a vender productos creados por máquinas, lo que supone un riesgo que llevaría a precarizar aún más a los artistas.
También está el ejemplo del ámbito periodístico, que es parte de la cultura. Ya existen herramientas que ayudan en el trabajo más rutinario como la transcripción o la traducción, que hacen más eficiente el trabajo. Pero también se pueden sustituir periodistas por máquinas. Microsoft ha despedido recientemente a periodistas centrados en la curación de contenidos porque hay algoritmos que se dedican a esto desde hace tiempo. El tema está en la creación de contenido, porque si es para una información financiera, no hace falta un periodista que te diga como está la bolsa hoy, pero sí hace falta para escribir un reportaje, hacer una investigación, análisis. Si no está se corre el riesgo de que las noticias sean solo datos, el riesgo de una sociedad idiotizada, sin capacidad de juzgar.
La compañía de danza Instituto Stocos, dirigida por Muriel Palacio y Pablo Romero, trabaja con IA y tecnología desde sus inicios
- La definición de IA que ofrece la CE: Se refiere a los sistemas que muestran un comportamiento inteligente mediante el análisis de su entorno y la toma de decisiones con cierto grado de autonomía para lograr objetivos específicos.