“No sabemos cómo las inteligencias artificiales más comunes toman decisiones”

Bertha Guijarro es profesora e investigadora de Informática en la Universidade da Coruña (UDC), y está especializada en inteligencia artificial (IA). Impartió hace unos días una charla divulgativa sobre esta tecnología en el Muncyt, al igual que sus compañeras de la Universidade Susana Ladra, Verónica Bolón y Adriana Dapena, dentro de una colaboración entre la facultad de Informática y el museo por el Día Internacional de la Mujer y la Niña en la Ciencia.

¿En qué se parece y diferencia la Inteligencia Artificial de la nuestra?

El objetivo es el mismo: construir sistemas que sean capaces de captar información procesarla, entenderla, deducir y tomar decisiones, aunque no todas estas funciones están avanzadas en la IA. La principal diferencia es que nosotros tenemos una inteligencia general. Con el cerebro somos capaces de resolver un montón de tareas y enfrentar algunas que nunca hemos hecho. La IA es mucho más específica, está entrenada para resolver un problema concreto. También hay cosas en pañales, como el razonamiento explícito.

¿A qué se refiere esto?

La inteligencia artificial que más se emplea ahora, en la que está basado ChatGPT, es un sistema matemático que llamamos de caja negra. Nosotros la entrenamos, y luego un montón de parámetros numéricos se combinan entre sí y toman una decisión, pero no sabemos por qué llega a esa conclusión. Nos fiamos, lo hemos evaluado, y sabemos que lo hace bien, pero no exactamente qué razonamiento sigue el sistema. Hay otras formas de hacer inteligencia artificial en la que este razonamiento sí que estaría explícito.

¿En qué nos ganan las IA?

Aunque no en todas las ocasiones, en muchas son más eficientes que nosotros: esto empieza a ser claro en el análisis de imágenes médicas. En tareas en las que no son más precisas, lo que nos dan muchas veces es más fiabilidad: no dependen de un estado de ánimo, de un nivel de experiencia... Y proporcionan rapidez. A veces son capaces de descubrir cosas que nosotros no. Un humano sería incapaz de analizar los millones de datos que generan las redes sociales y sacar conclusiones; una máquina sí.

Se está desarrollando una legislación europea para regular la IA.

Simplificándolo mucho, hay dos aspectos. Hay uno del que ya nos podemos ocupar la gente que hacemos inteligencia artificial, sin necesidad de legislación, y es el de los sesgos. Fue muy sonado el caso de la inteligencia artificial de Google para reconocer personas: había sido entrenado con pocas de raza negra y las confundió con un simio. Hay otras cuestiones que no son culpa de la IA, sino de cómo se usa, y para eso sí que necesita una legislación.

¿Por ejemplo?

Lo que leímos hace unos meses de niños que creaban fotos de sus compañeras desnudas. Eso se podía hacer antes, pero la IA lo hace más fácil, y es necesario legislar qué está permitido. La legislación europea no está finalizada, pero da la sensación de que va a haber una serie de aplicaciones que directamente no se pueden hacer, y otras en las que dependerá del uso que le demos.

Se plantean dilemas éticos, como el de la IA militar. ¿Cómo resolverlo?

Supongo que con comités éticos. Hago mucho paralelismo con el desarrollo de medicamentos, y creo que es una decisión que no corresponde solo a la gente que hacemos IA, sino de más ámbitos, de la ética, del Derecho... La Aesia [Agencia Española de Supervisión de la Inteligencia Artificial] que vamos a tener en A Coruña va a jugar el papel de tener personas de diferentes perfiles.

¿Cómo evalúa el papel que tendrá cuando finamente abra?

Se ha retrasado muchísimo y ya no estoy segura de que no haya cambiado su papel original. La veo necesaria para resolver estas cuestiones, y tendrá otros papeles, como la formación y la divulgación, que es muy importante. Si la IA te va a afectar en tu vida, es importante que sepas mínimamente cómo funciona.

¿A qué se refería con cambiar el papel original?

El verano anterior a este salió una licitación a nivel nacional en la que se hablaba de unos sellos de calidad, ligados a la Aesia. Se decía que las empresas iban a tener que someter sus desarrollos a ellos, serían unos filtros que dirían si esta aplicación no entraña ningún riesgo, o entraña uno alto o medio... Y no está claro que el papel de la Aesia vaya a ser dar este sello. Pero lo mismo que parece ahora que no, igual mañana...

¿Dentro de diez o veinte años la mayor parte de la gente utilizará la IA en su vida diaria?

No lo sé, pero creo que en ciertos trabajos será muy útil. ChatGPT ha sido una revolución alucinante, aunque tiene muchísimo que mejorar. Sistemas de este estilo pueden marcar un avance importante en la interacción con el usuario, por ejemplo con un sistema con el que las personas dependientes hablen de forma natural, no con un teclado.

Las charlas en las que ha participado fueron por el Día de la Mujer en la Ciencia.

Tenemos una falta de científicas y tecnólogas llamativa. Hay estudios que dicen que las niñas, hasta los ocho años, están igual de implicadas que los niños en las clases de ciencias y tecnología, pero luego empiezan a desinteresarse, por algún motivo. Creo que es muy importante, a la hora de elegir profesión, la falta de referentes, y no me refiero a los grandes referentes, como madame Curie, sino a los de la vida diaria. No ves a tu alrededor mujeres que hagan estas profesiones y lo pasas por alto.

Suscríbete para seguir leyendo