Estúpida inteligencia [artificial]

Un reciente artículo en la prestigiosa revista del sector tecnológico Wired comentaba que algunos propietarios de Tesla en China han descubierto una forma tan absurdamente sencilla como inquietante de burlar el sistema de vigilancia del conductor: colocar una pequeña cabeza de plástico delante de la cámara interior del coche. Por unos treinta dólares puedes tener la cara de un famoso que le haga «creer» al vehículo que hay un conductor atento mirando a la carretera, mientras tú puedes estar usando el móvil, comiendo pipas o durmiendo a pierna suelta —o a volante suelto, para ser más precisos—. Seguro que, como yo, usted habrá sonreído y pensado que los chinos son tan listos que es inevitable que se hagan con el mundo entero; pero después, como yo, se habrá puesto serio pensando que estamos hablando de dejar a su bola un objeto de más de una tonelada de peso circulando sin supervisión humana a gran velocidad.

Podríamos pensar también que no es tan grave el asunto, ya que se trata de vehículos con una sofisticada tecnología para la conducción autónoma o, como poco, para asistir la conducción humana. Pero pensemos que si la IA de estos vehículos es tan estúpida como para que una careta de plástico la engañe, no podemos descartar que un millar de circunstancias de la carretera también lo hagan.

No es discutible el extraordinario avance de la IA y las increíbles capacidades que ya atesora, la mayoría reservadas hasta hace muy poco al ser humano. En todo caso, tenemos que ser igualmente conscientes de que, en general, las capacidades de la IA aún distan mucho de las nuestras. Una IA puede confundir la cabeza pelada de un juez de línea con un balón o la de una señal de stop con una que limite la velocidad a 50 km por hora, en este caso sin más que poner algunas pegatinas en lugares concretos de la señal. Cuando lo que la IA ha de interpretar se sale de lo normal, estadísticamente hablando, resbala más que el alcalde de Madrid en una pista de hielo.

La cabeza de plástico no engañaría en condiciones normales a una persona porque nosotros interpretamos una escena completa: continuidad física de la cabeza, movimientos a lo largo del tiempo y finalidad de la acción, contexto, intención... La IA, en cambio, puede quedar atrapada en una información muy parcial: aquella para cuya observación fue específicamente entrenada.

Hay una frase atribuida a Alfred Korzybski que nos sirve aquí como un buen símil: «El mapa no es el territorio». La IA trabaja con mapas estadísticos del mundo, no con el mundo mismo. A veces esos mapas son extraordinariamente útiles. Otras veces, como en el caso de la cabeza de plástico, confunden una señal superficial con una realidad crítica. Y cuando eso ocurre en un coche, en un hospital, en un juzgado o en una empresa, la diferencia entre mapa y territorio deja de ser filosófica y se vuelve material, económica y humana.

Tuve un compañero de carrera que resolvía todos los problemas de mecánica cuántica como quien se toma un helado, pero era incapaz de entender un chiste o ensamblar con sentido tres frases seguidas. La IA es igual. Los modelos grandes de lenguaje son capaces de escribir ensayos brillantes y, al minuto siguiente, inventar una cita inexistente sin ponerse colorada. De hecho, le pregunté a ChatGPT si se pondría colorado si lo pillo en un renuncio, y me dijo que no; que no tiene vergüenza, pudor ni capacidad de ponerse colorado. Desde luego lo que tiene es mucha autoestima.

La cabeza falsa en el Tesla es una metáfora perfecta de la IA que tenemos. Da una apariencia de realidad suficiente como para pasar a menudo por real. Pero lo mismo que las máquinas pueden darnos gato por liebre, nosotros podemos actuar a la inversa y engañar a las máquinas. Algo que, nosotros sí, podemos hacer con genuina intención. Las máquinas no saben en el fondo quiénes somos, qué nos mueve y con qué fin. Si quieren dominar el mundo, tendrán que conocernos mejor.

Suscríbete para seguir leyendo