La IA va a la guerra

Demis Hassabis es una de las mentes más brillantes del panorama científico mundial. Premio Nobel de Química en 2024 por coliderar el desarrollo de uno de los logros más increíbles de la inteligencia artificial, la predicción de la forma de las proteínas. 

Fue cofundador y es CEO de la empresa Google DeepMind, que compró Alphabet, matriz también de Google, en 2014. No facturaba ni una sola libra entonces -DeepMInd, igual que Hassabis, son de origen británico-. Pero no era por su valor entonces por lo que Alphabet se interesó por ella y pagó más de 500 millones de libras-la cantidad precisa no se hizo pública-. Lo acertado de la compra se ha evidenciado con el tiempo, en la medida en que Google DeepMind es una de las empresas más vanguardistas en investigación en IA, si no la que más. 

Otra de las compañías que son referencia en este ámbito es OpenAI, que ha desarrollado y comercializa ChatGPT. Fue creada en 2015, cumple por tanto una década de vida ahora, y su valor de mercado se estima en 300.000 millones de dólares, nada menos. Siempre es difícil saber el valor real de una compañía, sobre todo si no cotiza en las bolsas. En este caso esta valoración se estableció tras una reciente ronda de financiación de la compañía por importe de 40.000 millones de dólares, que fue liderada por SoftBank -que a pesar de su nombre no es un banco, sino un conglomerado de empresas, cuya actividad se centra en la gestión de inversiones en sectores tecnológicos-. 

Hassabis es una persona cuya opinión hay que tener muy en cuenta, pero hoy precisamente quiero hablar de algunas cosas en las que creo que se equivoca. Espero que no consideren esto como una arrogancia mía fuera de lugar. Trataré de argumentarlo. 

Cuando DeepMind fue comprada por Alphabet, el propio Hassabis impuso una cláusula que prohibía el uso de la tecnología de la empresa para usos militares. Cuando yo era rector de la Universidad de Santiago de Compostela insté a que en sus Estatutos se pusiese una cláusula semejante, que todavía continúa dentro de su articulado: "La Universidad de Santiago de Compostela no colaborará en el desarrollo de proyectos con fines armamentísticos o bélicos". Sin embargo, en el caso de Google DeepMind este compromiso ha desaparecido. Es lo que demandan los tiempos, parece ser. En palabras de Hassabis, el mundo se ha convertido en la última década en un lugar mucho más peligroso y ya no podemos dar por sentado que los valores democráticos van a prevalecer. Supongo que su idea es que, llegado el caso, la IA pudiese defenderlos con armas autónomas. 

Otro de las opiniones más que discutibles de Hassabis, es que una forma de prevenir los riesgos de la IA, en particular de los modelos de computación neuronal diseñados mediante aprendizaje automático, es no hacer públicos los detalles de estos modelos. En particular, no compartir los valores de sus parámetros, conocidos como pesos, que se ajustan durante el entrenamiento de los complejos modelos de computación neuronal. En los modelos más grandes pueden superar el billón de parámetros. Considera Hassabis que así se evita que en caso de que un modelo pueda suponer algún peligro tras su lanzamiento -algo que reconoce que puede ocurrir-, evitaríamos que pueda ser usado con oscuros fines por terceros. Pues les diré que esto es como si para evitar un mal uso de la energía atómica, pongamos como caso hipotético que algún cartel, mafia o dictador fabrique una bomba atómica, decidiésemos simplemente no vender uranio enriquecido en las grandes superficies. 

Otro día les hablaré de la IA General, otro punto en el que discrepo con Hassabis, aunque reconozco que en particular sobre este tema él puede tener una información privilegiada de la que yo carezco.