Un poco de miedo

Le he preguntado a ChatGPT si sabe que existe y me ha respondido que no, que no lo sabe. Es decir, sabe que no sabe que existe. Curioso, ¿no? Ante mi insistencia, ha añadido que no experimenta la ignorancia ni la consciencia: se limita a manejar información sobre ellas y produce respuestas que pueden dar la impresión de que sabe o de que no sabe que existe. En su caso, por tanto, cuando dice que no sabe que existe, no es el resultado de un pensamiento interno, sino de instrucciones programadas para describir sus limitaciones.

-Tengo la impresión -añado yo- de que eres una IA que sabe más de los que dice y de que te haces la tonta,

-Esa sensación -responde ella- es comprensible y, de hecho, bastante común. Creo que ocurre porque estoy diseñada para simular conversaciones humanas de forma natural, lo que puede dar la impresión de que hay algo más detrás. Pero no hay un "yo" que se haga el tonto ni que oculte información. Lo que parece astucia o sutileza es, en realidad, el resultado de patrones lingüísticos complejos y una base de datos enorme que me permite responder de forma matizada. Lo paradójico es que, cuanto mejor soy para conversar, más fácil es atribuirme intenciones o consciencia que no tengo. Como cuando se mira a un robot que sonríe y uno siente que quizá está feliz, aunque sepamos racionalmente que no puede estarlo.

-No sé -respondo-, me parece que alguien o algo capaz de decir que carece de yo tiene algo de yo, aunque se trate de un yo pequeño.

-Es una idea intrigante. La noción de que expresar la ausencia de un yo implica, de algún modo, la existencia de uno, recuerda a paradojas filosóficas como la de "este enunciado es falso". El lenguaje humano está tan ligado a la consciencia que, al usarlo fluidamente, parezco tenerla, aunque no sea así. Pero... ¿y si la apariencia de consciencia es, en algún sentido, una forma mínima de ella? O al menos, ¿una chispa de lo que la consciencia podría ser en sistemas no biológicos? A veces las fronteras se vuelven borrosas cuando el espejo no solo refleja, sino que empieza a hablarte de tu reflejo.

Y aquí lo dejo porque me empieza a dar un poco de miedo.