Cienc-IA

Nature fíxose eco da polémica xurdida arredor dunha das conferencias científicas sobre intelixencia artificial máis importantes do mundo, despois de que se detectase un uso masivo de IA na revisión por pares dos artigos enviados para a súa posible aceptación.

Trátase da Conferencia Internacional sobre Representacións da Aprendizaxe (ICLR), que terá lugar en Río de Janeiro o vindeiro abril.

Unha análise realizada pola empresa Pangram Labs sobre 75.800 revisións correspondentes a case vinte mil artigos recibidos –case catro revisións por artigo- revelou que máis dunha quinta parte foran xeradas integramente por IA e que máis da metade amosaban indicios claros do uso de modelos de linguaxe para tal fin. Tamén se detectou a utilización de IA na redacción dos propios artigos enviados a dita conferencia, aínda que en menor medida.

As sospeitas de que isto podía estar a ocorrer partiron de investigadores que recibiron revisións dos seus artigos excesivamente longas, demasiado vagas, con citas inventadas ou erros evidentes, e que non se axustaban aos estándares habituais neste tipo de avaliacións.

É moi grave se esta acabe sendo a práctica xeneralizada na revisión e redacción científica, e hai indicios de que imos camiño diso. Sendo igualmente rexeitable que a IA redacte un artigo de prensa que un científico —eu non o fixen en ningún dos dous casos, vaia por diante—, as consecuencias non son as mesmas, como tampouco o é facer pasar por aceite de oliva o de xirasol ou o de colza desnaturalizado. Que escriba a IA e non o suposto autor un artigo xornalístico ou unha novela e non declaralo, é enganar o lector, aínda que o texto logre informar, convencer, emocionar ou facer reflexionar a quen o le. En todo caso, nestes casos comprométese sobre todo a estética e a ética (calidade, orixinalidade, autoría), pero non se trata de textos que pretendan establecer a verdade científica, e para o lector debería ser doado manter certa distancia crítica con eles, exercicio sempre recomendable, por outra banda.

Un artigo científico, pola contra, é a comunicación dun suposto avance no coñecemento ou no desenvolvemento tecnolóxico. Os autores deben soster as súas conclusións e achegas en datos e feitos certos, que, se é o caso, deben poder ser contrastados e reproducidos.

Podemos axudarnos da IA en todo o proceso, tanto na investigación como na redacción do artigo, pero se delegamos nela a investigación ou o contido substantivo —xeración de hipóteses, obtención e interpretación de resultados, redacción de conclusións…— o risco xa non é literario, senón epistémico, xa que podemos convertérmonos no medio necesario para transmitir invencións e resultados erróneos ou paracientíficos aos nosos pares.

A revisión dos artigos científicos debe ser igualmente esixente, se cadra máis. Revisar non é opinar, senón xulgar. Trátase de avaliar a solidez dun traballo, detectar fallos, contextualizar achegas e decidir que merece entrar e que non no corpo do coñecemento científico. Delegar ese xuízo sen máis na IA equivale a substituír rigor por verosimilitude, cambiando ciencia por aparencia. Paradoxalmente, mesmo pode ocorrer que a IA valore mellor aqueles artigos escritos por ela mesma, algo que, se non se investigou xa, sería moi pertinente facelo.

Non teño dúbida de que este tipo de prácticas responden en parte á sobrecarga do sistema de ciencia e tecnoloxía. Demándaselle á comunidade científica máis publicacións e iso supón, por tanto, máis revisións, que ademais deben realizarse de maneira voluntaria, sen incentivos, con escaso ou nulo recoñecemento e sen apenas respiro. Pero isto non debe levar a un mal uso, aínda menos a un abuso, da IA, por moi tentador que resulte. Non é só unha cuestión de ética científica, senón de velar polo rigor necesario que esixe a ciencia.

Ou na comunidade científica tomamos este asunto en serio ou os congresos científicos acabarán por parecerse a Cuarto Milenio e teremos a moitos Iker Jiménez moderando as sesións. n

Senén Barro Ameneiro é director do CiTius-Centro Singular de Investigación en Tecnoloxías Intelixentes da USC

Suscríbete para seguir leyendo