López de Mántaras: “El límite de la IA es el ‘olvido catastrófico’”

Pocos han investigado más que él en inteligencia artificial en España. Por eso, las ponencias de Ramón López de Mántaras casi se pueden entender como profecías. Su discurso argumentado, realista y crítico no deja indiferente a nadie. Sus primeras palabras sobre el escenario ya introducen la polémica. Dice que prefiere entrecomillar el término ‘inteligencia’, a su juicio, aún queda mucho camino para llegar ahí.

El investigador del CSIC lleva 40 años en la “cocina” de la IA y, de pronto, se ha encontrado con este ‘hype’. “Es una moda, pero por razones bien sólidas y fundadas”, comenta. “Y está aquí para quedarse y transformar nuestra sociedad”, añade durante su participación en el I Congreso de Inteligencia Artificial, organizado por Suma Innova y ‘El Independiente’ en Alicante.

López de Mántaras habla de inteligencias artificiales “sumamente específicas”. “Podemos entrenarlas para que hagan muy bien una única tarea, pero no son multitarea”, afirma. Y aquí, precisamente, radica el gran reto de la investigación, el llamado “olvido catastrófico”. “Este fenómeno bastante limitativo y problemático produce que, una vez entrenado el sistema para una tarea, si a continuación lo entrenamos para una segunda, se olvida automáticamente de la primera”, explica. Incluso si están muy relacionadas.

“La IA actual no tiene la capacidad de transferir el aprendizaje”. Esta capacidad de aprendizaje relacional, que “los seres humanos hacemos continuamente”, es la causa de que una IA general “todavía es una utopía”. Aunque el investigador se califica de “optimista” y opina que acabará sucediendo (no se sabe cuándo). “Sería extraordinario que algún día consigamos resolver este problema y lleguemos a tener tipos de IA más generales que merezcan ser llamadas inteligencias”.

“Las vivencias y experiencias dependen del cuerpo y los sentidos que tengamos, por eso la inteligencia humana es muy distinta al del resto de animales con inteligencias sofisticadas”, comenta. “El cuerpo predetermina la inteligencia que se forma”. De ahí que “por muy sofisticadas que sean las IA, necesariamente serán distintas a las humanas”. El investigador del CSIC critica “el error de humanizar” la inteligencia artificial. “Pecamos de antropocentrismo”, apostilla.

Los efectos colectivos de la IA

López de Mántaras reflexiona sobre las limitaciones éticas de la IA. “Posiblemente es necesario una regulación, aunque tampoco una sobrerregulación”, indica. El experto cree que la ética está íntimamente ligada con la educación de la ciudadanía sobre los beneficios y riesgos de la tecnología. “Hay que saber diferenciar la realidad de la ficción”, afirma. “Necesitamos ciudadanos con mucho más sentido crítico y ese es un proceso de formación que debe empezar en las escuelas”.

Una afirmación con la que coincide Lorena Jaume-Palasí, directora ejecutiva de The Ethical Tech Society. “La inteligencia artificial es sociotécnica, depende altamente del contexto social en el que se está aplicando”, subraya. “La formulación matemática que se usa es un reflejo de lo social”. La experta, miembro del consejo de sabios sobre IA en España, explica que los conceptos se entienden de forma distinta en cada sociedad. Por ejemplo, dice, el concepto de eficiencia puede comprenderse desde el punto de vista de la equidad o de la eficacia económica.

Señala que también cambia lo que se entiende como dato. “Hay sociedades que no conocen el color vede, no aparecerá en su banco de datos”, simplifica. Pero introduce otro ejemplo con una respuesta menos evidente: “Cuando tratamos de categorías para definir colectivos humanos, hablamos de mujeres, hombres y tal vez algo más”.

Jaume-Palasí comenta que la IA no es un producto en sí, sino se utiliza para ofrecer servicios. “Hasta ahora, estamos viendo estos servicios de forma muy individualista, pensamos que se dirige solo a nosotros”.  El caso es que la IA es capaz de automatizar de forma muy sofisticada y cuando esto pasa, se crea una infraestructura.

“Cuando se crean infraestructuras se generan dependencias sociales, aspectos colectivos, ya no bienes individuales”, declara. Surgen, por tanto, otro tipo de preguntas relacionadas con el bien común, qué es comercializable o no, qué es lo que se debe quedar de forma gratuita en tiempo de crisis… “Eso aún no lo hemos hecho”, alerta.