Estamos automatizando millones de decisiones en función de datos. Es tan importante la lógica que aplicamos cómo tener buenos datos. Muchas aplicaciones de inteligencia artificial sacan los datos de internet. ¿Qué dice internet de mi o de mi empresa, que saben de nosotros?

Hay que tener extremo cuidado de dónde salen los datos, qué factores tenemos en cuenta y con las decisiones que tomamos en función de ello. La IA lo que hace es escoger la mejor decisión, la más probable entre un conjunto de datos, activando una función lógica. La función lógica no tiene por qué ser ética o aplicar el sentido común porque las máquinas no tienen, sino que toman la decisión en función de lo que les hemos enseñado. 

De hecho, muchas de sus aplicaciones están basadas en la economía de la atención, cómo captar nuestra atención para consumir más, hacer más likes o como diríamos, más que llevarnos al huerto, llevarnos al click.

Ya hace unos años que el CEO de Netflix dijo que su enemigo era el sueño. Actualmente consultamos el teléfono unas 150 veces al día y en numerosas ocasiones tenemos problemas de atención o de concentración. La manipulación siempre ha existido, así como los mensajes falsos o malintencionados pero nunca antes han tenido herramientas tan potentes como la IA.

La automatización gracias a la aplicación de la IA y otras tecnologías está convirtiendo lo que somos en un conjunto de datos que nos etiquetan. Datos que nos identifican y que nos hacen estar a un lado o el otro del algoritmo con lo que ello implica. Que te den un crédito, un seguro, una beca, un like o un tratamiento, depende de los datos que tengan de ti.

Algunos modelos han sido entrenados gracias a personas que etiquetan contenidos, que nos etiquetan. Personas al servicio de la IA para que la IA tome decisiones por las personas. Curiosamente, estas personas a menudo están en terceros países entrenando inteligencias artificiales que dentro de poco serán más inteligentes que los humanos para que tomen decisiones por nosotros.

El Papa Francisco en una de sus últimas comunicaciones ha dicho que se debe orientar la inteligencia artificial hacia una comunicación humana y en este sentido, habla de una algor-ética, como el desarrollo ético de los algoritmos. En esta comunicación el Papa apela al respeto fundamental de la dignidad humana, postula rechazar que la unicidad de la persona se identifique con un conjunto de datos. El Papa tiene más razón que cualquier santo gurú.

Cada persona es sus datos y sus circunstancias porque los humanos somos animales sociales y la mayoría de las veces, toda decisión aparentemente irracional tiene una explicación. Yo soy una profesional de X años, etc. pero ante cualquier amenaza, mi instinto maternal saldría disparado pudiendo hacer cualquier cosa increíble sin lógica aparente y los datos eso no lo pueden prever.

El derecho a la conectividad y a la privacidad es universal y ya existe el borrado digital pero no existe la restitución de tu reputación digital ni tampoco la compensación por sesgo o por error de las decisiones automáticas porque a mí "mis datos", para ciertas cosas, ni me representan ni son representativos.

Por suerte, las personas somos tan impredecibles que la unicidad no existe. Más que ministerios de la soledad como ya tienen algunos países, quizás empecemos a crear ministerios de la diversidad y que aplique la IA para empoderarnos no para etiquetarnos.

PD: En la era del humanismo tecnológico, cuidado con los tóxicos, trepas, troyanos y trolls. Rodeaos de sinergentes, que siempre suman aptitudes, equipo y valores.