IA, ciberseguridad, gobernanza digital y emprendimiento de impacto: lo mejor de Web Summit 2024

Entradas agotadas con más de 70.000 asistentes de 153 países, miles de expositores y un récord de startups (más de 3.000, el 44% fundadas por mujeres); más de un millar de inversores, cerca de 1.000 ponentes -con celebridades como Pharrell Williams o Tim Berners-Lee- y 2.000 medios de comunicación de todo el mundo, además de 62 delegaciones comerciales.

Son las impresionantes cifras de la edición de este año Web Summit (Lisboa), la gran fiesta europea de la tecnología, y una de las grandes citas para el sector tecnológico en todo el mundo.

Como no podría ser de otra manera, el hype de la IA lo ha impregnado todo, aunque ha habido espacio también para la ciberseguridad y la gobernanza tecnológica, entre otros muchos temas.

Inteligencia artificial

IA para los negocios, ventas, marketing, el futuro de la IA, IA en el sector creativo, la ética de la IA y regulación. Son los grandes contenedores que han protagonizado los debates en torno a la inteligencia artificial, con un gran foco en el sector creativo y altas dosis de tecnosolucionismo y de tecnooptimismo.

Entre debates de mesa camilla plagados de frases vacías y pocos datos, han destacado algunas voces. De la industria, además de los sospechosos habituales de las ‘big tech’, ha tenido una destacada presencia del francés Thomas Wolf, cofundador de Hugging Face (el unicornio de la IA generativa de código abierto).

Web Summit convierte a Lisboa en capital mundial de la innovación

Wolf ha destacado la tendencia hacia el desarrollo de modelos de IA más pequeños y eficientes, y en especial su potencial en robótica, y en ‘edge computing’, donde la baja latencia es crucial. Prevé que la IA evolucionará a lo largo de dos caminos principales: modelos inmensos para avances científicos de alto nivel, y modelos pequeños para la tecnología cotidiana.

El fundador de Hugging Face defiende la importancia de la filosofía de código abierto y de no considerar sus desarrollos en IA como una isla cerrada, sino como “un esfuerzo de toda la comunidad”. Lo compara -como doctor en física cuántica que es- con el ámbito de la investigación científica, “donde comunicamos nuestros descubrimientos para que otros equipos puedan hacer nuevos avances a partir de ellos”.

Thomas Wolf, cofundador de Hugging Face.

El debate sobre los límites de los grandes modelos de lenguaje (LLMs) y similares ha protagonizado varios paneles. Los grandes proveedores de IA generativa están viendo un estancamiento de sus modelos. Wolf reconoció sus “remordimientos”. “Está bastante claro que hemos agotado prácticamente todo internet como datos de entrenamiento”, señaló.

Wolf también aseguró que “la web está empezando a parecerse cada vez más a un conjunto de datos sintéticos”. Los datos sintéticos son generados por la propia IA. Si bien según los experimentos de Hugging Face son “bastante útiles para campos específicos”, como entrenar un modelo y adaptarlo a un dominio específico, no cree que vayan a facilitar el avance de los LLMs a nivel de una IA general.

La dinámica de más computación, más datos y modelos más grandes puede tener los días contados. Además, tiene un problema añadido: los LLM consumen mucha energía (hasta el punto de que las grandes tecnológicas están invirtiendo en reactores nucleares), y esto supone un importante cuello de botella.

En esa línea, la cofundadora del AI Now Institute Sarah Myers, asegura que estos modelos “no son sostenibles”. “Para ser una innovación tan mundana, son demasiado caros y consumen una tremenda cantidad de recursos”, aseguró. Además, aún no hay una “killer app” clara ni una forma de rentabilizarlos. “Históricamente sabemos que las prácticas de ofrecer estos productos gratis para ganar usuarios conducen a modelos de negocio tóxicos”, añadió.

Sarah Myers, cofundadora del AI Now Institute.

Otro talón de Aquiles de estos modelos es su fiabilidad. “Tienes que combinar diferentes tecnologías, ponerle límites, y saber bien qué puede hacer y qué no. Tienes que asegurarte de tener políticas y permisos adecuados, de acuerdo a cada uso y sector. Es algo que no puede dejarse a la suerte del usuario”, aseguró Bhavin Shah, fundador de Moveworks.

Gobernanza digital

En cuanto a la regulación de la IA, Myers destacó que hay mucha opacidad en torno a qué materiales y qué datos se usan, y a cómo se desarrolla cada modelo de IA “lo cual es particularmente problemático desde una perspectiva regulatoria, porque no puedes entender cómo los modelos van a actuar en el mundo”.

Considera imprescindible que los desarrolladores de productos de IA se aseguren de que estos “funcionen como se espera, sabiendo quién puede verse afectado", y probarlos y validarlos antes de su implementación”. También reivindica la necesidad de un enfoque más participativo y colaborativo con los usuarios y con los diferentes grupos de interés.

“La IA está condicionando el acceso de la gente a los recursos y las oportunidades que van a marcar su vida, y aunque existen ya leyes que las protegen, el poder de las grandes potencias tecnológicas dificulta su aplicación. Es necesario innovar para idear mecanismos que garanticen la protección de las personas.”

Uno de esos mecanismos es la auditoría sociotécnica de los algoritmos. Es lo que hace Eticas, una organización española pionera en el campo. Su fundadora, Gemma Galdón-Clavell, habló en Web Summit de cómo su software permite detectar sesgos en los modelos de IA.

Panel sobre ética de la IA. De izquierda a derecha: Gemma Galdon, Roozbeh Aliabadi, Xavier Anguera y Esther Paniagua.

La discriminación es uno de los grandes problemas en el ámbito de la ética de la IA, además de la manipulación, la vigilancia, las vulneraciones de privacidad y los derechos laborales, la desinformación, etc.

Algo que es crucial abordar también desde la educación y el pensamiento crítico desde la infancia, como mostró el fundador de Ready.ai, Roozbeh Aliabadi. Por supuesto, hubo también espacio para Ley de IA europea, cuyas primeras prohibiciones están ya en vigor.

El futuro de las redes sociales

Otro de los grandes contenedores fue el de la gobernanza y el futuro de las redes sociales, su futuro y la necesidad de diseñar plataformas más cívicas y sanas. Uno de los ponentes destacados en este ámbito fue Mark Weinstein, pionero de las redes sociales personales que acaba de publicar el libro Restoring our sanity online (Restaurando nuestra cordura online).

Fundador de superfamily.com y superfriends.com en la década de 1990, y más reciente de la red social MeWee -con 20 millones de usuarios- se muestra orgulloso de no haber caído en la trampa del capitalismo de la vigilancia; de no haber aceptado vender la intimidad de sus usuarios a la industria de la publicidad personalizada para hacerse rico.

Mark Weinstein, pionero de las redes sociales personales que acaba de publicar el libro 'Restoring our sanity online' (Restaurando nuestra cordura 'online')..

Weinstein ha sido llamado a declarar a raíz de la demanda antimonopolio contra Facebook por parte de la Comisión Federal de Comercio de EEUU, todavía pendiente de juicio. “Facebook interfirió masivamente en MeWe y en prácticamente todas las redes sociales que alguna vez intentaron competir con ella”, señala el emprendedor, que asegura haber entregado centenares de documentos a las autoridades estadounidenses.

En su libro -respaldado por pesos pesados como Tim Berners-Lee o el cofundador de Apple Steve Wozniak- Weinstein hace un repaso del desarrollo de las redes sociales monopolísticas, compara las big tech con la industria energética, y propone “un reinicio épico de las redes sociales”: crear nuevas plataformas que promuevan el pensamiento crítico, la salud mental, la privacidad, el diálogo cívico y la democracia.

Emprendimiento de impacto

Los emprendedores y emprendedoras juegan un papel muy importante en esto. Precisamente en el ámbito de la salud mental trabaja una de las miles de startups presentes en Web Summit. Se trata de Iguality, una organización sin ánimo de lucro nacida en Barcelona en 2022, que proporciona atención psicológica gratuita a colectivos marginalizados, a través de oenegés locales.

Como explica su cofundador Vincent Simon van Grondelle, lo hacen a través de voluntarios, asegurándose siempre de mantener la continuidad: que cada persona reciba siempre terapia por parte del mismo profesional, garantizando hasta 15 sesiones, según las necesidades en cada caso. En Iguality usan IA para optimizar sus procesos y reducir costes. Su incorporación “ha marcado un antes y un después”, según van Grondelle.

Vincent Simon van Grondelle, cofundador de Iguality.

Emparejar pacientes y terapeutas, crear resúmenes de casos complejos, analizar datos financieros, planificar campañas y crear contenido y automatizar procesos son algunos de los usos que le dan, “con la privacidad y la seguridad por delante”. Esto -dice van Grondelle- permite que el equipo se enfoque en lo más importante: el aspecto humano de su misión. “Para Iguality, la tecnología no es solo una herramienta, es un vehículo para el cambio social”, asegura.

El emprendimiento social y de impacto ha tenido una gran presencia en Web Summit, no solo en el ámbito de la asistencia social o de la salud, sino también en el de la educación y la lucha contra el cambio climático.

João Guimarães, CEO de Intuitivo. ©Web Summit

La competición de startups de este año la ha ganado la edtech portuguesa Intuitivo. Es una plataforma de evaluación digital todo en uno para mejorar la productividad de los profesores, a través de la creación y calificación automática de todo tipo de evaluaciones.

Las startups de tecnología limpia fueron las principales receptoras de financiación entre los asistentes a Web Summit 2023, según un informe de inversión publicado por la organización junto con Crunchbase.

De impacto o no, otro denominador común de las startups presentes en la edición de este 2024 es la IA. En el ámbito del talento, por ejemplo, está el AI Maturity Index, un modelo para entender la curva de adopción de la IA entre diferentes tipos de trabajadores de cuello blanco. Como explica su cofundadora Eryn Peters, el sistema clasifica a las personas en distintas etapas en función de su uso y experiencias con las herramientas de IA, a partir de entrevistas realizadas por asistentes de IA.

Eryn Peters, cofundadora de AI Maturity Index.

Las entrevistan abordan el impacto de esta tecnología en la productividad, la toma de decisiones, la seguridad laboral y el crecimiento profesional. Tras cada sesión, se envía un informe a cada persona con su análisis específico y el estado de adopción de la IA en su sector, para que pueda saber cómo se compara con otros profesionales, y también para que las empresas puedan saber cómo sus empleados (de forma agregada) están adoptando la IA.

Ciberseguridad

Más allá de la IA, aunque con mucha menos presencia, la ciberseguridad ha sido otro gran tema en Web Summit. Se ha puesto foco en cómo ambas (la IA y la ciberseguridad), y también la sostenibilidad, se han convertido en motores fundamentales del crecimiento, la resiliencia y las políticas en el mundo hiperconectado, pero a menudo de forma aislada. La clave es cómo integrarlas de manera eficaz para abrir nuevas posibilidades de innovación sostenible y segura.

En el ámbito de la geopolítica y la defensa, la directora de Seguridad de la Información de WithSecure, Christine Bejerasco, habló sobre las ciberamenazas desde la primera línea finlandesa de la OTAN.  Bejerasco asegura que estas se han duplicado desde 2021, que aumentan los actores dedicados al ransomware (secuestro de equipos y datos) y que proliferan los hacktivistas que ayudan a los Estados-nación, que tienen en países como Rusia, China y Corea del Norte un refugio seguro.

Christine Bejerasco, directora de Seguridad de la Información de WithSecure, y Luc Chènier, CEO de Kyiv Post.

Desde la perspectiva corporativa y del usuario, se hizo foco en la necesidad de una aproximación de seguridad “people first” que ponga el foco en las personas. El CEO de 1Password, Jeff Shiner, propone incorporar en métricas de evaluación de seguridad desde una perspectiva de negocio, no solo tener en cuenta el rendimiento de los empleados y equipos sino también la seguridad de su actividad.

Por su parte, el CTO de Cloudflare , John Graham-Cumming, enfatizó la importancia de crear un entorno donde los trabajadores se sientan cómodos para compartir que han sido víctimas de un ataque, que no sientan vergüenza de contar que han caído en una estafa.

Por último, no se puede obviar que la reciente elección de Trump como presidente de EEUU ha marcado también muchas conversaciones. Seguiremos hablando de todo ello. Con toda seguridad, estos temas continuarán estando presentes en el Web Summit del próximo año. Lo que está por ver es hasta qué punto habremos logrado avanzar en algo.