La inteligencia artificial generativa (GenAI en inglés) es, posiblemente, la tecnología más popular de nuestro tiempo. Se espera que la inversión mundial en IA alcance casi los 200.000 millones de dólares en 2025, a medida que las empresas de todo el mundo den prioridad a las inversiones en IA para potenciar la productividad, la eficiencia y la innovación.

Sin embargo, aunque todo el mundo está de acuerdo en que esta tecnología cambiará las reglas del juego de las empresas, la pregunta que se plantea cada vez más entre la alta dirección de las compañías es si la IA está realmente al nivel que las empresas necesitan.

Aunque la publicidad sobre la IA ha alcanzado niveles sin precedentes, la tecnología en sí misma no es totalmente nueva.

Nick Bostrom, en su libro Superinteligencia, publicado por primera vez hace más de diez años, ofrece un excelente resumen de la progresión de la tecnología de IA. Esta obra contemporánea capta las etapas de la IA: las expectativas infladas, el estancamiento y los grandes avances.

Las empresas confían desde hace tiempo en el aprendizaje automático para impulsar el análisis avanzado y las capacidades predictivas en una amplia gama de casos de uso, desde la fabricación a las operaciones financieras, pasando por las compras y la cadena de suministro. Estos algoritmos han proporcionado a los directivos información para impulsar una mayor eficiencia operativa.

La IA también se ha utilizado ampliamente en formas tradicionales de algoritmos, por ejemplo, los motores de búsqueda, que definieron toda una era de nuestro desarrollo tecnológico y transformaron sectores enteros, sobre todo la industria publicitaria. Pero lo que funciona en la web no necesariamente funciona en las empresas. A Internet no le importan las autorizaciones. A los directivos sí.

A medida que aumenta la preocupación por la privacidad y la protección de datos –especialmente a la luz de las continuas presiones normativas–, muchas empresas han implementado restricciones sobre el uso de herramientas abiertas de GenAI.

Y con razón: imaginemos que un empleado compartiera datos financieros, contratos de proveedores o información sobre salarios con una herramienta de GenAI y que esta luego reutilizara esa información para responder a preguntas de otros usuarios.

Una herramienta GenAI que no cuente con herramientas de autorización simplemente no es apta para una empresa y, probablemente, esté condenada a limitarse a un único caso de uso o departamento, restringiendo su capacidad de aportar valor a la empresa en general.

Los problemas de seguridad también surgen con los lagos de datos (data lakes), que combinan fuentes de datos empresariales y externas con finalidades de IA. Los lagos de datos pueden ser traicioneros para las empresas, especialmente cuando los datos deben exportarse fuera de las grandes aplicaciones empresariales.

En este caso, se necesita un enfoque federado que mantenga los datos de la empresa en su origen y no los copie ni transfiera. Es fundamental que las organizaciones mantengan la capa semántica de los datos, que puede ser el talón de Aquiles de todo proyecto de lago de datos y, en consecuencia, de los modelos de GenAI entrenados con esos datos.

Sin embargo, el mayor peligro de la IA que no es apta para empresas reside en su tendencia a alucinar.

Gen AI es un algoritmo excelente que aprende fundamentalmente mirando lo que está disponible dentro de su área de dominio, normalmente, Internet. Pero seamos sinceros: ya no se puede confiar en toda la información que se encuentra en Internet.

En un entorno empresarial, los CEO buscan la "única versión de la verdad". Esto significa que la comprobación de los hechos es importante, pero plantea la pregunta: "¿cuál es el conjunto de datos en el que debo entrenar a mi Gen AI?". Los líderes empresariales no pueden crear productos o desarrollar innovaciones utilizando modelos que se inventen cosas o que empleen ideas basadas en información falsa o inexacta.

Aquí, los proveedores de paquetes de aplicaciones tienen las de ganar. Las aplicaciones de negocio que impulsan a las empresas de todo el mundo tienen una gran cantidad de datos de negocio que pueden ser extraídos por algoritmos de IA para producir información precisa, relevante y fiable. Estos proveedores también tienen una gran experiencia en procesos de negocio y datos contextualizados, las fuentes perfectas para entrenar una GenAI eficaz.

No cabe duda de que las empresas se beneficiarán del poder de la IA en los próximos años. Que sea o no apta para las empresas depende de cada sistema y herramienta. Mientras que algunos ya tienen capacidades al nivel de la empresa, otros pueden no cumplir todavía todos los requisitos de fiabilidad y seguridad.  Los directivos deben tener cuidado de crear casos de uso de la IA que puedan aportar valor a la empresa, basarse en conjuntos de datos sólidos y estar a la altura de las expectativas. Estas medidas garantizarán que las soluciones empresariales de IA sean relevantes, fiables y responsables. 

***Manos Raptopoulos, presidente de SAP EMEA.