Josefin Rosen, principal Trustworthy AI Specialist en SAS
Rosen (SAS): "La IA ha pasado de ser un bonito complemento a convertirse en el ingrediente esencial"
Josefin Rosen, responsable de IA fiable en SAS, desgrana las claves para avanzar hacia una integración "segura y fiable" de esta tecnología.
20 junio, 2024 01:23"La inteligencia artificial ya no es el futuro, es el presente", sentencia Josefin Rosen, responsable de IA fiable en SAS, en una entrevista con DISRUPTORES. Rosen es la encargada de garantizar un uso responsable y seguro de esta tecnología en dicha compañía, un puesto que ha ido ganando relevancia con el despliegue de la misma, pero también una de las personas que más sabe sobre esta herramienta, sobre la que lleva trabajando más de dos décadas.
En este período, Rosen cuenta que ha habido "importantes avances" en el despliegue de la IA, pero que ninguno de ellos se puede comparar a la "oleada de atención y desarrollo" que se ha producido en los últimos meses respaldada por el lanzamiento de ChatGPT. Según explica, este chatbot ha desencadenado la democratización de la misma a mayor escala.
"Está remodelando los negocios en todos los campos y transformando nuestra forma de vivir y trabajar", afirma.
En este sentido, la experta de SAS recuerda lo que expresó una de las ponentes durante uno de los eventos de tecnológica en relación a la evolución reciente de esta herramienta: "Dijo que la IA ha pasado rápidamente de ser solo un bonito complemento, como la guinda del pastel, a convertirse en el ingrediente esencial, como la harina de la propia tarta".
Así, precisa que la inteligencia artificial ya no solo es un concepto teórico, sino que está integrada en todas partes, implicada en procesos relevantes, así como en la toma de decisiones en diferentes aspectos de la sociedad.
Sin confianza no hay IA
No obstante, la responsable de IA fiable en SAS recuerda que su despliegue también conlleva ciertos retos e incertidumbres que se deben afrontar. Aquí, señala, la confianza es "crucial". "Sin confianza, no habrá aceptación, y sin aceptación, será difícil aprovechar el inmenso potencial que ofrece la IA tanto para el éxito empresarial como para resolver importantes retos sociales", afirma.
Preguntada por las claves tras la integración de la inteligencia artificial en los procesos empresariales de forma segura y fiable, Rosen explica que este objetivo empieza "antes de introducir la primera línea de código". "Para hacer operativa una IA fiable y segura se requiere un enfoque integral que implique no solo a la tecnología, sino también a las personas y los procesos", describe.
Además, señala que esta tecnología debe estar centrada en el ser humano, ser segura, ética y justa. "Requiere que siempre nos preguntemos no solo si podríamos, sino también si deberíamos", resume.
En su definición de IA responsable, Rosen también señala que esta herramienta debe estar alineada con los valores sociales, aunque precisa que estos son difíciles de acordar porque dependen del contexto, la cultura o los casos de uso. Así, da como consejo a las empresas que introduzcan la inteligencia artificial en sus procesos que, antes de comenzar, definan qué entienden por "justo" y determinen los valores que defienden como firma para adoptarse a ellos en su despliegue.
Según cuenta, en SAS han adoptado un enfoque integral que incluye un modelo colaborativo de gobernanza de la IA basado en cuatro pilares (supervisión, cumplimiento, cultura y operaciones) que se sobreponen a la tecnología. Todo ello se organiza, además, alrededor de los que han definido como sus pilares: humanismo, transparencia, responsabilidad, inclusividad, privacidad y seguridad y resistencia.
Una ley equilibrada
La búsqueda de una IA fiable se enmarca en un contexto protagonizado por el Reglamento Europeo de Inteligencia Artificial, la norma comunitaria que busca el despliegue de esta tecnología, a la par que intenta controlar sus riesgos.
"En mi opinión, Europa ha hecho un excelente trabajo equilibrando lo que debe regularse y lo que no, logrando un buen balance entre el fomento de la innovación y la protección de los ciudadanos", apunta Rosen sobre esta norma, que entrará en vigor en las próximas semanas. "La Ley de IA obliga a que los modelos de negocio se basen en la transparencia y la confianza, lo cual es beneficioso y creará una ventaja competitiva para quienes trabajen de forma responsable con los datos y la IA".
En definitiva, la experta en IA fiable señala que esta legislación fomentará la confianza e impulsará la innovación a través de diferentes medidas como exigir a los Estados miembros de la UE que establezcan entornos de prueba regulados en los que se pueda probar la IA en un ambiente protegido, además de normas y excepciones específicas para las empresas más pequeñas.
La ley, de hecho, se convertirá en uno de los elementos clave para afrontar los desafíos futuros relacionados con esta tecnología, entre ellos, la brecha de confianza o la alfabetización.
"Si ponemos solución a estas carencias, creo que tendremos lo que hace falta para afrontar muchos de los retos fundamentales de nuestra sociedad actual", avanza. "La inteligencia artificial, cuando se guía por principios éticos y valores humanos, puede ser una verdadera fuerza para el bien".
