Jan Wildeboer.
La colaboración y la transparencia de la comunidad son los pilares del código abierto. Se trata de principios que aportan beneficios indiscutibles a las soluciones de código abierto para que proporcionen el potencial de revolucionar la forma en que se desarrollan y despliegan los sistemas de inteligencia artificial (IA). En este contexto un enfoque abierto de la IA es esencial.
Aunque la IA está aún muy lejos de alcanzar el concepto hipotético de singularidad tecnológica, por el cual sugiere que la velocidad a la que evoluciona la tecnología provocará que IA exceda la capacidad intelectual de los humanos y por lo tanto el control que tenemos sobre ella, su influencia está cambiando notablemente los sectores económicos y la sociedad, al menos con la aparición de grandes modelos de IA, conocidos como modelos fundacionales.
El entrenamiento de estos modelos, sin embargo, requiere enormes cantidades de datos y potentes centros de datos, que en general sólo están al alcance de las empresas de gran envergadura. Los modelos fundacionales, por otro lado, son relativamente fáciles de adaptar a las necesidades de las empresas, lo que reduce el coste del entrenamiento inicial de los modelos y acelera la obtención de valor. La IA que se desarrolla de manera específica para los diferentes sectores económicos abre así un nuevo mundo a un conjunto mucho más amplio de usuarios. Sin embargo, la monopolización siempre requiere un contrapeso, en este caso un enfoque de código abierto más fuerte. Al fin y al cabo, las tecnologías abiertas ofrecen muchas ventajas, como una mayor transparencia, innovación y seguridad, que a continuación detallamos:
- Confianza como resultado de la transparencia. La AI Alliance, entre cuyos miembros se encuentran IBM, Intel, Red Hat y la Universidad Técnica de Múnich (Alemania), por ejemplo, se dedica a crear una mayor transparencia en la IA a través del conocimiento abierto y la transferencia de tecnología, reforzando así la confianza de las empresas y la sociedad en las posibilidades de esta tecnología. Al mismo tiempo, la Open Source Initiative (OSI) está trabajando en una definición común de trabajo. Hasta la fecha, las opiniones varían mucho en cuanto a cuándo la IA es abierta y cuándo no lo es. En cualquier caso, la IA se beneficia de la adopción de conceptos clave del mundo del código abierto. El código del open source permite a los usuarios comprender y verificar mejor cómo funcionan los algoritmos de IA y las fuentes utilizadas, lo que genera confianza en la tecnología. Esto es especialmente importante en ámbitos como la sanidad y las finanzas, donde la confianza a través de la transparencia es fundamental.
- Innovación a través de la colaboración. Los modelos de IA de código abierto permiten a los desarrolladores basarse en estructuras y arquitecturas existentes, impulsando el desarrollo rápido y la iteración de nuevos modelos. Esto significa que las organizaciones pueden implementar aplicaciones innovadoras sin tener que reinventar la rueda todas las veces. Cuando más actores tienen acceso a las materias primas, pueden perseguir una amplia variedad de ideas y poner en marcha proyectos verdaderamente creativos. En el mejor de los casos, el software de código abierto se convierte en el estándar del sector: las empresas construyen sus productos sobre los stacks de los principales proveedores. Éstas, a su vez,se benefician al incorporar las mejoras de las demás a su IA. El resultado es un catalizador para una mayor competencia e innovación que también beneficia a los actores más pequeños.
- La seguridad a través del principio de la doble revisión. Con el rápido auge de la IA generativa, aumentan los debates sobre los peligros potenciales de esta tecnología. Al fin y al cabo, los sistemas pueden utilizarse indebidamente para difundir noticias falsas o poner en marcha actividades fraudulentas con la ayuda de declaraciones, imágenes o vídeos manipulados. Esto plantea la cuestión de si un enfoque de código abierto -es decir, permitir que los delincuentes conozcan el funcionamiento de los algoritmos de IA- hace que los riesgos sean incontrolables. Los sistemas abiertos suelen tener salvaguardias o directrices para un uso responsable. Pero una vez que un modelo de IA está disponible libremente, cualquiera puede modificar por sí mismo las medidas de seguridad. Como ocurre con cualquier otra tecnología, aquí también se cumple lo siguiente: cualquiera que quiera hacer daño encontrará la manera, ya sea que la tecnología esté desarrollada en código abierto o propietario. Pero la apertura y la transparencia contribuirán a que la IA sea más segura. Cuando el software es abierto, más gente puede probarlo para identificar y solucionar posibles problemas. Además, desarrolladores, investigadores y empresas de distintos campos pueden colaborar en la búsqueda de soluciones para minimizar los riesgos. Al mismo tiempo, la comunidad tecnológica necesita establecer directrices y mecanismos que promuevan el desarrollo ético de la IA.
- Democratización a través del acceso abierto. Gracias a todas estas ventajas, el concepto de código abierto contribuye a la democratización de la inteligencia artificial. Al poner las herramientas y los recursos a disposición de todos, todos pueden beneficiarse. Con la creciente importancia de la tecnología, esta idea es más importante que nunca: dado que la IA afectará a casi todos los ámbitos de la sociedad en el futuro, el poder sobre ella no debe estar en manos de unos pocos. El enfoque de código abierto ofrece a personas de muy diversos entornos socioeconómicos la oportunidad de participar en el desarrollo de la tecnología y, de este modo, dar forma a una IA más justa. Además, las crecientes presiones competitivas debidas a la globalización, los ciclos de vida más cortos de los productos y la mayor presión asociada para innovar están aumentando la necesidad de abrir y optimizar los procesos. Muchas empresas simplemente carecen de los recursos financieros para nuevos desarrollos revolucionarios, así como de la experiencia interna. Esto conduce casi automáticamente a la necesidad de colaborar con partners, proveedores u otras empresas.
El hecho es que la IA es la tecnología clave por excelencia. Para desarrollar modelos de IA viables, poner los datos de entrenamiento a disposición de un conjunto más amplio de usuarios y abordar cuestiones éticas acuciantes, es esencial contar con un ecosistema que funcione. Aunque no toda la IA se basará en principios de código abierto, la combinación de compartir modelos preentrenados con la comunidad y restringir el acceso a los datos de entrenamiento es una alternativa a los enfoques propietarios. La IA debe concebirse como la inteligencia de enjambre, es decir que todos los partners que aportan sus conocimientos al enjambre pueden aprender unos de otros sin compartir automáticamente información sensible. La inteligencia de enjambre también es relevante en el sentido de que los modelos de IA desarrollados para sectores específicos son cada vez más importantes.
*** Jan Wildeboer es EMEA Evangelist de Red Hat.