Desde luego, las posibilidades que ofrecen son muchas, y una de ellas es la de crear imágenes, bien partiendo de otra imagen o y de una descripción, o bien utilizando únicamente esta descripción que el usuario ofrece. Sin embargo, esta acción en particular está generando bastante polémica.

Y es que, hay ocasiones en las que esta funcionalidad se utiliza con fines negativos, algo que las propias plataformas ya están modelando para que no suceda, aunque hay excepciones como la nueva IA de Elon Musk, que es bastante laxa en cuanto a estos límites. Pero, ¿cuáles son los límites a la hora de crear imágenes utilizando inteligencia artificial?

Copyright

Desde la expansión de los modelos de inteligencia artificial, han salido muchas alternativas cuya función es la de crear imágenes empleando esta tecnología. Esto puede tener un gran número de vertientes positivas, como la de crear fondos de pantalla o facilitar las tareas de los diseñadores gráficos.

Sin embargo, algunas de ellas han tenido que ir implantando restricciones por el camino, puesto que las posibilidades que ofrece requieren de una regulación para que su uso sea correcto. El copyright es uno de los límites de las posibilidades de la IA, no solo en cuanto a sus creaciones, sino también en lo referente a su entrenamiento. En Este sentido, la normativa europea dice que "todo uso de contenidos protegidos por derechos de autor requiere la autorización del titular de los derechos de que se trate".

Creador de imágenes de Bing El Androide Libre

La regulación tiene camino por recorrer, pero recalca la responsabilidad de los proveedores de los modelos de IA respecto al entrenamiento. Por otra parte, en lo que a la creación se refiere, si la imagen que se ha generado con esta tecnología supone una transformación sustancial de una obra original, por ejemplo, podría considerarse una obra derivada y, en algunos casos, incluso estar permitida.

En muchos casos, este tipo de herramientas ya cuentan con ciertas limitaciones para que solo puedan generar imágenes con licencia, de manera que se reduzca el riesgo al máximo de incumplir con la protección de los derechos de autor de una obra en concreto. Si la IA genera una imagen nueva que sea muy parecida a una obra existente, se podría cuestionar su originalidad.

Desnudos usando IA

Algunos modelos de inteligencia artificial no solo pueden crear imágenes a partir de una descripción, sino que también pueden modificar una o varias imágenes utilizando otras, algo que algunas personas han utilizado para crear lo que se conoce como deepfake. Se trata de una modificación de una imagen de una persona para hacer que parezca otra, y esto se ha utilizado para desnudar artificialmente a otras personas en fotografías, algo totalmente ilegal en España.

Algunas plataformas de inteligencia artificial, como Designer, de Microsoft, han optado por establecer límites en las peticiones de los usuarios para que no puedan utilizarlo con tales fines. A pesar de esto, en España ya han tenido lugar episodios, como el caso Almendralejo, en el que se utilizó la IA para llevar a cabo estos montajes con menores de edad y que puso sobre la mesa el debate.

Apps de retoque en la Google Play Store El Androide libre

Hay otros casos más recientes con la misma problemática, y en este sentido, la Policía Nacional confirma que la utilización, tenencia y difusión de estas imágenes alteradas pueden ser "constitutivas de delito". En España, este acto se puede enmarcar en varios delitos recogidos en el Código Penal, sin embargo, también sería positiva una regulación a nivel europeo a partir de la cual las diferentes naciones puedan legislar. 

El modelo de inteligencia artificial de Elon Musk, Grok-2, que está integrado en X, precisamente está siendo duramente criticado por sus pocos límites éticos. Y es que, mientras que hay peticiones que otros modelos de IA denegarían, este los acepta, poniendo de manifiesto la necesidad de regular y limitar este tipo de tecnología.

Microsoft, una de las mayores compañías tecnológicas del mundo, pidió en un escrito al gobierno de Estados Unidos que llevara a cabo una regulación de este tipo de imágenes para "proteger al público del contenido abusivo generado por IA" que es precisamente el título del escrito.

Y es que, esta tecnología es capaz de llevar a cabo buenas acciones, pero también de hacer cosas perjudiciales y dañinas para la imagen de otras personas. Y no solo eso, sino que ha sido utilizada en más de una ocasión para llevar a cabo estafas, haciéndose pasar por otras personas en el conocido timo del CEO.