Google requerirá que las apps de Android moderen el contenido generado con IA: así pretende hacerlo

La Google Play Store está repleta de aplicaciones que usan la IA generativa para ofrecer chatbots o la generación de imágenes. Ahora Google quiere imponer una serie de requisitos a los desarrolladores de apps para que los usuarios puedan reportar contenido ofensivo generado con inteligencia artificial, al igual que una serie de directrices para que sea aceptable para cualquier usuario.

Una explosión de nuevas apps que han ido apareciendo a lo largo del año para ofrecer distintas experiencias todas vinculadas a la IA generativa. Con menor o mayor éxito, estas apps están faltas de algunas herramientas que permitan al usuario reportar el contenido ofensivo que se pueda generar. Google ya está por la labor de exigir la integración de una herramienta que ofrezca al usuario la posibilidad de denunciarlo.

Toda app en la Google Play Store que use contenido generado con inteligencia artificial tendrá que añadir un botón para marcarlo o reportarlo como material ofensivo a partir del año que viene. La idea es que el usuario tenga en su mano la posibilidad de etiquetar el contenido para que no tenga que ni salir de la app para esta acción.

Limitando la Google Play Store

Estas son las apps que han de comenzar a desarrollar este botón a partir del año que viene y así ofrecer la herramienta precisa para reportar todo tipo de contenido ofensivo. Hay dos excepciones, y son para las apps que suministran contenido generado con IA, pero que solamente lo usan para resumir textos desde libros, o aquellas aplicaciones para la productividad que utilizan la inteligencia artificial.

• Chatbots con IA tipo ChatGPT o Bard.
• Apps que generan imágenes con IA desde texto.
• Aplicaciones que crean contenido en voz o vídeo de personas reales con el uso de la inteligencia artificial.

De hecho, Google ofrece algunos ejemplos de contenido generado con IA problemático como es el uso de material sexual falso, grabaciones de personas reales diseñadas para suministrar información errónea, contenido basado en IA ideado para ser sexualmente gratificante y código malicioso.

La compañía estadounidense también aclara que debido al aluvión de apps basadas en IA generativa irá ajustando sus directrices según evoluciona la tecnología. Hay otro punto que ha resaltado desde su anuncio y está relacionado con las directrices para los permisos de fotos y vídeo para limitar cómo las apps acceden a los datos.

El uso del selector de imágenes en una app en Android Google El Androide libre

Mantiene que las fotografías y vídeos en el dispositivo del usuario han de ser considerados como personal y los datos sensibles deberían de ser tratados con las mejores prácticas de máxima privacidad. Aclara que este tipo de información sensible expone al usuario a una vulnerabilidad que puede ser utilizada para usos malintencionados, así que minimizando el acceso evitará que los desarrolladores tengan que gestionar el uso de tantos datos confidenciales.

Otro punto importante es que solo las apps que necesiten acceso a fotografías y vídeos continuarán usando los permisos generales, mientras aquellas con un uso limitado de archivos de contenido multimedia requerirán el uso de un selector de imágenes. Una serie de medidas oportunas frente a la invasión de este tipo de apps que actualmente están libres de restricciones debido a la llegada explosiva de la IA generativa a todos los niveles.

Te puede interesar

• Con lo nuevo de Google, por fin es posible comprobar si una imagen puede ser falsa
• Google Fotos revoluciona los vídeos destacados con IA: así los generas con indicaciones
• Google Fotos cambia para siempre: se despliega el gran rediseño que transforma cómo usas la app