Representación de una IA en forma de niño buscando en Internet. Omicrono
Inteligencia artificial para evitar pornografía infantil: Pornhub incluye un 'chatbot' para buscar ayuda
La popular web de contenido para adultos integrará una IA que disuada a los que busquen esta clase de contenido y les ofrecerá recursos.
29 febrero, 2024 18:31Cuando se ha hablado en España sobre los peligros de la inteligencia artificial, muchos expertos apuntaban a la problemática de su relación con el porno. No por nada son habituales las IA que pueden desde desnudar a personas hasta simular escenas grotescas, como ya se vio en el caso Taylor Swift. Ahora, Pornhub estaría usando una de estas inteligencias para evitar que la gente busque pornografía infantil.
Así lo expone el portal Wired, en el que detallan como Pornhub, una de las webs de contenido adulto más importantes del mundo, está implementando un chatbot que detecta cuando un usuario busca contenido relacionado con abusos de menores. Este no solo detiene el intento de búsqueda, sino que muestra servicios para que estas personas reciban ayuda profesional.
La web de Pornhub en Reino Unido ha estado haciendo pruebas con la efectividad de este sistema, llegando a detectar a más de 173.000 usuarios realizando estas búsquedas durante los primeros 30 días de testeo. La idea detrás de esta iniciativa es que los usuarios acaben buscando ayuda, y eviten realizar estas búsquedas, controlando su propio comportamiento.
Buscar ayuda en PornHub
Todo comienza con dos entidades: la Internet Watch Foundation (IWF), una organización sin ánimo de lucro oriunda de Reino Unido y la Fundación Lucy Faithfull, también dedicada a luchar contra esta lacra. Ambas han sido las encargadas de diseñar tanto el chatbot como la ventana emergente que aparece a los usuarios actualmente.
La misión de estas entidades, es la de eliminar por completo el abuso sexual infantil de Internet. De hecho, antes de que se implementara este chatbot, Pornhub redirigía a los usuarios que buscaban este tipo de contenido a la página de la Fundación Lucy Faithfull, con una web estática con una capacidad de detección de hasta 28.000 términos relacionados con la pornografía infantil.
Imagen censurada de Pornhub.
El sistema desarrollado por la IWF y por la Fundación Lucy Faithfull detecta la misma cifra de términos, 28.000 en total, y aparece cuando alguien incluye alguna de estas palabras en el buscador de Pornhub. Las combinaciones posibles que el sistema puede detectar se cuentan por millones, para evitar que existan formas de 'saltarse' este paso. Al usuario se le aparece una ventana emergente directamente en pantalla.
El chatbot en cuestión realiza una serie de preguntas al usuario y explica que lo que están buscando puede llegar a ser ilegal. Una vez informado el usuario, la Fundación Lucy Faithfull asegura ofrecer apoyo "confidencial y sin prejuicios", enlazando una web de recursos de la propia organización. Si el usuario hace clic, se le proporcionan detalles como el servicio de e-mail o la línea telefónica de ayuda.
Fotomontaje con el logo de Pornhub.
El director de tecnología de la IWF, Dan Sexton, ha explicado que el chatbot ha estado en desarrollo más de un año y medio, y tiene como principales objetivos "desviar" o "interrumpir" a los usuarios que puedan estar buscando este tipo de contenido. Todo con la idea de que este proceso de buscar ayuda no lleve más que un par de clics. "Nos dimos cuenta de que el recorrido del usuario debía ser lo más sencillo posible", dijo.
La CEO de la IWF, Susie Hargreaves ha asegurado que lo que desean desde la organización es que los resultados de esta iniciativa se traduzcan en menos búsquedas. "Queremos que los resultados sean que la gente no busque abuso sexual infantil. Se detengan y controlen su propio comportamiento", detalla.
¿Es efectivo?
Es muy difícil medir no solo el nivel de eficacia de este sistema, sino el impacto que estos resultados tienen en la lucha contra la búsqueda de esta clase de contenidos en Pornhub. En marzo del año pasado, el chatbot apareció más de 170.000 veces, y de estas ocasiones 158 personas hicieron clic en el sitio web de ayuda. Una cifra pequeña pero que es defendida por los desarrolladores del sistema.
[El polémico sistema que identifica a los menores frente al porno: número de cuenta y fotografías]
Además, hay otras variables difíciles de interpretar. Por ejemplo, los usuarios pueden cerrar el navegador después de ver el mensaje emergente de Pornhub. Si bien para el historial de búsquedas del sitio pornográfico esto es beneficioso, es imposible saber si estos usuarios realizaron nuevas búsquedas en otros sitios con menos mecanismos de seguridad.
Existen indicios que apuntan a que estas capas de seguridad realmente son efectivas en contra de la búsqueda de contenido sobre abuso infantil. Un ejemplo es este estudio realizado en 2015, que recogió cómo los motores de búsqueda al estilo Google que pusieron en funcionamiento medidas de prevención similares observaron una drástica disminución en el número de búsquedas.
Logo de Pornhub.
Esta medida llega en un momento débil para la reputación de Pornhub en Internet. En 2020 y 2021 la página de contenido para adultos saltó a la fama debido a que se detectaron contenidos no solo relacionados con el abuso infantil, sino pertenecientes a personas que no dieron su consentimiento. En consecuencia, Pornhub realizó un masivo borrado de vídeos, alcanzando la friolera cantidad de 10 millones de vídeos.
Esto llevó a sus responsables a implementar todo tipo de medidas para evitar una situación similar. En 2021 se supo que Pornhub incluiría tecnologías de verificación biométrica, un proceso que estaría realizado por la empresa Yoti y que consistiría en el análisis de fotos y documentos identificativos.
