Google Pixel 5a
Google denuncia por abuso infantil a un padre que hizo fotos a su bebé para una consulta médica
Además de bloquear sus cuentas, Google ha decidido realizar una investigación al afectado debido a las regulaciones respecto a este contenido.
22 agosto, 2022 12:42En los últimos meses, las empresas pertenecientes a la Big Tech tales como Google o Apple han querido reforzar la protección de los menores en Internet. Ante unas redes sociales cada vez más presentes e invasivas en España y en el resto del mundo, estas medidas pueden resultar tremendamente útiles o ser susceptibles de provocar falsos positivos como el que denuncia un padre en Estados Unidos.
[Baby Shark hace historia en YouTube: primer vídeo en pasar 10.000 millones de visualizaciones]
Tal y como recoge The New York Times, la cuenta de Google de un padre fue censurada después de que le sacara fotos a su hijo en sus partes íntimas para constatar una infección en dicha zona. Google marcó las fotos tomadas por el padre como material pornográfico infantil o material de abuso sexual infantil, y fue más allá; presentó un informe ante el Centro Nacional para Niños Desaparecidos y Explotados e impulsó una investigación policial.
Este incidente acaecido en febrero de 2021 se vio agravado debido a que en ese momento la pandemia seguía haciendo estragos, por lo que los consultorios médicos estaban cerrados. El padre notó una hinchazón en la parte genital de su hijo y a pedido de una enfermera, envió imágenes del problema de forma previa a una videoconsulta.
Un falso positivo
Una vez Mark (apellido no revelado) envió las fotografías gracias a su teléfono Android a la enfermera, dos días después sus cuentas habían sido bloqueadas. "Contenido dañino" y "violación grave de las políticas de Google". Es en ese momento en el que Google realiza las pesquisas ya mencionadas contra Marc.
Tras lo sucedido, un portavoz de la compañía tuvo que salir a dar explicaciones al Times. Explican que esto se debe a su API de seguridad que puede "identificar de manera proactiva imágenes de abuso sexual infantil nunca antes vistas para que pueda revisarse". En caso de que se confirme que eso efectivamente es abuso sexual, la imagen se elimina y se denuncia "lo más rápido posible".
Pantalla principal de Google. Unsplash
"Identificamos y denunciamos el contenido de abuso sexual con equipos de especialistas capacitados y tecnología punta, incluidos clasificadores de aprendizaje automático y tecnología de coincidencia de hash", explican desde Google. El portavoz, por otra parte, solo ha escaneado imágenes personales de sus usuarios cuando el usuario "toma una acción afirmativa", que puede incluir incluso hacer una copia de seguridad de sus imágenes en Google Fotos.
Mark perdió todos sus correos electrónicos, contactos, fotos e incluso su número de teléfono, ya que usaba el servicio de Google Fi. Mark intentó apelar, pero Google rechazó dicha solicitud. La investigación se abrió en diciembre del 2021. Los investigadores concluyeron que este incidente no cumplía "con los elementos de un delito y que no ocurrió ningún crimen".
En un comunicado a The Verge, la portavoz de Google Christa Muldoon, este material "es abominable y estamos comprometidos a evitar que se propague en nuestras plataformas". La firma defiende que Google ha seguido la ley estadounidense "al definir lo que constituye este contenido y usamos una combinación de tecnología de comparación de hash e inteligencia artificial para identificarlo y eliminarlo".
No es la primera vez que se genera una polémica en base al escaneo de fotos enviadas por parte de los usuarios. Apple anunció hace un tiempo su plan Child Safety, que escanearía localmente las imágenes de los dispositivos Apple antes de que se cargasen a iCloud, comparando las imágenes con la base de datos del NMEC de Estados Unidos en busca de ese tipo de material.
Debido a las críticas, Apple suspendió en parte esta función, pero cuando lanzaron iOS 15.2, se incluyó una función parecida opcional para cuentas infantiles incluidas en los planes familiares de iCloud. De esta forma, la app iMessage analizaría "los archivos adjuntos de imágenes y determina si una foto contiene desnudez".
