Cómo el error online de su hijo puede arruinar su vida digital – MundoDaily

Cuando Jennifer Watkins recibió un mensaje de YouTube diciendo que su canal estaba siendo cerrado, inicialmente no se preocupó. Después de todo, ella no usó YouTube.

Sus hijos gemelos de 7 años, sin embargo, usaron una tableta Samsung conectada a su cuenta de Google para ver contenido infantil y hacer videos en YouTube de ellos mismos haciendo bailes tontos. Pocos vídeos tuvieron más de cinco visitas. Pero el vídeo que metió en problemas a la señora Watkins, realizado por un hijo, fue diferente.

«Aparentemente era un vídeo de su trasero», dijo Watkins, que nunca lo ha visto. “Un compañero de clase lo retó a hacer un video desnudo”.

YouTube, propiedad de Google, ha Sistemas impulsados ​​por IA que analizan los cientos de horas de vídeo subidos al servicio cada minuto. En ocasiones, el proceso de escaneo puede salir mal y acusar a personas inocentes de abusadores de niños.

El “video desnudo” en el caso de la Sra. Watkins, subido en septiembre, fue señalado en cuestión de minutos como posible explotación sexual de un niño, una violación de los términos de servicio de Google con consecuencias muy graves.

Watkins, una doctora que vive en Nueva Gales del Sur, Australia, pronto descubrió que su acceso no solo había sido bloqueado a YouTube, sino a todas sus cuentas de Google. Dijo que perdió el acceso a sus fotos, documentos y correo electrónico, lo que significa que no pudo recibir mensajes sobre su horario de trabajo, revisar sus extractos bancarios o «pedir un batido» a través de la aplicación McDonald’s, en la que inicia sesión con su cuenta de Google. .

Su cuenta eventualmente sería eliminada, según una página de inicio de sesión de Google, pero podría apelar la decisión. Hizo clic en el botón Iniciar función y escribió en un cuadro de texto que sus hijos de 7 años pensaban que “los traseros son divertidos” y eran responsables de subir el video.

«Esto me está perjudicando económicamente», añadió.

Los defensores de los niños y los legisladores de todo el mundo han estado presionando a las empresas de tecnología para que impidan la difusión de imágenes abusivas en línea mediante el seguimiento de dicho material en sus plataformas. Muchos proveedores de comunicaciones ahora escanean fotos y videos guardados y compartidos por sus usuarios en busca de imágenes conocidas de abuso que hayan sido denunciadas a las autoridades.

Google también quería poder marcar contenido nunca antes visto. Hace unos años se desarrolló un algoritmo — entrenado en imágenes conocidas — que busca identificar nuevo material de exploración; Google lo ha puesto a disposición de otras empresas, incluidas Meta y TikTok.

Después de que un empleado confirmara que el vídeo publicado por el hijo de la Sra. Watkins era problemático, Google lo denunció al Centro Nacional para Niños Desaparecidos y Explotados, una organización sin fines de lucro que sirve como cámara de compensación federal para contenido marcado. Luego, el centro puede agregar el video a su base de datos de imágenes conocidas y decidir si lo reporta a las autoridades locales.

Google es uno de los principales reporteros de “aparente pornografía infantil”, según las estadísticas del centro nacional. Google ha archivado más de dos millones de informes el año pasado, mucho más que la mayoría de las empresas de comunicaciones digitales, aunque menos que el número presentado por Meta.

(Es difícil medir la gravedad del problema del abuso infantil basándose únicamente en cifras, dicen los expertos. Un estudio de una pequeña muestra de usuarios marcados por compartir imágenes inapropiadas de niños, los científicos de datos de Facebook dijeron que más del 75% «no mostró ninguna intención maliciosa». Los usuarios incluyeron adolescentes en una relación romántica que compartían imágenes íntimas de ellos mismos y personas que compartieron un «meme de los genitales de un niño siendo mordido por un animal porque piensan que es gracioso»).

Apple resistió la presión para escanear iCloud en busca de material de explotación. Un portavoz señaló una carta que la empresa envió a un grupo de defensa este año, expresando preocupación sobre la «seguridad y privacidad de nuestros usuarios» e informa «que partes inocentes han sido arrastradas a redes distópicas».

El otoño pasado, la jefa de confianza y seguridad de Google, Susan Jasper, escribió en una publicación de blog que la empresa planeaba actualizar su proceso de apelaciones para «mejorar la experiencia del usuario» para las personas que «creen que tomamos malas decisiones». En un gran cambio, la empresa ahora proporciona más información sobre por qué se suspende una cuenta, en lugar de una notificación genérica sobre una «violación grave» de las políticas de la empresa. A la Sra. Watkins, por ejemplo, le dijeron que la explotación infantil era la razón por la que había sido excluida.

De todos modos, las repetidas apelaciones de la Sra. Watkins fueron denegadas. Tenía una cuenta paga de Google, lo que le permitía a ella y a su esposo intercambiar mensajes con agentes de servicio al cliente. Pero en correspondencia digital revisada por The Times, los agentes dijeron que el video, aunque fue un acto inconsciente de un niño, aún violaba las políticas de la empresa.

El castigo draconiano por un vídeo tonto parecía injusto, afirmó Watkins. Se preguntó por qué Google no pudo advertirle antes de cortarle el acceso a todas sus cuentas y a más de 10 años de recuerdos digitales.

Después de más de un mes de intentos fallidos de cambiar la opinión de la empresa, Watkins contactó al Times. Un día después de que un periodista preguntara sobre su caso, su cuenta de Google fue restaurada.

«No queremos que nuestras plataformas se utilicen para poner en peligro o explotar a los niños, y existe una demanda generalizada de que las plataformas de Internet tomen medidas más estrictas para detectar y prevenir el CSAM», dijo la compañía en un comunicado, utilizando un acrónimo ampliamente utilizado para niños. abuso sexual. material de abuso. «En este caso, entendemos que el contenido infractor no se subió de forma maliciosa». La empresa no tuvo respuesta sobre cómo intensificar la denegación de una apelación más allá de enviar un correo electrónico a un periodista del Times.

Google se encuentra en una posición difícil cuando intenta juzgar tales capacidades, dijo Dave Willner, investigador del Centro de Política Cibernética de la Universidad de Stanford que ha trabajado en confianza y seguridad en varias grandes empresas de tecnología. Incluso si una foto o un vídeo son de origen inocente, pueden compartirse de forma maliciosa.

«Los pedófilos compartirán imágenes que los padres tomaron sin causar daño o las reunirán en colecciones porque sólo quieren ver a niños desnudos», dijo Willner.

El otro desafío es el gran volumen de contenido potencialmente explotador que Google señala.

«Es simplemente un problema muy, muy difícil de resolver el que regula el juicio de valor a esta escala», dijo Willner. “Toman cientos de miles o millones de decisiones al año. Cuando tiras los dados tantas veces, se te pondrán ojos de serpiente”.

Dijo que la lucha de Watkins después de perder el acceso a Google era «un buen argumento para extender la vida digital» y no depender de una sola empresa para tantos servicios.

Watkins aprendió una lección diferente de la experiencia: los padres no deberían usar su propia cuenta de Google para las actividades de sus hijos en Internet y en su lugar deberían configurar una cuenta dedicada, una opción que Google para fomentar.

Todavía no ha creado esta cuenta para sus gemelos. Ahora tienen prohibido el acceso a Internet.