POR: BARBARA ORTUTAY AND MATT O’BRIEN
Un sistema de denuncias creado hace 26 años para combatir la explotación infantil en internet no ha estado a la altura de su potencial y necesita mejoras tecnológicas y de otro tipo para ayudar a las autoridades a perseguir a los abusadores y rescatar a las víctimas, encontró un informe del Stanford Internet Observatory, un programa de investigación, enseñanza y compromiso político para el estudio del abuso en tecnologías de la información e internet.
Las soluciones a lo que los investigadores describen como un servicio “enormemente valioso” también deben llegar con urgencia, ya que las nuevas capacidades de la inteligencia artificial (IA) amenazan con empeorar sus problemas.
“Es casi seguro que, en los próximos años, CyberTipline se verá inundado de contenido (realizado) con IA de aspecto muy realista, lo que va a dificultar aún más que las fuerzas del orden identifiquen a niños reales que necesitan ser rescatados”, dijo la investigadora Shelby Grossman, una autora del informe.
El servicio fue establecido por el Congreso estadounidense como el principal frente de defensa para los niños que son explotados en internet. Por ley, las empresas de tecnología deben reportar cualquier material de abuso sexual infantil que encuentren en sus plataformas al sistema centralizado, que es operado por el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC, por sus siglas en inglés), la organización de protección infantil más grande de Estados Unidos. Después de recibir los informes, el NCMEC intenta encontrar a las personas que enviaron o recibieron el material, así como a las víctimas, si es posible. Estos informes se envían luego a las autoridades.
Si bien la gran cantidad de informes que llegan al CyberTipline abruma a las autoridades, los investigadores dicen que el volumen es solamente uno de varios problemas centrales del sistema. Por ejemplo, muchos de los informes enviados por empresas de tecnología —como Google, Amazon y Meta— carecen de detalles importantes, como información suficiente sobre la identidad del delincuente, según el informe. Esto dificulta que la policía sepa qué informes priorizar.
“Hay problemas importantes con todo el sistema en este momento, y esas grietas se convertirán en abismos en un mundo en el que la IA está generando CSAM completamente nuevos”, dijo Alex Stamos, profesor de Stanford y experto en ciberseguridad. Las iniciales CSAM (child sexual abuse materials) significan materiales de abuso sexual infantil.
El sistema está rezagado tecnológicamente y está plagado por un desafío constante entre las plataformas tecnológicas del gobierno y de las organizaciones sin fines de lucro: la falta de ingenieros altamente calificados, a quienes se les pueden pagar salarios mucho más altos en la industria tecnológica. A veces, esos empleados incluso son reclutados por las mismas empresas que envían los reportes.
Luego están las limitaciones legales. Según el informe, las decisiones judiciales han llevado al personal del NCMEC a dejar de examinar algunos archivos —por ejemplo, si no están disponibles públicamente— antes de enviarlos a las autoridades. Muchas autoridades creen que necesitan una orden de registro para acceder a esas imágenes, lo que vuelve lento el proceso. A veces, se necesitan varias órdenes judiciales o citaciones para identificar al mismo criminal.
También es fácil que el sistema se distraiga. El informe revela que el NCMEC recientemente alcanzó un hito de un millón de reportes en un solo día debido a un meme que se difundía en múltiples plataformas, que algunas personas encontraron divertido y otras compartieron por indignación.
“Ese día, de hecho, los llevó a hacer algunos cambios”, explicó Stamos. “Les tomó semanas superar ese retraso” al facilitar la agrupación de esas imágenes.
El sistema CyberTipline recibió más de 36 millones de informes en 2023, casi todos desde plataformas en línea. Facebook, Instagram y Google fueron las empresas que enviaron la mayor cantidad de reportes. El número total ha aumentado espectacularmente.
Casi la mitad de las denuncias enviadas el año pasado eran procesables, lo que significa que el NCMEC y las autoridades podían darles seguimiento.
Cientos de informes se referían al mismo criminal y muchos incluían múltiples imágenes o videos. Un 92% de los reportes presentados en 2023 involucraron a otros países, no a Estados Unidos, un gran cambio respecto de 2008, cuando la mayoría involucraba a víctimas o delincuentes dentro de Estados Unidos.
Algunas son falsas alarmas. “Las autoridades se vuelven locas cuando reciben estos reportes y perciben que definitivamente se trata de adultos”, dijo Grossman a los periodistas. “Pero el sistema incentiva a las plataformas a ser muy conservadoras o a reportar contenido potencialmente dudoso, porque si se descubre que ha sido CSAM y lo sabían y no lo reportaron, podrían ser multadas”.
Una solución relativamente sencilla propuesta en el informe mejoraría la forma en que las plataformas tecnológicas etiquetan lo que reportan para distinguir entre memes ampliamente compartidos y algo que merece una investigación más detallada.
Los investigadores de Stanford entrevistaron a 66 personas involucradas con el sistema CyberTipLine, desde agentes del orden hasta personal del NCMEC y empleados de plataformas en línea.
El NCMEC dijo que esperaba “explorar las recomendaciones internamente y con los participantes clave”.
“A lo largo de los años, la complejidad de los reportes y la gravedad de los crímenes contra niños siguen evolucionando. Por lo tanto, aprovechar las soluciones tecnológicas emergentes en todo el proceso del CyberTipline conduce a que se proteja a más niños y a hacer que los criminales rindan cuentas”, dijo el Centro en un comunicado.
Entre los otros hallazgos del informe:
— El formulario de denuncia del CyberTipline no tiene un campo dedicado para presentar material relacionado con un chat, como mensajes de “sextorsión” (extorsión sexual). El FBI advirtió recientemente sobre un “enorme aumento” en los casos de sextorsión que tienen como objetivo a niños, incluida la sextorsión financiera, en la que alguien amenaza con publicar imágenes comprometedoras a menos que la víctima pague.
— Los detectives dijeron a los investigadores de Stanford que les resulta difícil persuadir a sus superiores para que den prioridad a estos delitos, incluso después de que les presentan descripciones detalladas por escrito para enfatizar su gravedad. “Hacen un gesto de dolor cuando las leen y realmente no quieren pensar en esto”, dijo Grossman.
— Muchos oficiales dijeron que no pudieron investigar completamente todos los informes debido a limitaciones de tiempo y recursos. Un solo detective puede ser responsable de 2.000 informes al año.
— Fuera de Estados Unidos, especialmente en los países más pobres, los desafíos en torno a los informes de explotación infantil son especialmente severos. Es posible que los organismos encargados de hacer cumplir la ley no tengan conexiones estables a internet, “computadoras decentes” o incluso gasolina para los automóviles y así ejecutar órdenes de registro.
— La legislación pendiente aprobada por el Senado de Estados Unidos en diciembre requeriría que las plataformas denuncien el tráfico sexual infantil y la incitación en línea al CyberTipline, y darían a las autoridades más tiempo para investigar la explotación sexual infantil. Actualmente, el sistema de denuncias no ofrece formas directas para reportar sospechas de tráfico sexual.
Si bien algunos defensores han propuesto leyes de vigilancia más intrusivas para atrapar a los abusadores, Stamos, exdirector de seguridad de Facebook y de Yahoo, dijo que antes deberían probar soluciones más simples.
“No hay necesidad de violar la privacidad de los usuarios si quieres encarcelar a más pedófilos. Están sentados allí mismo”, opinó Stamos. “El sistema no funciona muy bien para tomar la información que existe actualmente y luego convertirla en procesamientos judiciales”.
