En un trágico suceso, TikTok eliminó una función de seguridad para millones de usuarios como parte de un experimento y uno de los afectados, un adolescente de 16 años llamado Chase Nasca, se quitó la vida. Este joven formó parte de un grupo de control donde los algoritmos de la plataforma no contaban con las medidas de protección diseñadas para reducir contenido dañino, lo que resultó en una exposición constante a vídeos sobre suicidio y depresión.
La modificación del algoritmo, implementada a principios de 2022, tenía como objetivo mejorar la experiencia del usuario al diversificar el contenido en la plataforma. Sin embargo, aproximadamente el 10% de los usuarios estadounidenses, cerca de 15 millones, mantuvieron el acceso a la versión anterior, que no incluía las salvaguardias. Chase, al no tener esta protección, recibió más de 7,500 recomendaciones de vídeos que incluían temas de sufrimiento emocional, soledad y autolesiones, lo que resultó en un entorno tóxico para su salud mental.
El caso de Chase ha generado un debate considerable sobre la responsabilidad de las plataformas digitales en la seguridad de sus usuarios, especialmente los más jóvenes. Documentos filtrados revelan que el contenido recomendado a Chase estaba diseñado para captar su atención, lo que ha llevado a críticas sobre cómo las redes sociales priorizan la retención de usuarios sobre su bienestar. A pesar de la tragedia, TikTok ha declarado que no considera que su plataforma haya contribuido a los suicidios.
Tras el incidente, TikTok se ha visto bajo el escrutinio tanto en Estados Unidos como en Europa por su manejo de la seguridad del contenido. Aunque la plataforma ha prometido reforzar sus medidas de seguridad, la comunidad sigue preocupada por el impacto que estas decisiones pueden tener en la salud mental de sus usuarios. La situación de Chase Nasca resalta la urgencia de abordar estos problemas de manera responsable y efectiva.
