Detección de señales de violencia en redes sociales: un enfoque desde la ciencia de datos

Abstract

El presente estudio tiene como objetivo identificar señales de violencia verbal en comentarios y publicaciones en redes sociales mediante herramientas de ciencia de datos. Para ello, se utilizó un enfoque mixto (cuantitativo - cualitativo) con un diseño secu encial exploratorio, de tipo aplicado y alcance descriptivo. Se recopilaron y analizaron 2343 comentarios extraídos de YouTube, los cuales fueron procesados utilizando técnicas de minería de texto y aprendizaje automático. La clasificación de los comentari os en violentos y no violentos se llevó a cabo mediante el modelo DistilBERT , el cual alcanzó una precisión del 94.12%, una exactitud del 94.05% y un área bajo la curva (AUC) de 0.98. Además, se diseñó una herramienta digital basada en Django y Plotly que permite visualizar patrones de violencia verbal en redes sociales mediante gráficos interactivos y reportes automatizados. La plataforma facilita la detección de términos agresivos y su distribución en los comentarios analizados, proporcionando un sis tema eficiente para el monitoreo y análisis del lenguaje en entornos digitales. Los resultados evidenciaron que la violencia verbal en redes sociales se presenta principalmente en comentarios breves, con una alta concentración de términos agresivos. Asimismo, se identificaron limitaciones en la interpretación del contexto y en la clas ificación de expresiones ambiguas, lo que sugiere la necesidad de mejorar la comprensión semántica del modelo. El estudio contribuye al campo del PLN y la detección automatizada de discursos agresivos en redes sociales, proporcionando un marco metodológico sólido para el análisis de violencia verbal en entornos digitales.