Desarrollan un filtro inteligente para reducir la exposición a contenido hostil en redes sociales
El proyecto se lleva adelante en Córdoba e inicialmente se centrará en Instagram. Cómo funciona.
Salud mental. Desarrollan un filtro inteligente para reducir la exposición a contenido hostil en redes sociales
El proyecto se lleva adelante en Córdoba e inicialmente se centrará en Instagram. Cómo funciona.
Investigadoras del Conicet-UNC se encuentran en pleno desarrollo de un filtro inteligente para redes sociales destinado a desjerarquizar contenido hostil. Con la herramienta buscan reducir la exposición del usuario a interacciones dañinas y disminuir su impacto sobre la salud mental.
Diversos estudios señalan que el uso de redes sociales puede asociarse con mayores niveles de ansiedad, síntomas depresivos y menor bienestar subjetivo, particularmente en personas de entre 18 y 29 años, etapa caracterizada por mayor vulnerabilidad psicosocial.
La problemática adquiere cada vez más relevancia en Argentina con un sostenido aumento de los indicadores de malestar psicológico. En 2025 las muertes por suicidio superaron a los homicidios y accidentes de tránsito en todo el país según el último informe de Dirección Nacional de Estadística Criminal del Ministerio de Seguridad.
En Córdoba, un informe oficial del Observatorio de Salud Mental y Adicciones de la Secretaría de Salud de la Municipalidad de Córdoba reflejó que los suicidios aumentaron un 36% en 6 años y se concentraron en varones de entre 25 y 44 años.
En ese contexto las investigaciones muestran que la exposición a insultos, expresiones de odio, hostigamiento, humillaciones y descalificaciones en redes sociales se asocia con más ansiedad, depresión y dificultades en la regulación emocional. A su vez, los algoritmos favorecen y amplifican su visualización priorizando contenido capaz de generar reacciones emocionales intensas y aumentando la confrontación.
Sin embargo y debido a las funciones importantes que las redes cumplen hoy, su prohibición o restricción no parece como un camino viable o adecuado frente a los efectos negativos detectados.
Hoy existen muchos estudios sobre el tema pero pocas propuestas de soluciones intermedias como la que estamos desarrollando. Partimos de una preocupación sobre el aumento del malestar en la salud mental en el país y el papel de las redes como mediadoras de nuestras interacciones, explica a La Voz la doctora en psicología y parte del grupo de investigación, Silvina Brussino.
Otra de las investigadores del equipo, la científica Mila Francovich, suma: empezamos a pensar en el vínculo entre estos contenidos, la recomendación algorítmica y sus efectos nocivos en la sintomatología de salud mental. Nos dimos cuenta de la dificultad que hay para intervenir sobre esa recomendación tanto desde el lugar como desde el Estado y pensamos en esta herramienta.
Cómo opera la herramienta
El filtro funciona como una extensión de navegador que interviene directamente sobre el feed de las plataformas en su versión web. No tiene necesidad de acuerdos con las empresas propietarias ya que opera directamente desde el navegador del usuario y no requiere acceso a APIs privadas. En principio se desarrollará para Instagram.
Con técnicas de aprendizaje automático, la herramienta permite identificar contenidos potencialmente dañinos. A partir de esa clasificación, el filtro modifica la posición de esas publicaciones dentro del feed y reduce su visibilidad relativa mientras mantiene el acceso general a la información y la dinámica habitual de la plataforma.
Pensamos en la desjerarquización y no en la eliminación porque las redes sociales ya tienen mecanismos de censura para contenidos explícitos que funcionan con una lógica binaria en la que una vez que el contenido se publicó, permanece o se elimina, detalla Francovich.
Brussino destacó el carácter innovador del desarrollo: Hoy se discute eliminar el uso de los celulares en las escuelas con medidas radicales, pero la prohibición no siempre funciona como la mejor forma de aliviar estos procesos. Lo que nosotras proponemos es una herramienta que te permite convivir con las redes y aprender de eso.
El filtro además incorporará un sistema de configuración personalizada para adaptar la intervención según las necesidades, valores y objetivos de cada usuario. Esto posibilitará ajustar el volumen de contenido dañino a moderar, elegir temáticas específicas o adecuar el funcionamiento a distintos contextos socioculturales.
El desarrollo tiene potencial de ser adoptado por universidades, organismos públicos y organizaciones sociales vinculadas a salud mental, juventudes y prevención de violencias digitales. Su arquitectura además permite adaptarla a otras redes sociales y ampliar su aplicación hacia distintos entornos digitales.
El desarrollo forma parte del Concurso de proyectos innovadores de la UNC de 2026 UNC innova.
¿Qué es contenido dañino?
Consultadas sobre la manera en que determinarán qué contenido es dañino u hostil y cuál no, las investigadoras admitieron que se encuentran ante un desafío.
Nos orientamos a contenido menos explícito y que una red social quizás no censuraría en principio como comentarios degradantes, humillantes, burlas, acoso, hostigamiento, bullying, expresiones de odio o descalificaciones dirigidas a personas o grupos, detalla Francovich.
Y suma: nos interesa profundizar la definición porque sabemos que no es el contenido más agresivo el único que afecta a la salud mental. También aparece la ostentación del lujo o la comparación de los cuerpos, por ejemplo.
Por su parte, Brussino aclara que definir el contenido dañino requiere de un análisis del lenguaje natural de las redes, algo que abordarán en su próxima etapa de estudio y que se relaciona con el anclaje cultural y territorial. La especialista en esta área es la restante integrante del equipo, la doctora en Lingüística General, Laura Alonso Alemany.
Ahora tenemos que hacer una prueba experimental para evaluar el funcionamiento de la herramienta. Será con mediciones repetidas en grupos de control a los que se les pedirá instalar la extensión web. Empezamos a partir del segundo semestre, dijo Brussino.
Esta evaluación, también relevará variables vinculadas al uso de redes sociales, como tiempo de exposición, frecuencia de uso y modalidad de interacción. Esto permitirá comprender en qué condiciones el filtro resulta más efectivo y generar evidencia empírica sobre su funcionamiento en contextos reales de uso.
Financiamiento
Actualmente las investigadoras no cuentan con financiamiento específico para este proyecto, sino que lo desarrollan a pulmón y derivando fondos desde otras investigaciones en las que están implicadas.
Nos hemos presentado en convocatorias pero hasta ahora solo hemos obtenido felicitaciones y reconocimiento por la importancia que tiene. Con fondos específicos este desarrollo podría estar listo en 7 u 8 meses y no sería necesario un gran monto para trabajar, admite Brussino.
Y agrega: los financiamientos que nuestro equipo tenía para otros proyectos se dieron de baja desde el gobierno. El recorte es brutal y hoy solo hay cinco becas en psicología para todo el país. Es muy difícil continuar con este tipo de desarrollos en esta situación.
La científica remarca además cómo la agenda política argentina afecta al financiamiento de las investigaciones de acuerdo con su rubro.
Aunque Argentina tiene una situación preocupante en sintomatología psicológica, la agenda política está orientada a otras prioridades, como el desarrollo productivo. Además de considerarse menos importante, la salud mental tampoco tiene buena prensa ni alta visibilización, por lo que en esa carrera siempre queda detrás, cierra.
