Inteligencia artificial

Detector de riesgo

En el marco de un concurso internacional, investigadores de Exactas UBA diseñaron un sistema que permite detectar de manera automática los casos que requieren atención urgente en foros de salud mental. Obtuvieron el primer puesto en tres de los cuatro problemas a resolver.

26 Dic 2018 POR

Drogas, bullying, sexualidad, imagen corporal, soledad… En la Internet existe una cantidad infinita de foros donde los y las jóvenes discuten entre pares acerca de estos y otros temas que los atañen. Cuando están sostenidos por instituciones especializadas, esos espacios de discusión cuentan con uno o más moderadores, que son expertos en detectar si alguno de los participantes del foro corre algún tipo de riesgo y, en tal caso, intervenir.

Reachout.com es una organización australiana sin fines de lucro, sostenida con fondos públicos y privados, que ofrece salas temáticas virtuales donde miles de jóvenes conversan de manera anónima acerca de un problema específico. Los moderadores de ese sitio web están atentos a los discursos de los participantes y están entrenados para intervenir apropiadamente ante cualquier parlamento que deje entrever situaciones de riesgo que puedan ser más o menos peligrosas para un o una joven.

Para poder responder de acuerdo con la urgencia de atención que requiere cada caso, los moderadores disponen de un protocolo para clasificar a los individuos en cuatro categorías según el riesgo potencial: verde (no requiere atención), amarillo (alerta), rojo (peligro) y crisis (casos urgentes, como la ideación suicida).

El aumento creciente de participantes en los foros de Reachout condujo a un escenario en el que la supervisión del moderador deja de ser factible sin la ayuda de sistemas automatizados de priorización. Entonces, en el marco de un congreso de la Association for Computational Linguistics, Reachout decidió organizar una competencia internacional en la que se premiarían los mejores sistemas de detección automática de casos urgentes en foros de salud mental.

De la contienda participaron 15 equipos de investigadores de Estados Unidos, Rusia, China, Alemania, Canadá, Bélgica y Argentina, que debían dar soluciones “automáticas” a cuatro tareas: 1) discriminar verdes de no verdes, 2) distinguir urgentes (rojos+crisis) de no urgentes, 3) diferenciar crisis de no crisis y 4) separar a los individuos en los cuatro niveles de riesgo.

“Obtuvimos el primer premio en las tres primeras tareas y el segundo premio en la restante”, informa Edgar Altszyler, del Laboratorio de Inteligencia Artificial Aplicada (LIAA) de la Facultad de Ciencias Exactas y Naturales de la UBA.

Discursos en crisis

Para su trabajo, el equipo argentino utilizó una técnica del ámbito de la inteligencia artificial denominada machine learning (aprendizaje automático). Esta herramienta informática posibilita que, mediante algoritmos (programas de computación), una computadora aprenda. En este caso, a diferenciar automáticamente a los grupos de riesgo en el foro de salud mental. Para ello, se debe alimentar a la computadora con información específica.

Para la competencia, los organizadores le dieron a cada equipo los textos de 1188 posteos, previamente etiquetados según las cuatro categorías de riesgo y con su fecha correspondiente. Además, a cada grupo le proporcionaron los “hilos” de las conversaciones relacionadas con esos posteos. Con esa información, los equipos se pusieron a trabajar.

“La mayoría de los estudios en esta área se focalizan en el contenido de los textos. El aspecto original de nuestro trabajo consistió en tomar en cuenta, además, otros elementos contextuales que, hasta ahora, nadie había aprovechado, como el historial del individuo y sus interacciones con otras personas en la red de conversaciones”, revela Altszyler.

Los desarrollos de cada equipo fueron luego evaluados por los organizadores mediante un testeo efectuado con otras 400 conversaciones extraídas de los foros. Los resultados mostraron que el sistema diseñado por el equipo argentino, dirigido por Diego Fernández Slezak, investigador del CONICET en el LIAA, pudo distinguir automáticamente entre verdes y no verdes con una eficiencia de alrededor del 90%. Asimismo, diferenció los casos urgentes de los no urgentes con un 70% de éxito. En tanto que los casos críticos fueron discriminados de los no críticos con un 50% de eficacia: “Dado que los casos críticos son poco frecuentes, un 50% de detección no es un mal resultado”, acota Altszyler.

Finalmente, en la tarea de separar a los participantes del foro en los cuatro niveles de riesgo un equipo chino obtuvo el máximo score (46,7), relegando a los argentinos al segundo lugar (46,2).

Los resultados del trabajo que, además de Altszyler y Slezak, lo firman Ariel Berenstein, David Milne y Rafael Calvo, están disponibles en los Proceedings of the Fifth Workshop on Computational Linguistics and Clinical Psychology.

Según escriben los autores en el paper: “La detección automática de la ideación suicida en las redes sociales y en los foros aporta una herramienta poderosa para encarar intervenciones tempranas en situaciones serias. Además, estas técnicas permiten monitorear la prevalencia de diferentes factores de riesgo de suicidio en la población, lo cual provee información valiosa que puede capitalizarse para el diseño de planes de prevención”.