En un esfuerzo por abordar la creciente crisis de salud mental entre los jóvenes, diversas escuelas en Estados Unidos están utilizando inteligencia artificial (IA) para prevenir el suicidio juvenil.
Estos sistemas de IA monitorean los dispositivos de los estudiantes y alertan al personal escolar si detectan mensajes o comportamientos que podrían indicar un riesgo de autolesión.
Un ejemplo reciente ocurrió en Neosho, Misuri, donde un software de IA gestionado por el distrito escolar detectó que una estudiante de dieciséis años, Madi, había enviado un mensaje a una amiga diciendo que pensaba tomar una sobredosis de su medicamento para la ansiedad. La información llegó al orientador jefe del colegio, quien alertó a la policía. Cuando llegaron a la casa de Madi, ya había tomado alrededor de quince pastillas, pero lograron llevarla al hospital a tiempo.
Estos sistemas de IA, como GoGuardian, Gaggle, Lightspeed, Bark y Securly, se han expandido rápidamente durante la pandemia, ya que más estudiantes comenzaron a usar dispositivos escolares en casa. Aunque han sido efectivos en algunas situaciones, también han generado preocupaciones sobre la privacidad y la invasión de la vida personal de los estudiantes.
