В Соединенных Штатах школы все чаще используют приложения искусственного интеллекта для оценки студентов на предмет потенциальных рисков суицида. Эти системы интегрированы в устройства студентов для выявления ключевых слов или фраз, указывающих на вредные намерения.
Родители и педагоги сообщают, что предупреждения от этих электронных систем могут позволить своевременно вмешиваться в критические моменты для подростков. Этот проактивный подход соединяет студентов с высоким риском с консультациями до того, как они окажутся в опасной ситуации.
Инструменты мониторинга ИИ теперь следят за миллионами американских студентов, а результаты раскрываются родителям в ежегодных соглашениях о технологиях. В течение учебного дня отмеченные студенты могут быть выведены из класса для оценки. Если не удается связаться с родителями, сотрудники правоохранительных органов могут посетить студентов дома, чтобы убедиться в их безопасности.
Многие консультанты выражают мнение, что это программное обеспечение помогает выявлять детей, которые молча борются, позволяя своевременно оказать поддержку. Некоторые даже колеблются, стоит ли прекращать уведомления во время летних каникул.
Тем не менее, исследователи и эксперты в области психического здоровья подчеркивают опасения по поводу эффективности и надежности алгоритмов, поскольку технологические компании, предоставляющие программное обеспечение, не публиковали свои выводы и не делились данными с независимыми экспертами. Остается неясным, как часто система пропускает студентов, которые могут быть под угрозой.
Врачи, работающие с отмеченными детьми, утверждают, что данные достаточно точны, и все выявленные случаи были достаточно серьезными, чтобы требовать госпитализации. Многие родители не знали о тревожных состояниях и суицидальных наклонностях своих детей.
Согласно недавнему опросу Центров по контролю и профилактике заболеваний, каждый пятый ученик средней школы в США (около трех миллионов) сообщил, что думал о самоубийстве в прошлом году, при этом вдвое меньше признали, что пытались. Ежегодные случаи смертей среди молодежи младше 24 лет составляют около 7000.