Facebook пытается бороться с самоубийствами. Но может сделать только хуже
У Facebook есть инструмент для мониторинга аккаунтов, владельцы которых склонны к самоубийствам. Но гарвардский психиатр обеспокоен тем, что этот инструмент может усугубить проблему, обострив психический кризис потенциального самоубийцы.
После запуска инструмента для прямой трансляции видео «Facebook Live» несколько человек использовали его для трансляции своих самоубийств. Сначала это были 14-летняя девочка и мужчина из США, позже — парень из Турции.
Facebook поручил своей команде по безопасности срочно что-то предпринять. Результатом стал алгоритм отслеживания самоубийств, который работает с 2017 года и, по данным компании, уже более 3,5 тыс. раз участвовал в отправке срочных служб к потенциальным самоубийцам.
Facebook пытается бороться с самоубийствами. Но может сделать только хужеКАК ЭТО РАБОТАЕТ? Используя технологию распознавания образов, инструмент идентифицирует посты и прямые трансляции, которые, предположительно, выражают намерение самоубийства. Он сканирует текст в сообщении вместе с комментариями к нему, такими как «Вы в порядке?». Когда сообщение оценивается как «потенциально самоубийственное», оно отправляется сначала модератору контента, а затем обученному сотруднику, который должен уведомлять службы спасения. Facebook утверждает, что лишь «соединяет людей с поддерживающими сообществами, а не предоставляет психиатрические услуги». Это – все, что известно о механизме работы инструмента.
Гарвардский психиатр и технический консультант Джон Торус обеспокоен тем, что инструмент Facebook может принести больше вреда, чем пользы.
Facebook пытается бороться с самоубийствами. Но может сделать только хужеНОВЫЙ УРОВЕНЬ. Инструмент мониторинга самоубийств от Facebook – это один из примеров того, как рушатся барьеры, отделяющие технологии от здравоохранения. Растущий ассортимент онлайн-продуктов и услуг преодолевает разрыв между инновациями в области здравоохранения и технологическими новинками. Медики этим обеспокоены, а разработчики технологий говорят о революции здравоохранения.
Один из создателей алгоритма, Дэниел Рейденберг, согласен, что это, скорее, медицинское исследование в области психиатрии. «Нет ни одной более продвинутой компании в этой области, чем Facebook», – считает он.
Из-за проблем с конфиденциальностью сотрудники служб экстренной помощи не могут сообщить Facebook, что произошло на месте возможного самоубийства и была ли польза от работы алгоритма.
Джон Торус, специализирующийся на прогнозировании самоубийств, скептически относится к разработке соцсети. Он пришел к выводу, что модели поведения почти не могут успешно предсказать попытку самоубийства, а алгоритм соцсети – бесполезен.
После запуска инструмента для прямой трансляции видео «Facebook Live» несколько человек использовали его для трансляции своих самоубийств. Сначала это были 14-летняя девочка и мужчина из США, позже — парень из Турции.
Facebook поручил своей команде по безопасности срочно что-то предпринять. Результатом стал алгоритм отслеживания самоубийств, который работает с 2017 года и, по данным компании, уже более 3,5 тыс. раз участвовал в отправке срочных служб к потенциальным самоубийцам.
Facebook пытается бороться с самоубийствами. Но может сделать только хужеКАК ЭТО РАБОТАЕТ? Используя технологию распознавания образов, инструмент идентифицирует посты и прямые трансляции, которые, предположительно, выражают намерение самоубийства. Он сканирует текст в сообщении вместе с комментариями к нему, такими как «Вы в порядке?». Когда сообщение оценивается как «потенциально самоубийственное», оно отправляется сначала модератору контента, а затем обученному сотруднику, который должен уведомлять службы спасения. Facebook утверждает, что лишь «соединяет людей с поддерживающими сообществами, а не предоставляет психиатрические услуги». Это – все, что известно о механизме работы инструмента.
Гарвардский психиатр и технический консультант Джон Торус обеспокоен тем, что инструмент Facebook может принести больше вреда, чем пользы.
«Мы как общественность участвуем в этом грандиозном эксперименте, но мы не знаем, полезен он или нет. Компания может сказать, что это работает. Но нет никаких проверенных доказательств этого», – говорит Торус. Он утверждает, что инструмент может найти не тех пользователей и подтолкнуть человека к суициду, обострить или даже создать кризис психического здоровья там, где его не было.
Facebook пытается бороться с самоубийствами. Но может сделать только хужеНОВЫЙ УРОВЕНЬ. Инструмент мониторинга самоубийств от Facebook – это один из примеров того, как рушатся барьеры, отделяющие технологии от здравоохранения. Растущий ассортимент онлайн-продуктов и услуг преодолевает разрыв между инновациями в области здравоохранения и технологическими новинками. Медики этим обеспокоены, а разработчики технологий говорят о революции здравоохранения.
Один из создателей алгоритма, Дэниел Рейденберг, согласен, что это, скорее, медицинское исследование в области психиатрии. «Нет ни одной более продвинутой компании в этой области, чем Facebook», – считает он.
Из-за проблем с конфиденциальностью сотрудники служб экстренной помощи не могут сообщить Facebook, что произошло на месте возможного самоубийства и была ли польза от работы алгоритма.
Джон Торус, специализирующийся на прогнозировании самоубийств, скептически относится к разработке соцсети. Он пришел к выводу, что модели поведения почти не могут успешно предсказать попытку самоубийства, а алгоритм соцсети – бесполезен.
