Одной из проблем, с которой сталкиваются многие технологические стартапы, является то, как бороться с вредным контентом. Приложение Music.ly сталкивается именно с этой проблемой. Исследователи провели изучение приложения, чтобы узнать, подходит ли оно для детей. Они обнаружили, что на платформе много ключевых слов, ссылающихся на самоповреждение, таких как #cutting и #selfhate.

BuzzFeed News принял к сведению это изучение и связался с Music.ly. В этот момент служба предприняла шаги, чтобы запретить поиск ключевых слов, упомянутых в статье. Music.ly сказала BuzzFeed, что «процесс ее запрета на слова в поиске всегда развивается».

Но вопрос в том, достаточно ли этого. Понятно, что организация Music News обратилась к Music.ly с просьбой принять меры для решения этой проблемы. В качестве услуги, ориентированной прежде всего на подростков, компания должна была рассмотреть свой подход к смягчению чувствительных вопросов, таких как самоповреждение.

Еще в 2016 году Instagram разработала инструменты предотвращения самоубийств, которые позволили пользователям отправлять сообщения от людей, которым может потребоваться помощь, а также предлагать варианты поддержки для конкретных поисков хештегов. Теперь, когда человек хочет причинить себе вред и интересуется данной информацией, появляется всплывающее окно, которое позволяет пользователям получать поддержку одним щелчком мыши.