Искусственный интеллект - это ключевая часть всего, что делает Facebook, от чат-ботов в Messenger до включения персонализированных рекомендаций, которые вы получаете в таких приложениях, как Instagram. Но, как и технология, для создания новых и более глубоких опытов для пользователей, Facebook говорит, что самая важная роль ИИ заключается в том, чтобы сохранить свое сообщество в безопасности.

Сегодня в F8 главный технический директор компании Майк Шрепфер рассказал о том, насколько ценна технология для борьбы с злоупотреблениями на ее платформе, включая разжигание ненависти, издевательства и террористический контент. Шрепфер указал на статистику, опубликованную Facebook в прошлом месяце, в которой показано, что ее инструменты ИИ удалили почти 2 миллиона фрагментов террористической пропаганды, причем 99 процентов из них были замечены до того, как человек даже сообщил об этом.

Шропфер сказал, что несмотря на то, что это многообещающие цифры, Facebook знает, что еще предстоит сделать много работы, и ей необходимо продолжать развивать технологию, особенно потому, что плохие люди, продвигающие этот тип контента, все чаще становятся умнее. Один из способов, которым Facebook планирует это сделать, заключается в том, что она вкладывает значительные средства в исследования искусственного интеллекта и находит способы заставить его работать в больших масштабах без особого (если такового) человеческого наблюдения.

Все это является частью плана Facebook написать книгу безопасности, в которой могут следовать другие технические компании. Вот почему, помимо своей собственной команды, она работает с внешними учеными-исследователями для разработки наилучших возможных систем ИИ.

Изабель Клоуманн, научный сотрудник Facebook, сказала, что одна из самых больших проблем с ИИ - это обучать его объективности. Поскольку технология настолько новая, ее трудно проверить на справедливость и обеспечить, чтобы она включала в свои решения разнообразный набор голосов. Видение, язык и рассуждения, сказал Шропфер, являются тремя наиболее важными факторами в обучении системе искусственного интеллекта, которая будет эффективной и точной при снятии всех оскорбительных материалов, которые появляются на платформах Facebook. В принципе, они должны заставить его думать как человек, но непредвзятый.