Плохо реализованный ИИ может «поставить под угрозу демократию», - говорит президент Франции Эммануэль Макрон

03.04.2018 3:20 30

Плохо реализованный ИИ может «поставить под угрозу демократию», - говорит президент Франции Эммануэль Макрон

Франция объявила о новой национальной стратегии ИИ, включая государственное финансирование на сумму почти 1,5 млрд. евро. Но президент страны, Эммануэль Макрон, обеспокоен тем ущербом, который эта технология могла бы сделать, если бы не руководствовалась должным образом. В интервью Wired он сказал, что даже риск ИИ может «поставить под угрозу демократию».

Макрон обеспокоен необъяснимыми алгоритмами «черного ящика», которые внедряются в общество и принимают решения, ранее возложенные на людей. Он привел пример алгоритма, используемого для сортировки студентов в университетах, и сказал, что если его работу нелегко понять, это может разрушить доверие и побудить людей «отвергать» инновации. «Я должен быть уверен в своих людях, что в этом алгоритме нет предвзятости, по крайней мере, несправедливого уклона», - сказал он.

Чтобы защититься от этой угрозы, Макрон сказал, что правительство Франции сделает все возможное, чтобы открыть данные, используемые системами ИИ, и оказать давление на частные компании, чтобы сделать то же самое. «Очевидно, некоторые из них скажут, что в моем алгоритме есть коммерческая ценность, я не хочу делать его прозрачным. Но я думаю, что нам нужна честная дискуссия между поставщиками услуг и потребителями, которые также являются гражданами», - сказал Макрон.

В интервью президент Франции также подчеркнул, что Европе необходимо играть большую роль в формировании будущего искусственного интеллекта. Он определил США и Китай в качестве нынешних лидеров сектора, но сказал, что ни одна из ценностей страны полностью не совпадает с ценностями Европы. В США, говорит Макрон, работа «полностью зависит от частного сектора», в то время как в Китае исследования «управляются правительством, принципы и ценности которого не наши».

Европейский союз исторически защищал конфиденциальность цифрового контента и принимает законодательство, которое позволяет индивидууму лучше контролировать свои собственные данные (о чем свидетельствует недавнее Общее правило защиты данных). Макрон сказал, что если бы континент хотел перенести эти ценности в 21-й век, он должен был стать «действующей частью этой революции в области ИИ» и помочь «провести дискуссию в глобальном масштабе».

Макрон беспокоятся о том, что многие в сообществе ИИ, которые хвалят потенциальные выгоды технологии, также предупреждают, что это может привести ко всем опасным ситуациям, особенно если они злоупотребляются энергоемкими корпорациями или тоталитарными правительствами. И, как и в случае с другими типами новых технологий, решение неизбежно будет состоять из граждан и правительств, а не только компаний. Как сказал Макрон в Wired: «Это приводит меня к выводу, что эта огромная технологическая революция на самом деле является политической революцией».