Google говорит, что ее военная работа по ИИ будет определяться этическими принципами

30.05.2018 22:20 9

Google говорит, что ее военная работа по ИИ будет определяться этическими принципами

Контракт Google в Пентагоне и ее участие в проекте Maven для армии вызвали споры как за пределами компании, так и внутри нее. Ее план по предоставлению технологий ИИ, которые могут помочь обрабатывать видео с дронов, привел к внутренней петиции, подписанной тысячами сотрудников, которые выступают против решения, а также ряда отставок. Теперь New York Times сообщает, что Google работает над набором руководящих принципов, направленных на руководство решения компании в отношении контрактов на оборону и разведку.

На прошлой неделе исполнительный директор Сундар Пичаи сказал сотрудникам, что компания хочет разработать принципы, которые «выдержат испытание временем», согласно представленным замечания, и Google сообщила New York Times, что эти руководящие принципы будут запрещать использование ИИ в вооружении. Как они это сделают, в настоящее время неясно, но сотрудники заявили, что ожидали, что принципы будут объявлены в течение ближайших нескольких недель.

Какими бы ни были эти руководящие принципы, было бы неудивительно видеть продолжение реакции на контракт компании с Пентагоном. Запрет на сотрудничество с вооруженным ИИ может оказаться недостаточным для того, чтобы подавить проблемы, если есть вероятность того, что «неагрессивное» участие, как называет его Google, может привести к наступательным действиям, таким как удары дронов.

Ранее в этом месяце сотрудник, который покинул Google из-за контракта, сказал Gizmodo: «Я не был счастлив, просто излагая свои внутренние проблемы. Самое сильное возможное заявление, которое я мог бы принять против, состояло в том, чтобы уйти».