穀歌完成AI項目倫理審查 AI用法引爭議

今（jīn）年6月，穀歌繼微軟、Facebook和其它公司之後（hòu），公（gōng）布穀歌人工智能工作七項原則。(1)必須對社會有益，(2)避免創建或加強偏見，(3)建立和測試安全，(4)負責的人，(5)把握隱私設計（jì）原則，(6)堅持高標準的科學卓越，和(7)適用（yòng）於符合所有原則的用途。

6個月後的今天，它（tā）就其執行這些指（zhǐ）導方針的努（nǔ）力跟（gēn）進了最（zuì）新進（jìn）展。穀歌（gē）負責全球事務的高級副總裁肯特·沃克(KentWalker)在一篇博（bó）客文章中表示，已經建立一個評估新項目、新產品和新交易正式審查架構，目前已完成100多項審查。一些人已經決定修改（gǎi）視覺語音識別研究，推遲通用麵部識別等技術商業（yè）應（yīng）用。

Google AI

沃克說：“AI原則應該如（rú）何應用必須深思熟慮，當原則發生（shēng）衝突時（shí）如何做出權衡，以及如何（hé）在給（gěi）定情（qíng）況下降（jiàng）低風險等。”

穀歌AI倫理審查（chá）團隊由研究人員、社會科學家、倫理學家，人權專家、政策和（hé）隱（yǐn）私顧問，法律專家，社會（huì）科學家們（men）處理初（chū）始評估和日常操作（zuò），第二組高級專（zhuān）家從一係列學科在Alphabet-Google的母公司提供技術、功能和（hé）應用專業知識。一個由高管組成的委員會負責處理更複雜和困難（nán）問題，包括影響穀歌產品和技術的決策。

最近，穀歌因為Maven項目而受到批評。Maven是五角大樓一個有爭議（yì）研究項目，它利用人工智能提高（gāo）軍用無人機目標識別能力。根據（jù）Maven項目合同，它向五角大樓提供了開（kāi）源（yuán）AI框架（jià）TensorFlow。它還計劃建立一個類似穀（gǔ）歌地球監視係統，允許國防部分析人員和承（chéng）包商點擊（jī）建（jiàn）築物、車（chē）輛、人群和地標，查看（kàn）與之相關（guān）的（de）一切。穀歌的參與（yǔ）促使數十名員工（gōng）辭職，另外4000多（duō）人簽署了（le）一封公開反對信。今年夏天，這封信促使（shǐ）穀歌起草了一份內部道（dào）德政（zhèng）策（cè），指導穀歌參與未來軍事（shì）項目。

準確地說，穀歌（gē）並不是唯一的一家有爭（zhēng）議人工智（zhì）能應用而受到批評公司（sī）。

今年夏（xià）天，亞馬遜將Rekognition，一種基於雲計算的圖像分析技術，通過亞馬遜網絡服務部（bù）門提供給佛（fó）羅裏達州奧蘭多市和俄勒岡州華盛頓縣執法部門（mén）。亞馬遜對（duì）美國公民（mín）自由聯盟提出了質疑。在一項準確性測試中，Rekognition公司證明，當它從一個公共來源提供了2.5萬（wàn）張臉部照片，並（bìng）將其與國會議（yì）員的官方照（zhào）片進（jìn）行比對時，錯認了28張罪犯。

今年9月，Intercept的一（yī）篇報道透露，IBM與紐約市警察局合作開發了一種係（xì）統，允許官員根據膚色、頭發（fā）顏色、性別、年齡和各種麵（miàn）部特征搜索人。通過使用其提供大約（yuē）50個攝像頭拍（pāi）攝的（de）數千張照片，人工智（zhì）能學會了識別衣服顏色和其他身體特征。