《人工智能羅馬倡議》建議對AI監(jiān)管，微軟和IBM加入

　　原標(biāo)題：《人工智能羅馬倡議》建議對AI監(jiān)管，微軟和IBM宣布加入

　　人工智能該如何使用，如何保證其安全、穩(wěn)定和可靠？

　　面對新技術(shù)，梵蒂岡官員公布了促進(jìn)人工智能倫理使用的原則，呼吁對人工智能的發(fā)展制定嚴(yán)格的道德標(biāo)準(zhǔn)。當(dāng)?shù)貢r間2月28日，微軟、IBM兩家科技公司簽署了這份《人工智能倫理羅馬倡議》（Rome Call for AI Ethics，下稱“倡議”)。

　　羅馬倡議提出了六項主要原則：透明度，包容性，責(zé)任感，公正性，可靠性，安全性和隱私性，倡議認(rèn)為，技術(shù)應(yīng)該“保護(hù)人們”，尤其是“弱勢群體”。他們還敦促世界各地的決策者對人權(quán)有更高影響風(fēng)險的先進(jìn)技術(shù)創(chuàng)建新的監(jiān)管形式，比如人臉識別技術(shù)。

　　倡議在開頭的介紹中提到，“人工智能”（AI）正在給人類生活帶來深刻變化，并將繼續(xù)如此。人工智能在改善社會共存和個人福祉，增強(qiáng)人類能力，以及在實(shí)現(xiàn)或促進(jìn)更有效地執(zhí)行任務(wù)方面，具有巨大潛力。但是，這些并不是絕對的。人工智能還會影響執(zhí)行這些任務(wù)的方式，以及我們感知現(xiàn)實(shí)和人性本身的方式，以至于它們還會影響我們的心理和人際習(xí)慣。因此，我們必須按照確保AI能在為整個“人類家庭”服務(wù)的標(biāo)準(zhǔn)下進(jìn)行研究和生產(chǎn)，確保其會尊重每個成員和所有自然環(huán)境，并考慮到弱者的需求。

　　“AI是非常有前途的技術(shù)，它可以幫助我們讓世界變得更加智能、更加健康、更加繁榮，”IBM副總裁John Kelly III在簽署協(xié)議后表示，“但前提是它一開始就受到人類利益和價值觀的影響?！?/p>

　　據(jù)John Kelly III表示，梵蒂岡提出的倡議源于一年多前教皇弗朗西斯( Pope Francis )對人工智能及其對社會影響的擔(dān)憂?！八饕P(guān)心的是，這是不是人人都能得到的，還是會進(jìn)一步分裂富人和無家可歸者？”John Kelly III在接受采訪時稱，他還提到，梵蒂岡官員還擔(dān)心 AI 會取代工作崗位。

　　梵蒂岡方面希望確保在未經(jīng)個人同意的情況，公司不會將AI用作收集數(shù)據(jù)的手段，然后將這些數(shù)據(jù)用于商業(yè)或政治利益。最新的例子是，600多家執(zhí)法機(jī)構(gòu)和私人公司在使用面部識別公司Clearview AI開發(fā)的軟件，該軟件在人們不知情的情況下抓取面部數(shù)據(jù)。該公司的數(shù)據(jù)庫能從各種在線站點(diǎn)提取30億張圖像。就在近日，Clearview AI遭遇重大數(shù)據(jù)泄露，完整客戶名單在這次泄露中被盜，名單中的客戶包括美國警方、執(zhí)法機(jī)構(gòu)和銀行。

　　該倡議還提出，人類必須建立一種解釋責(zé)任體制，基于AI的算法應(yīng)向個人提供有關(guān)這些算法如何做出決策的信息，以確保沒有偏見。

　　目前，微軟和IBM成為首批簽署倡議的科技公司。梵蒂岡方面希望在未來幾個月內(nèi)能夠讓AI倫理倡議的簽署人數(shù)量繼續(xù)增加。此外，他們還希望通過跟來自全球各地的大學(xué)展開合作，以此來推動更多的科學(xué)研究進(jìn)入AI倫理指南領(lǐng)域。