歡迎光臨
每天分享高質量文章

為什麼必須以負責任的方式發展AI

蒙特利爾宣言:為什麼必須以負責任的方式發展人工智慧

原文: The Montréal Declaration: Why we must develop AI responsibly

源: https://theconversation.com/the-montreal-declaration-why-we-must-develop-ai-responsibly-108154

 

導讀:

  1. 機器不像人類那樣具備諒解和寬容的品質。

  2. 根據自動化替代物的經濟效益,市場力量決定了哪些工作將消失,哪些工作的工作量將減少。但我們也是公民,由於我們的專業知識,我們能以獨特的方式,參與有關這些問題的社會和政治討論。

  3. 技術創新的標的是減輕而非加重人類的不幸。技術創新也不是為了加劇歧視和不公,但AI可能加劇二者。

 

原文翻譯:

隨著AI邁入社會,其影響可以是正面的,也可以是負面的。未來在我們手中。

 

我研究智慧已經有30年了。和我的大多數同事一樣,我不涉足技術客體的研究,但我對智慧概念的抽象性質感興趣,所以我希望瞭解智慧。這就是科學:瞭解萬物。

 

然而,當一群研究人員瞭解了某個新東西的時候,那些知識既能用之以善,也能用之以惡。

 

 

這就是我們現在面臨的局面——人工智慧(AI)科學離開大學實驗室邁入社會的轉折點。在過去五六年裡,Facebook和谷歌等大公司對該領域投入了極大的熱情,斥巨資收購AI公司,併進行內部研發。於是,AI研究取得了巨大進展。企業非常希望利用這方面的知識,來開拓新的市場和開發新的產品,提高他們的效率。

 

隨著AI邁入社會,必然會對社會產生影響。結果會怎樣?這取決於我們自己的選擇。未來在我們手中。

 

 

殺手機器人,失業

 

 

從一開始就讓我擔憂不已的一個問題是致命性自動化武器,也被稱為殺手機器人。這是一個道德問題,因為在心理和道德層面上,機器不像人類那樣具備諒解和寬容的品質。而同時這也是一個安全問題,因為殺手機器人可能破壞世界秩序。迅速浮現的另一個問題是自動化導致的失業現象。我們不禁要問:為什麼?我們試圖造福何人,防止什麼?路上的卡車司機不高興?他應該被非人的東西替代?

 

 

 

 

機器已經在很多方面取代了人類。它還會走多遠?

 

 

我們這些科學家似乎對此無能為力。根據自動化替代物的經濟效益,市場力量決定了哪些工作將消失,哪些工作的工作量將減少。但我們也是公民,由於我們的專業知識,我們能以獨特的方式,參與有關這些問題的社會和政治討論。

 

計算機科學家關心失業問題。不是因為他們擔心自己會失業,實際上恰恰相反,他們的飯碗更有保證。他們覺得自己負有責任,不希望他們的研究讓無數人流落街頭。

 

調整社會保障體系

 

因此,計算機科學家,尤其是AI領域的計算機科學家,強烈主張調整社會保障體系,建立某種保證工資制度,我稱之為有保證的人類尊嚴。

 

 

技術創新的標的是減輕而非加重人類的不幸。

 

 

技術創新也不是為了加劇歧視和不公,但AI可能加劇二者。

 

 

有人說,歧視是因為AI是由男性創造的,技術行業里的女性極少。事實並非如此。歧視主要是因為AI所使用的資料反映了人們的行為。不幸的是,那些行為存在偏見。

 

 

也就是說,如果一個系統依靠的資料來自於人們的行為,那麼這個系統將擁有和那些人同樣的偏見與歧視。該系統將不是“政治正確”的,它不是按照社會的道德觀念行事,而是按照人們的共同特性行事。

 

 

社會是帶有歧視的,如果我們不小心謹慎,系統可能保留或加劇那種歧視。

 

這也可能形成惡性迴圈。例如,警方使用這種系統來識別犯罪率較高的地區,向那裡派出更多的警察,他們將報告更多的犯罪。於是,統計資料強化了系統的偏見。

 

好訊息是,科學家目前正在研究開發最大程度減少歧視的演算法。儘管如此,政府必須出台措施,迫使企業採用這些演算法。

 

輓救生命

 

 

還有另一個好訊息。醫療領域將是受到AI影響最大的領域之一。這不僅僅關係到省錢。

 

醫生也是人,也會犯錯。因此,我們用越多的資料來開發系統,錯誤就會越少。這樣的系統比最優秀的醫生都更加準確。他們已經在使用這些系統,以免漏掉重要因素,比如在醫學影像中難以發現的癌細胞。

 

 

 

 

AI提供的資料將使患者的醫療檔案得到更有效地解讀

 

 

還有新藥物的研發。在分析關於藥物和其他分子的大量資料(超過人類力所能及的範疇)方面,AI能做得更好。我們還沒有實現這一點,但潛力在那裡,患者的醫療檔案能得到更有效地分析。

 

未來的工具將讓醫生髮現在其他情況下難以發現的聯繫,幫助醫生制定可以輓救生命的治療方案。

 

醫療系統在10年內徹底革新的可能性非常高。顯然,這種進步對所有人都極為重要。

 

我不擔心醫療行業的失業問題。我們將始終需要醫療專家的能力和判斷。不過,我們必須加強社會規範(法規條例),以保護隱私(患者的資料不應該被不當使用),積累資料,好讓AI被用來以更好的方式治愈更多的人。

 

解決之道在於政治

 

 

由於上述的所有這些問題和即將出現的其他問題,《人工智慧負責任發展蒙特利爾宣言》具有重要意義。該宣言於12月4日在藝術與技術學會簽署,當時有大約500人在場。

 

它是以廣泛的共識為基礎。我們在網絡上和書店里向人們咨詢建議,收集各學科專業人士的意見。哲學家、社會學家、法理學家和AI研究人員參與了宣言的制定過程,所以其中包含了方方面面的專業知識。

 

這一宣言有多個版本。第一版是在2017年11月2日蒙特利爾大學組織的一個AI負責任發展論壇上起草的。

 

那是該宣言的誕生地。

 

其標的是確立某些原則,為採用新法規奠定基礎,確保AI以負責任的方式發展。當前的法律並不完全適應新的形勢。

 

技術的濫用

技術的倫理或濫用問題最終會變成政治問題,因此屬於集體決策的範疇。

 

社會如何組織?這是政治問題。

 

知識如何利用?這是政治問題。

 

我感受到了地方和中央政府致力於負責任發展的強烈意願。

 

加拿大是AI領域的科學領袖,是率先認清AI潛力並制定全國性計劃的國家之一,也擁有擔任社會領袖角色的意願。

 

兩年來,蒙特利爾處於這種意識的最前沿。我在歐洲也感受到了同樣的意願,包括法國和德國。

 

一般而言,科學家不願與政治牽扯過多。但如果他們關心的問題將對社會產生巨大影響,他們肯定會擔起自己的責任,參與討論。

 

在這場談論中,我意識到,社會已經給了我發言的機會。由於我是AI科學發展的先行者,政府和媒體很想知道我對這些話題的看法。

 

因此,就我而言,這不僅僅是責任,還是我的義務。我別無選擇。

    赞(0)

    分享創造快樂