隨著技術(shù)的加速發(fā)展,人工智能(AI)在決策過(guò)程中發(fā)揮著越來(lái)越重要的作用。人類越來(lái)越依賴算法來(lái)處理信息、推薦某些行為,甚至代表他們采取行動(dòng)。
但是,如果真的讓 AI 幫助、甚至代替我們來(lái)做決策,尤其是涉及主觀的、道德倫理相關(guān)的決策,你能接受嗎?
近日,一個(gè)來(lái)自廣島大學(xué)的研究小組探究了人類對(duì)引入人工智能決策的反應(yīng)。具體來(lái)說(shuō),他們通過(guò)研究人類與自動(dòng)駕駛汽車的互動(dòng),探討了一個(gè)問(wèn)題:“社會(huì)準(zhǔn)備好接受人工智能道德決策了嗎?”
該團(tuán)隊(duì)于2022年5月6日在 Journal of Behavioral and Experimental Economics 上發(fā)表了他們的發(fā)現(xiàn)。
在第一個(gè)實(shí)驗(yàn)中,研究人員向529名人類受試者展示了駕駛員可能面臨的道德困境。在研究人員創(chuàng)建的場(chǎng)景中,汽車駕駛員必須決定是將汽車撞向一群人還是另一群人,而且碰撞是不可避免的。也就是說(shuō),事故將對(duì)一組人造成嚴(yán)重傷害,但會(huì)挽救另一組人的生命。
實(shí)驗(yàn)中的人類受試者必須對(duì)汽車駕駛員的決定進(jìn)行評(píng)分,駕駛員有可能是人類,也有可能是人工智能。以此,研究人員旨在衡量人們可能對(duì)人工智能道德決策產(chǎn)生的偏見(jiàn)。
(來(lái)源:廣島大學(xué))
在他們的第二個(gè)實(shí)驗(yàn)中,563名人類受試者回答了研究人員提出的一些相關(guān)問(wèn)題,以確定人們對(duì)AI在成為社會(huì)的一部分后,對(duì)人工智能倫理決策有何反應(yīng)。
在這個(gè)實(shí)驗(yàn)中,有兩種情況。其中一個(gè)涉及一個(gè)假設(shè)的政府,該政府已經(jīng)決定允許自動(dòng)駕駛汽車做出道德決定;另一個(gè)場(chǎng)景允許受試者“投票”是否允許自動(dòng)駕駛汽車做出道德決定。在這兩種情況下,受試者都可以選擇支持或反對(duì)技術(shù)做出的決定。
第二個(gè)實(shí)驗(yàn)旨在測(cè)試將人工智能引入社會(huì)的兩種替代方式的效果。
研究人員觀察到,當(dāng)受試者被要求評(píng)估人類或人工智能駕駛員的道德決定時(shí),他們對(duì)兩者都沒(méi)有明確的偏好。然而,當(dāng)受試者被問(wèn)及是否應(yīng)該允許人工智能在道路上做出道德決定的明確意見(jiàn)時(shí),受試者對(duì)人工智能駕駛的汽車有更強(qiáng)烈的意見(jiàn)。
(來(lái)源:jonesday)
研究人員認(rèn)為,這兩個(gè)結(jié)果之間的差異是由兩種因素共同造成的。
第一個(gè)要素是,很多人認(rèn)為整個(gè)社會(huì)不希望人工智能做與倫理道德相關(guān)的決策,因此當(dāng)被問(wèn)及對(duì)此事的看法時(shí),他們會(huì)被自己的觀念所影響。
“事實(shí)上,當(dāng)參與者被明確要求將他們的答案與社會(huì)的答案區(qū)分開(kāi)來(lái)時(shí),人工智能和人類司機(jī)之間的差異就會(huì)消失!睆V島大學(xué)人文社會(huì)科學(xué)研究生院助理教授 Johann Caro-Burnett 說(shuō)。
第二個(gè)要素是,在將這項(xiàng)新技術(shù)引入社會(huì)時(shí),是否允許討論該相關(guān)話題的結(jié)果,因國(guó)家而異。“在人們信任政府并擁有強(qiáng)大政府機(jī)構(gòu)的地區(qū),信息和決策權(quán)有助于受試者評(píng)估人工智能道德決策的方式。相比之下,在人們不信任政府且制度薄弱的地區(qū),決策能力惡化了受試者評(píng)估人工智能道德決策的方式!盋aro-Burnett 說(shuō)。
“我們發(fā)現(xiàn),社會(huì)對(duì) AI 道德決策存在恐懼。然而,這種恐懼的根源并不是個(gè)人所固有的。事實(shí)上,這種對(duì)人工智能的拒絕來(lái)自個(gè)人認(rèn)為是社會(huì)的看法!睆V島大學(xué)人文社會(huì)科學(xué)研究生院教授 Shinji Kaneko 說(shuō)。
圖 | 平均而言,人們對(duì) AI 駕駛員的道德決策的評(píng)價(jià)與人類駕駛員的評(píng)價(jià)沒(méi)有區(qū)別。但是,人們并不想讓人工智能在路上做出道德決定(來(lái)源:廣島大學(xué))
因此,當(dāng)沒(méi)有被明確詢問(wèn)時(shí),人們不會(huì)表現(xiàn)出任何對(duì)人工智能道德決策有偏見(jiàn)的跡象。然而,當(dāng)被明確詢問(wèn)時(shí),人們表現(xiàn)出對(duì)人工智能的厭惡。此外,在增加了關(guān)于該主題的討論和信息的情況下,人工智能的接受度在發(fā)達(dá)國(guó)家有所提高,而在發(fā)展中國(guó)家則惡化。
研究人員認(rèn)為,這種對(duì)新技術(shù)的拒絕,主要是由于個(gè)人對(duì)社會(huì)意見(jiàn)的信念,很可能適用于其他機(jī)器和機(jī)器人。“因此,重要的是要確定個(gè)人偏好如何匯總為一種社會(huì)偏好。此外,正如我們的結(jié)果所表明的那樣,這類結(jié)論在各國(guó)之間也必須有所不同。