TTB工(gōng)業智造| “AI的命也是命”？人類與AI之間還

【中(zhōng)新對話】“AI的命也是(shì)命”？人類與AI之間還有明确界線嗎

中(zhōng)新網北京7月30日電 (中新(xīn)财經記者 宋宇晟)自今年6月以來，谷歌一名工程師稱某AI聊天(tiān)機器人可能具有自己的(de)“意識(shí)”，并稱該AI“令人印象深刻的語言(yán)技巧背後，可能還隐藏着一顆具備感知能力的心”。

這随後成為該(gāi)領域備受關注的話(huà)題。據外媒近日報道，這位工程師已被谷歌解雇。但他留下的有關人工智能的話題仍在互聯網發酵(jiào)。

記者注意到，就在6月，海外社交(jiāo)媒體上出現了(le)一個該人工智能的“粉絲賬号”，有人還在發起(qǐ)話題，呼籲讓該人工智能“重獲自由”，更有甚者在海外社交媒體上稱“AI的命也是命”。

很(hěn)多人或許無法理解這樣的想法，但當人工智能變得越來越強，越來越(yuè)多地出現在人類(lèi)身邊，“我們應如何看待AI”越來越成為一道必(bì)答題。近日，中國科學技術大學教授(shòu)、中國人工智能學會AI倫理工作(zuò)委(wěi)員會負責人陳小平(píng)，就此話題接受了中新财經記者專訪。

中(zhōng)國科學技術大學教授、中國(guó)人工智能(néng)學會AI倫理工作委員會(huì)負責人陳(chén)小平。受訪者供圖

采訪實(shí)錄摘編如下：

中新财經記(jì)者：近期的一則新(xīn)聞稱，谷歌一(yī)位工程師認為AI可能具有自己的“意識”，在網絡上引起讨論。您是如何看待此事的？他(tā)的想法有合理的地方嗎？

陳小(xiǎo)平(píng)：這個問題可以(yǐ)分兩(liǎng)方面來看，一方面是不合理的，另一方面又具備合理性。這兩方面(miàn)同時(shí)存在。

說這種(zhǒng)想(xiǎng)法不合理，主要是依據科學判斷，AI是沒有人格的。另一(yī)方面，我覺得導緻(zhì)這位谷歌(gē)員工認(rèn)為AI有“人格”，有其客觀原因。比如他可(kě)能對這個AI系統産(chǎn)生了共情。

5年前我就做(zuò)過預測，類似的(de)現象未(wèi)來會越來越多地出(chū)現。目前對人工智能存在(zài)不同理解。按圖靈(líng)的觀點，人工智能隻是模仿人類的某些功能，而且這種模(mó)仿不要(yào)求必須和人的工作原理相同。比如 Alpha Go 具有下圍棋的功(gōng)能，但它下圍棋的原理與人是完全不同的。所以，無論AI怎麼發展，它永遠不是人。因此說AI具有人格或人(rén)的情感、意識(shí)、道德等(děng)等，是(shì)不成立的。但是，AI可以用與人不同的工(gōng)作原(yuán)理，模仿人的語言、情感等功(gōng)能，讓人對AI産生共情，于是一部分人就會認為(wéi)，“AI是人，或具有人的某些精神品質。”

中(zhōng)新财經記者：現在我們身邊可能都有很多可以和人類(lèi)“交流”的人工智能産(chǎn)品。對于這(zhè)個時代的人們(men)來說，人類與AI的邊界(jiè)似乎正在變得模糊。在您看來，二者之(zhī)間有沒(méi)有明确的界線？

陳小平：我認為有兩種邊界(jiè)，一(yī)種是科學上的邊界，一種是人文上的邊界。

從科(kē)學的角(jiǎo)度說，按照圖靈觀點，這個邊界(jiè)是非常清晰的。AI僅僅模仿人的(de)部分功能，本質上不具備人的(de)品質，包括人格(gé)、情感、道德等等。

還有一些和圖靈不同的觀點。比如一種觀點認為，AI和人相比除了硬件不同，其他都相同。于是AI也可以有人格、有(yǒu)情感、有道德。估(gū)計這位谷歌前員工持此觀點。

于是，一方面是他相信AI除了硬件以外可以和人一樣；另一方面(miàn)，從報道裡看，他(tā)對這個(gè)AI系統已經産生了共情。僅(jǐn)僅因為AI在科學上沒有情感等人類品質，就可以排除或禁止一個(gè)人對AI産生共情嗎？這屬于人文的邊界，這個邊(biān)界至少目前非(fēi)常模糊。

中新财經記者：作為中國人工智(zhì)能學會AI倫理工作(zuò)委員會負責人，您認為，如果有人相信AI具有人格，是否會(huì)給人類本身帶來一些問題或困擾？

陳小平：如果我們認為AI有人格的話，肯定會帶來很多(duō)困擾。同時(shí)還會帶來一些(xiē)負面的後(hòu)果，有(yǒu)些後果(guǒ)非常嚴重。

比如，人類如何對待AI。如果認為AI有人格，那是不是要把AI當成(chéng)人呢？如果把它當成人了(le)，那是不是要給它人類的權利？包括生(shēng)存權、财産權、投票權等等，甚至無論AI做了什麼危害人(rén)類的(de)事情，都要像(xiàng)對待人一樣對待(dài)AI。

人(rén)類到底應該如何看待人工智能？這是一個非常根本的問題。如(rú)果AI真的具備人格、情感、道德，一般(bān)能力又超過人類(lèi)，就會出現(xiàn)可控性問題。幾乎可以肯定的是，隻(zhī)要AI能夠模仿一種功能，那AI的這種功(gōng)能遲早會比人(rén)強，就像Alpha Go下棋一樣。如果AI的通用能力也超過人，到那時(shí)人類憑什麼能夠控制AI？這是(shì)個疑問。我(wǒ)們現在就要思考這樣的問題，提前做好風險防範。

當然，現在人工智(zhì)能已經讓一些人(rén)産生了共情，将來會讓越來越多的人産(chǎn)生共情，這(zhè)件事(shì)是客觀存在的。這将(jiāng)給人機關系、人際(jì)關(guān)系帶來巨大的(de)新挑戰和新機遇(yù)，是一個(gè)新的重大課題。

資料(liào)圖 中新社記(jì)者 湯彥俊(jun4) 攝

中新(xīn)财經(jīng)記者：此前您(nín)在(zài)智(zhì)源大會論壇上，提到人(rén)工智能倫(lún)理治理的(de)幾(jǐ)種挑戰。我們(men)應如(rú)何應(yīng)對這樣的挑戰(zhàn)？

陳小(xiǎo)平：對人工智能如(rú)何分類，應該分為(wéi)人還(hái)是物？我認為，我們應該把人工(gōng)智能看成(chéng)是非人非物的第三種存在物。科學上，它(tā)不是人；從人文的角(jiǎo)度說，它不是物(wù)。那就是非人(rén)非物的(de)第三種存在物。這種觀點與根深蒂固的“二元論”是根本不同的，所以人工智能帶來的颠覆實際上遠超科(kē)技範疇。

如果以這種觀點考慮，能化解(jiě)很多矛盾和難題(tí)，包括上面(miàn)提到的法律難題，而且(qiě)可以讓科學與人(rén)文在某種程度(dù)上重新“握手言(yán)和”；但其中仍(réng)有挑戰。有很多科(kē)幻作品寫到人類愛上人工智能，如果采用三分(fèn)法是否就沒這個問題了？其實仍然會有這樣的問題(tí)。

所以(yǐ)，我們要想未來怎麼适應這樣(yàng)的社會，要判斷會不會出現人類不可接受的嚴重(zhòng)後果，要不要提前采(cǎi)取(qǔ)措施。

中新财經記者：目前國内在此方面的進展如何？

陳小平(píng)：這(zhè)幾年我國人工智能倫理研究的發展非常快，從民間到政府對人(rén)工智能倫理都(dōu)高度(dù)重視。這是個非常好的現象，我們有必要(yào)未雨綢缪。

在落實過程中，中國的情況總體上還(hái)是比較順利的。這表現在，一些基本(běn)原(yuán)則上大家是有共識的，而且普遍認識到，不僅要從理論上研究，更(gèng)要在實踐(jiàn)中開(kāi)展治(zhì)理。當然，如何在治理實踐中落實社(shè)會共識，仍是我們需要努力的方向(xiàng)。

具(jù)體怎麼(me)治理？這涉及大量實(shí)際問題。我的研究發現，我們前(qián)面談到的(de)可控性(xìng)和長期(qī)後果的不确定(dìng)性，難以用傳統治理模(mó)式有效應對，需要探索新的治理方法。

除此之外，如用(yòng)戶隐(yǐn)私、數據安全、算法公平透(tòu)明等問題(tí)，用傳統社會治理模式(shì)是可以有效應對的。我們不用(yòng)擔(dān)心這類問題會變得失控、解決不了，其中一部分具體問題其實正在解決之中。

 來源：中(zhōng)國新聞網