AI應(yīng)該獲得道德意識嗎

哲學(xué)家彼得·辛格（Peter Singer）認(rèn)為，會感到疼痛的生物都應(yīng)該擁有道德感。他認(rèn)為非人類動物也具有道德立場，因為它們會感到痛苦。

隨著真正的人工智能技術(shù)的發(fā)展，道德地位問題變得越來越重要。如果認(rèn)可機(jī)器人具有道德地位，那么它們就擁有生命權(quán)。這意味著您不能簡單地拆除它們。

IBM的深藍(lán)色國際象棋機(jī)器經(jīng)過訓(xùn)練，可以擊敗大師級加里·卡斯帕羅夫。但這也并不表明它有自己的思想，深藍(lán)象棋機(jī)器人具通過計算機(jī)編輯的具有特定領(lǐng)域智能的機(jī)器人。

另一方面，有一種智力可以使自己做好各種事情。這稱為領(lǐng)域通用情報。這就是讓人們做飯，滑雪和撫養(yǎng)孩子-這些任務(wù)既相關(guān)，又非常不同。

人工智能（AGI）是具有領(lǐng)域通用情報的機(jī)器的術(shù)語?？梢哉f沒有機(jī)器能夠顯示出這種智能。今年夏天，一家名為OPENAI的初創(chuàng)公司發(fā)布了其Generative Pre-Training語言模型的新版本。GPT-3是一種自然語言處理系統(tǒng)，經(jīng)過培訓(xùn)可以讀寫，因此人們可以輕松理解。

這不僅是因為它具有模仿風(fēng)格和合理組合內(nèi)容的能力，還因為它與先前版本相距甚遠(yuǎn)。盡管有如此出色的性能，但GPT-3除了如何以各種方式將單詞串在一起之外，實際上并不知道任何其他信息。

圖靈測試以具有開創(chuàng)性的AI研究人員艾倫·圖靈（Alan Turing）的名字命名，可幫助確定AI何時智能。與隱藏的AI對話的人能否分辨出是AI還是人類？

意識有兩個部分

首先，是體驗的“我”方面，即意識的感官部分。哲學(xué)家稱這種現(xiàn)象意識。這是關(guān)于您如何體驗一種現(xiàn)象的，例如聞到玫瑰的氣味或感到疼痛。

相比之下，還有訪問意識。這就是報告，推理，行為和行動的能力，以協(xié)調(diào)和響應(yīng)的方式對基于目標(biāo)的刺激做出反應(yīng)。例如，當(dāng)我將足球傳給我的朋友在球門上打球時，我是對視覺刺激做出反應(yīng)，從先前的訓(xùn)練中表演，并追求由比賽規(guī)則確定的目標(biāo)。我會在比賽流程中自動進(jìn)行傳球，而無需深思熟慮。

盲人很好地說明了兩種意識類型之間的區(qū)別。例如，患有這種神經(jīng)系統(tǒng)疾病的人可能會報告說，他們在視野的左側(cè)看不到任何東西。但是，如果要求他們從視野左側(cè)的一系列物體中拿起筆，他們可以可靠地這樣做。他們看不到筆，但是在提示時可以拿起筆-這是無意識的訪問意識示例。

android數(shù)據(jù)表明他具有自我意識，因為他可以監(jiān)視自己是否處于最佳狀態(tài)（例如，他是否處于最佳充電狀態(tài)）或機(jī)械臂是否受到內(nèi)部損壞。

數(shù)據(jù)在一般意義上也是智能的。他在較高的水平上做了很多不同的事情。他可以駕駛企業(yè)，接受上尉的命令，并與他一起商討最佳路線。

他還可以和他的船東玩撲克，做飯，與親密朋友討論熱門話題，與外星人的敵人戰(zhàn)斗以及從事各種形式的體力勞動。數(shù)據(jù)具有訪問意識。

但是，數(shù)據(jù)極有可能缺乏意識-例如，他不喜歡玫瑰的香味或感到疼痛。他體現(xiàn)了視力的超大版本。他具有自我意識，具有訪問意識-可以握筆-但在所有感官上他都缺乏明顯的意識。

現(xiàn)在，如果數(shù)據(jù)不感到痛苦，那么至少Singer提供給生物的道德地位的原因之一就無法實現(xiàn)。但是即使沒有痛苦，數(shù)據(jù)也可能滿足遭受痛苦的其他條件。痛苦可能并不需要痛苦本質(zhì)上那樣的驚人意識。

例如，如果苦難也被定義為在追求正義的過程中受到挫敗而又不傷害他人的想法呢？假設(shè)數(shù)據(jù)的目標(biāo)是解救他的船員，但由于四肢受傷，他無法接近她。數(shù)據(jù)功能的減少使他無法挽救船員，這是一種非現(xiàn)象性的痛苦。他本來希望挽救船員的，如果他這樣做的話，情況會更好。

問題最終不是基于數(shù)據(jù)是否具有自我意識，這是毫無疑問的。他是否有才智也不成問題–他很容易證明自己具有一般意義。目前尚不清楚他是否具有非凡的意識。數(shù)據(jù)不會被拆除，因為最終，他的人類法官無法就意識對于道德立場的重要性達(dá)成共識。

人工智能應(yīng)該獲得道德嗎？

數(shù)據(jù)是善良的-他的行為是為了支持他的船員以及他在外星球遇到的人的福祉。他服從人民的命令，似乎不太可能傷害他們，而且他似乎在保護(hù)自己的存在。由于這些原因，他顯得和平而容易接受具有道德地位的事物的領(lǐng)域。

您不能僅僅因為一個AI違背人類意愿或違背另一個AI的利益，就說它沒有道德立場?，F(xiàn)在是時候考慮賦予他們道德上的地位了。
責(zé)任編輯:tzh