人工智能犯罪:先行預(yù)防還是事后嚴(yán)懲
◇刑法規(guī)定了多種生產(chǎn)不符合標(biāo)準(zhǔn)的產(chǎn)品的犯罪,只要責(zé)任主體仍然是人,人在設(shè)計(jì)人工智能產(chǎn)品過程中就仍然受到刑罰威懾效果的影響。然而,當(dāng)AI致人損害而由其自負(fù)刑事責(zé)任時(shí),人類的上述責(zé)任便被轉(zhuǎn)移,為機(jī)器人研發(fā)者、使用者推卸責(zé)任提供了絕佳的借口。
◇以風(fēng)險(xiǎn)防控為由造就的人工智能犯罪主體,實(shí)際上加劇了源頭風(fēng)險(xiǎn);刑事責(zé)任體系表面上因新犯罪主體的加入而更嚴(yán)密,事實(shí)上寬縱了人類義務(wù),得不償失。
冀洋
自然科學(xué)的發(fā)展不斷影響著法學(xué)的思考對(duì)象與思考方式,人工智能技術(shù)的勃興如今喚起了更多法律人的熱情。在刑法領(lǐng)域,以“將機(jī)器人納入刑事責(zé)任主體”為代表的研究自2018年以來呈現(xiàn)急速增長,其基本看法是:人工智能可與人類一樣接受獨(dú)立的處罰,并可承擔(dān)刪除數(shù)據(jù)、修改程序、永久銷毀等刑罰種類(肯定論)。然而,承認(rèn)人工智能的犯罪主體地位,將面臨五大悖論。
第一,“技術(shù)失控—技術(shù)可控”之悖論。人工智能刑法研究的憂患意識(shí)來源于“人工智能的失控”:智能機(jī)器人將來具有辨認(rèn)和控制能力,能夠超越設(shè)計(jì)程序?qū)嵤┬袨?。然而,肯定論又提出了針?duì)人工智能的專有刑罰種類,除了永久銷毀或許可以僅通過蠻力完成之外,其余兩種刑罰均只能借助于高超的計(jì)算機(jī)技術(shù)以改造人工智能的“大腦”。那么,這里的問題就很明顯了:既然刑罰技術(shù)能夠?qū)θ斯ぶ悄艿姆缸锬芰ψ龀鲇行拗?、能夠通過這種先進(jìn)技術(shù)刑罰將其框定在安全軌道,為何還會(huì)存在人工智能超脫人類控制的情形?上述刑罰設(shè)計(jì)表明的不正是人類可以實(shí)現(xiàn)對(duì)人工智能的控制?若此,人工智能就永遠(yuǎn)不會(huì)失控。若能夠從數(shù)據(jù)程序上消滅人工智能的犯罪能力,為何人類不在研發(fā)階段就做出這種技術(shù)干預(yù)?若沒有這種技術(shù),這種技術(shù)刑罰又有何用?肯定論既斷言存在人工智能不可控的情況,又在刑罰上主張人工智能的運(yùn)行程序能夠被操縱,這存在先承認(rèn)“技術(shù)設(shè)計(jì)失敗”又承認(rèn)“技術(shù)設(shè)計(jì)可靠”的悖論。
第二,“特殊預(yù)防無效—特殊預(yù)防有效”之悖論??隙ㄕ撝鲝堎x予人工智能犯罪主體身份,是為了給予其一定的刑罰,從前述三種刑罰種類可以看出,他們最看重的刑罰目的不是報(bào)應(yīng)、不是一般預(yù)防而是特殊預(yù)防:通過刪除數(shù)據(jù)、修改程序等技術(shù)手段剝奪其實(shí)施犯罪行為的可能性;若人工智能無法被矯正,那么就可以直接永久消滅之。概言之,這完全屬于李斯特式的預(yù)防論:矯正可以矯正的罪犯,不能矯正的罪犯不使為害。但是,智能機(jī)器的運(yùn)行不像人類那樣具有先天的、自然的行動(dòng)力,它是通過精密的程序計(jì)算來實(shí)現(xiàn)的,因而一個(gè)可能的技術(shù)操作便是,直接在設(shè)計(jì)階段對(duì)人工智能的“大腦”預(yù)設(shè)危險(xiǎn)避免措施、消除犯罪條件??蔀楹我鹊椒缸镏笤俳槿??如果設(shè)計(jì)編程可以實(shí)現(xiàn)特殊預(yù)防,那么在研發(fā)過程中植入這樣的控制程序才是最可靠的;如果人類沒有這種編程,那么設(shè)定這種刑罰又有何用,在犯罪后修改數(shù)據(jù)也同樣是不可實(shí)現(xiàn)的。因此,在“技術(shù)失控—技術(shù)可控”的悖論之后,肯定論在刑罰目的及其實(shí)現(xiàn)路徑上面臨又一悖論:以消除犯罪能力為目的,在能夠采取特殊預(yù)防措施的情況下,故意不采取措施而坐等犯罪之后才大談矯治之道。
第三,“刑罰設(shè)計(jì)—非刑罰性”之悖論。雖然刑罰能夠?qū)崿F(xiàn)報(bào)應(yīng)功能和預(yù)防功能,但這些功能卻并非刑罰所專屬,具有上述功能的處罰措施并非都可以被稱為刑罰,其他法律中的行政處分、民事賠償?shù)却胧┮卜謸?dān)著這些功能,如吊銷營業(yè)許可證、吊銷駕駛證、損害賠償?shù)?。刑罰與行政處分、民事賠償在本質(zhì)上是完全不同的:刑罰的本質(zhì)是從國家立場(chǎng)對(duì)犯罪進(jìn)行的非難,行政處分是行政取締上的保安處置,民事賠償則是損失的公平分配。吊銷證照、損害賠償?shù)榷疾皇切塘P種類,即便這些措施被規(guī)定在刑法典中,它們也只能被稱為“非刑罰措施”,如刑法第37條規(guī)定的“訓(xùn)誡、責(zé)令具結(jié)悔過、賠禮道歉、賠償損失”“禁止從事相關(guān)職業(yè)”等。肯定論設(shè)計(jì)的刪除數(shù)據(jù)等所謂的“刑罰種類”,在當(dāng)前階段甚至幾百年前就是機(jī)器設(shè)備出現(xiàn)故障時(shí)的最普通的修理方式,通過刪除拆解零部件、修改某項(xiàng)設(shè)計(jì)甚至直接將之報(bào)廢,根本不需要什么法律甚至刑法上的正當(dāng)化根據(jù)以及司法程序,而只需要一本“使用說明”“檢修指南”而已。這無異于將刑法貶低為技術(shù)管理法甚至“機(jī)器維修手冊(cè)”:能修就修,不能修就報(bào)廢。
第四,“AI主體性—AI工具性”之悖論。人們本來是為了生活的便利化而研制AI,但賦予其刑事主體地位就等于必須承認(rèn)其擁有一定的平等權(quán)利空間,那么就對(duì)人類權(quán)利的行使提出更多限制,這實(shí)際上為人類設(shè)立了一個(gè)新的競(jìng)爭(zhēng)物種,結(jié)局是:人類必須時(shí)刻為保障人工智能的權(quán)利、為人工智能的健康運(yùn)轉(zhuǎn)而服務(wù),這加重了個(gè)人生活負(fù)擔(dān),最終消解了前述便捷性。因此,不少肯定論者不承認(rèn)AI與人類在法律面前平等。但法律的強(qiáng)大之處就在于將事實(shí)上的不平等以法律擬制的方式強(qiáng)行彌合,如果人類與AI在法律上都不平等,那么二者將在任何時(shí)空都不會(huì)平等,二者就不可能并存于某一法律主體系統(tǒng)內(nèi),而只能區(qū)分為“主體—工具”。此外,不少肯定論主張建構(gòu)強(qiáng)制保險(xiǎn)制度、建立賠償基金等以彌補(bǔ)機(jī)器人造成的損害,可如果AI是法律主體,那么為何需要另一個(gè)主體(人類)為之繳納保險(xiǎn)費(fèi)或基金?AI連獨(dú)立的財(cái)產(chǎn)權(quán)都沒有,其在致人損害時(shí)如何承擔(dān)義務(wù)?最終而言,這些責(zé)任還是要被推到人類自身,這與當(dāng)下的產(chǎn)品致?lián)p責(zé)任、汽車交強(qiáng)險(xiǎn)制度并無不同。
第五,“消減風(fēng)險(xiǎn)(追求責(zé)任體系嚴(yán)密化)—加劇風(fēng)險(xiǎn)(轉(zhuǎn)移人類責(zé)任)”之悖論。如果人類在制造這些機(jī)器人時(shí)設(shè)定的是“與人無害”模式,但在后期運(yùn)行中機(jī)器人在編程外實(shí)施法益侵害行為,這難道不正表明人類的技術(shù)依然不成熟?人類為機(jī)器人設(shè)定的框架很容易被突破,繼而在失控之后發(fā)生法益侵害,被非難對(duì)象難道不正是人類自己?如果我們把機(jī)器人的失控看作傳統(tǒng)產(chǎn)品缺陷或管理過失等,即將責(zé)任歸之于人類,則更有助于實(shí)現(xiàn)“風(fēng)險(xiǎn)防控”。例如,侵權(quán)責(zé)任法第41條有關(guān)產(chǎn)品缺陷責(zé)任規(guī)定實(shí)行無過錯(cuò)原則,民法正是以此升級(jí)對(duì)產(chǎn)品生產(chǎn)設(shè)計(jì)者的責(zé)任、降低產(chǎn)品缺陷及其損害風(fēng)險(xiǎn)。再如,刑法規(guī)定了多種生產(chǎn)不符合標(biāo)準(zhǔn)的產(chǎn)品犯罪,只要責(zé)任主體仍然是人類,人類在設(shè)計(jì)AI產(chǎn)品過程中就仍然受到刑罰威懾效果的影響,刑法在風(fēng)險(xiǎn)應(yīng)對(duì)上仍有所作為。然而,當(dāng)AI致人損害而由其自負(fù)刑事責(zé)任時(shí),人類的上述責(zé)任便被轉(zhuǎn)移,為機(jī)器人研發(fā)者、使用者推卸責(zé)任提供了絕佳的借口。當(dāng)人類以“機(jī)器人已經(jīng)有自我意識(shí),其法益侵害行為與我無關(guān)”作為擋箭牌成功推卸掉法律責(zé)任時(shí),如何期望他們嚴(yán)格控制人工智能研發(fā)風(fēng)險(xiǎn)、使用風(fēng)險(xiǎn)?只有將機(jī)器人失控之情形仍然作為產(chǎn)品缺陷范疇,才能夠促進(jìn)人類謹(jǐn)慎研制人工智能、不斷提升人工智能技術(shù),主動(dòng)減少技術(shù)造福人類時(shí)的技術(shù)風(fēng)險(xiǎn)。如果研發(fā)者既能靠AI技術(shù)謀取利潤,在發(fā)生侵權(quán)損害時(shí)又不用承擔(dān)法律責(zé)任,他們內(nèi)心不知得有多狂喜,被害人不知得有多倒霉。所以這里存在第五個(gè)悖論:以風(fēng)險(xiǎn)防控為由造就的“AI犯罪主體”,實(shí)際上加劇了源頭風(fēng)險(xiǎn);刑事責(zé)任體系表面上因新犯罪主體的加入而更嚴(yán)密,事實(shí)上寬縱了人類義務(wù),得不償失。
-
機(jī)器人
+關(guān)注
關(guān)注
210文章
27847瀏覽量
204636 -
人工智能
+關(guān)注
關(guān)注
1787文章
46065瀏覽量
235096
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論