2018年AI Now報告發(fā)布 以下是關鍵要點

紐約大學AI Now研究所發(fā)布了第三份關于人工智能現狀的年度報告。 2018年AI Now報告重點關注行業(yè)AI丑聞和不平等加劇等主題，還評估了人工智能道德與有意義的問責制之間的差距，并研究了組織和監(jiān)管在人工智能中的作用。

關鍵要點

需要針對具體部門的AI治理和監(jiān)管方法

今年的報告通過擴大特定部門機構（如美國聯邦航空管理局和國家公路交通安全管理局）的權力來審計和監(jiān)控基于域的這些技術，從而反映出需要加強人工授精法規(guī)。

人工智能系統(tǒng)的發(fā)展正在興起，沒有足夠的治理，監(jiān)督或問責制度來確保這些系統(tǒng)遵守人工智能的道德規(guī)范。該報告指出，一般的AI標準和認證模型如何不能滿足衛(wèi)生，教育，福利等不同部門的專業(yè)知識要求，這是加強監(jiān)管的關鍵要求。

需要對面部識別AI系統(tǒng)更嚴格的監(jiān)管

該報告強調了“影響識別”，一種聲稱能夠檢測個性，內心感受，心理健康等的面部識別子類，取決于面部的圖像或視頻，需要特別注意，因為它是不受管制的。

它闡述了這些主張如何沒有足夠的證據支持，并且以不道德和不負責任的方式被濫用。

似乎正在這方面取得進展，就像昨天微軟建議科技公司需要發(fā)布文件來解釋技術的能力，局限性和后果，以防面部識別系統(tǒng)在公共場合使用。

人工智能治理需要新的方法

技術公司的內部治理結構無法有效實施人工智能系統(tǒng)的問責制。

“政府監(jiān)管是一個重要組成部分，但人工智能行業(yè)的領先企業(yè)也需要超越道德準則的內部問責制結構”，報告中寫道。這包括董事會，外部道德咨詢委員會的普通員工代表，以及獨立監(jiān)督和透明度工作。

需要放棄商業(yè)秘密和其他法律索賠

在政府中使用AI和自動決策系統(tǒng)的供應商和開發(fā)商應同意放棄任何限制公眾對其軟件進行全面審計和理解的商業(yè)秘密或其他法律索賠。根據報告，公司保密法是一個障礙，因為它們很難分析偏見，競爭決策或糾正錯誤。希望在公共部門使用這些技術的公司應該要求供應商在達成協(xié)議之前放棄這些索賠。

公司應該保護工人免受道德問題的影響

員工組織和抵制技術以促進問責制和道德決策已經變得很普遍。這些技術公司有責任保護其員工組織，舉報和促進其項目的道德選擇的能力。

在AI產品的廣告中需要更多的事實

圍繞人工智能的炒作導致營銷承諾與實際產品性能之間存在差距，從而給個人和商業(yè)客戶帶來風險。

根據報告，人工智能供應商在做出承諾時應該保持高標準，特別是當沒有足夠的信息來說明這些承諾背后的后果和科學證據時。

需要解決工作場所內的排斥和歧視問題

技術公司和人工智能領域專注于“管道模型”，旨在培訓和雇用更多員工。

但是，對于技術公司而言，評估工作場所內基于性別，種族等的騷擾等更深層次的問題非常重要。 他們還應該研究排他性文化與他們建立的產品之間的關系，從而建立不會使偏見和歧視長期存在的工具。

“全棧供應鏈”的詳細說明

根據該報告，有必要更好地了解人工智能系統(tǒng)的各個部分以及它所依賴的完整供應鏈，以便更好地追究責任。?

這個過程被稱為人工智能系統(tǒng)的“完整堆棧供應鏈”，這是更負責任的審計形式所必需的。完整的堆棧供應鏈考慮了AI系統(tǒng)的真實環(huán)境和勞動力成本。這包括能源使用，內容審核和培訓數據創(chuàng)建的勞動力使用，以及依賴工人維護AI系統(tǒng)。

更多資金和支持訴訟，以及人工智能問題的勞工組織

該報告指出，需要增加對法律補救和公民參與的支持。

這包括向代表因算法決策而獲得豁免社會服務的人的公共倡導者，民間社會組織和支持面臨失業(yè)和剝削危險的群體的勞工組織者提供支持。

大學人工智能課程需要擴展到計算機科學學科之外

報告指出，大學課程和教學大綱需要擴大其學科定位。這意味著在大學AI課程中包含社會和人文學科。為了真正發(fā)揮社會影響的人工智能，有必要培養(yǎng)計算機科學系的教師和學生，研究社會世界。很多人已經開始實現這一點，例如，Mizhell Baker董事長，Mozilla的聯合創(chuàng)始人談到了技術行業(yè)通過引入人文科技來擴展技術技能的必要性。