將道德內(nèi)容加載到機(jī)器學(xué)習(xí)中 學(xué)會批判性地思考機(jī)器學(xué)習(xí)

一個多學(xué)科的研究生團(tuán)隊幫助將道德計算內(nèi)容注入麻省理工學(xué)院最大的機(jī)器學(xué)習(xí)課程。

作為計算社會和道德責(zé)任倡議的一部分，一個多學(xué)科的研究生小組努力為麻省理工學(xué)院最大的機(jī)器學(xué)習(xí)課程之一注入與道德計算、數(shù)據(jù)和模型偏差以及機(jī)器學(xué)習(xí)公平性相關(guān)的材料。

參加 MIT 課程 6.036（機(jī)器學(xué)習(xí)簡介）的學(xué)生學(xué)習(xí)強(qiáng)大模型背后的原理，這些模型可幫助醫(yī)生診斷疾病或幫助招聘人員篩選求職者。

現(xiàn)在，由于計算的社會和道德責(zé)任（SERC） 框架，這些學(xué)生還將停下來思考 這些人工智能工具的含義，這些工具有時會帶來意想不到的后果。

去年冬天，一個SERC 學(xué)者團(tuán)隊與講師 Leslie Kaelbling、松下計算機(jī)科學(xué)與工程教授以及 6.036 名助教合作，為每周實(shí)驗室注入了涵蓋道德計算、數(shù)據(jù)和模型偏差以及機(jī)器學(xué)習(xí)公平性的材料。該過程由電氣工程和計算機(jī)科學(xué)系 X 聯(lián)盟助理教授 Jacob Andreas 于 2019 年秋季啟動。SERC 學(xué)者在多學(xué)科團(tuán)隊中合作，幫助博士后和教師開發(fā)新的課程材料。

由于 6.036 課程如此龐大，因此 2021 年春季學(xué)期入學(xué)的 500 多名學(xué)生在努力學(xué)習(xí)新的計算技術(shù)的同時，努力應(yīng)對這些道德方面的問題。對于一些人來說，這可能是他們第一次在學(xué)術(shù)環(huán)境中批判性地思考機(jī)器學(xué)習(xí)的潛在負(fù)面影響。

SERC 學(xué)者評估了每個實(shí)驗室，以開發(fā)具體的示例和與道德相關(guān)的問題，以適應(yīng)該周的材料。每個人都帶來了不同的工具集。Serena Booth 是計算機(jī)科學(xué)與人工智能實(shí)驗室 （CSAIL） 交互式機(jī)器人組的研究生。Marion Boulicault 是語言學(xué)和哲學(xué)系的研究生，現(xiàn)在是 SERC 所在的麻省理工學(xué)院蘇世民計算機(jī)學(xué)院的博士后。Rodrigo Ochigame 是歷史、人類學(xué)、科學(xué)、技術(shù)和社會 （HASTS） 項目的研究生，現(xiàn)在是荷蘭萊頓大學(xué)的助理教授。他們與 MEng ‘21 助教 Dheekshita Kumar 密切合作，后者在開發(fā)課程材料方面發(fā)揮了重要作用。

他們在每個實(shí)驗室進(jìn)行頭腦風(fēng)暴和迭代，同時與助教密切合作，以確保內(nèi)容適合并推進(jìn)課程的核心學(xué)習(xí)目標(biāo)。同時，他們幫助助教確定呈現(xiàn)材料的最佳方式，并就種族、性別和監(jiān)視等具有社會影響的話題引導(dǎo)對話。

“在像 6.036 這樣的課程中，我們正在與 500 名不在那里學(xué)習(xí)道德的人打交道。他們認(rèn)為他們在那里學(xué)習(xí)機(jī)器學(xué)習(xí)的基本要素，比如損失函數(shù)、激活函數(shù)等等。我們面臨的挑戰(zhàn)是試圖讓這些學(xué)生以非常積極和參與的方式真正參與這些討論。我們通過將社會問題與技術(shù)內(nèi)容緊密結(jié)合來做到這一點(diǎn)，”布斯說。

例如，在一個關(guān)于如何為機(jī)器學(xué)習(xí)模型表示輸入特征的實(shí)驗室中，他們引入了不同的公平定義，要求學(xué)生考慮每個定義的優(yōu)缺點(diǎn)，然后讓他們思考應(yīng)該輸入的特征一個使它公平的模型。

四個實(shí)驗室現(xiàn)已在MIT OpenCourseWare上發(fā)布。一個由 SERC 學(xué)者組成的新團(tuán)隊正在根據(jù)教師和學(xué)生的反饋修改其他八名，重點(diǎn)是學(xué)習(xí)目標(biāo)、填補(bǔ)空白和突出重要概念。

有意的方法

SERC 副院長兼航空航天學(xué)教授 Julie Shah 說，學(xué)生在 6.036 上的努力表明 SERC 旨在以適合他們的方式與教師合作。由于這個大型課程的獨(dú)特性和緊迫的時間限制，他們調(diào)整了 SERC 流程。

SERC 是兩年多前通過麻省理工學(xué)院蘇世民計算學(xué)院成立的，旨在將來自不同學(xué)科的教師聚集到一個協(xié)作環(huán)境中，共同創(chuàng)建和推出專注于社會和負(fù)責(zé)任計算的新課程材料。

每個學(xué)期，SERC 團(tuán)隊都會邀請十多名教職員工加入一個致力于開發(fā)新課程材料的行動小組（有幾個SERC 行動小組，每個小組都有不同的使命）。SERC 副院長、Germeshausen 科學(xué)史教授和物理學(xué)教授 David Kaiser 說，他們邀請的對象是有目的的，并尋求將可能會在較小的小組中形成富有成效的合作伙伴關(guān)系的教職員工包括在內(nèi)。

這些由兩到三名教職員工組成的小組在學(xué)期中磨練了他們的共同興趣，以開發(fā)新的倫理相關(guān)材料。但不是一門學(xué)科為另一門學(xué)科服務(wù)，而是一條雙向的道路；Shah 解釋說，每位教員都會將新材料帶回他們的課程中。麻省理工學(xué)院所有五所學(xué)校的行動小組都吸引了教師。

“其中一部分涉及走出你正常的學(xué)科界限并建立一種語言，然后信任并與你正常圈子之外的新人合作。這就是為什么我認(rèn)為我們的故意方法如此成功。試用材料并將新事物帶回您的課程是很好的，但建立關(guān)系是核心。這使得這對每個人都很有價值，”她說。

產(chǎn)生影響

在過去的兩年里，Shah 和 Kaiser 對圍繞這些努力的能量和熱情印象深刻。

自該計劃啟動以來，他們與大約 80 名教職員工合作，僅去年一年就有 2，100 多名學(xué)生參加了包含新 SERC 內(nèi)容的課程。這些學(xué)生不一定都是工程師——大約 500 人通過人文、藝術(shù)和社會科學(xué)學(xué)院、斯隆管理學(xué)院和建筑與規(guī)劃學(xué)院提供的課程接觸了 SERC 的內(nèi)容。

沙阿說，SERC 的核心原則是計算中的道德和社會責(zé)任應(yīng)該融入麻省理工學(xué)院的所有教學(xué)領(lǐng)域，因此它與課程的技術(shù)部分一樣重要。技術(shù)，尤其是人工智能，現(xiàn)在幾乎涉及每個行業(yè)，因此所有學(xué)科的學(xué)生都應(yīng)該接受培訓(xùn)，幫助他們理解這些工具，并深入思考它們的力量和陷阱。

“弄清楚事情出錯的原因或發(fā)生的事情不是別人的工作。這是我們的全部責(zé)任，我們都有能力做到這一點(diǎn)。讓我們習(xí)慣這一點(diǎn)。讓我們建立起能夠停下來問那些棘手問題的能力，即使我們無法在問題集的最后找到一個答案，”Kaiser 說。

對于三位 SERC 學(xué)者來說，在沒有答案可參考的情況下，仔細(xì)提出道德問題是一項獨(dú)特的挑戰(zhàn)。但深入思考這些棘手的問題也幫助布斯、布利科和奧奇加姆學(xué)習(xí)、成長，并通過其他學(xué)科的視角看待世界。

他們希望 6.036 的本科生和助教能夠牢記這些重要的課程，并融入他們未來的職業(yè)生涯。

“這個過程讓我受到啟發(fā)和鼓舞，我學(xué)到了很多東西，不僅僅是技術(shù)材料，還有跨學(xué)科合作可以實(shí)現(xiàn)的目標(biāo)。只是這種努力的規(guī)模令人興奮。如果我們有這 500 名學(xué)生組成的隊列，他們能夠更好地了解如何思考這些問題，我覺得我們真的可以有所作為，”Boulicault 說。