據(jù)悉,谷歌最新推出AI框架“社交學(xué)習(xí)”,它允許AI語言模型以自然語言相互學(xué)習(xí),基于無需直接交換敏感信息,使得訓(xùn)練出的模型具備更高的隱私保護(hù)性能。
據(jù)了解,在此款“社交學(xué)習(xí)”框架中,“學(xué)生模型”可向多位已處理指定任務(wù)的“教師模型”請教各類應(yīng)對方案,研究團(tuán)隊主要通過開展“垃圾短信檢測”、“解決小學(xué)數(shù)學(xué)題”及“根據(jù)文本回答問題”等多項試驗,以衡量此框架的運作效果。
科研人員指出,部分AI模型僅需經(jīng)過短時“社交學(xué)習(xí)”框架訓(xùn)練,即可迅速提升任務(wù)完成能力。在“垃圾短信檢測任務(wù)”中,教師模型從用戶標(biāo)注的數(shù)據(jù)中學(xué)習(xí),之后再傳授給學(xué)生模型識別垃圾信息。
值得關(guān)注的是,教師模型可以依據(jù)實際數(shù)據(jù)集合成新實例與學(xué)生模型分享,這種合成數(shù)據(jù)可在保持同等教學(xué)效果的基礎(chǔ)上,顯著降低原數(shù)據(jù)隱私泄露風(fēng)險。
此外,研究團(tuán)隊亦將生成指令技術(shù)用于“社交學(xué)習(xí)”,使教師模型能夠針對特定任務(wù)制定一套指令,學(xué)生模型則據(jù)此學(xué)習(xí)執(zhí)行任務(wù)的技巧,頗有幾分“人類遵從他人口授指引,在行動過程中學(xué)以致用”之感。
實驗結(jié)果表明,此類來自教師模型的指令能夠有效提升學(xué)生模型的工作效能,相較于零樣本學(xué)習(xí),研究者們認(rèn)為,AI模型在遵循指令方面展現(xiàn)出優(yōu)異的能力。
-
谷歌
+關(guān)注
關(guān)注
27文章
6128瀏覽量
104948 -
語言模型
+關(guān)注
關(guān)注
0文章
501瀏覽量
10236 -
數(shù)據(jù)集
+關(guān)注
關(guān)注
4文章
1200瀏覽量
24619
發(fā)布評論請先 登錄
相關(guān)推薦
評論