人工智能在目前的發(fā)展軌跡上會帶來什么風(fēng)險

（文章來源：教育新聞網(wǎng)）

AI大肆宣傳。但是，為AI提供動力的技術(shù)就像猴子的爪子一樣：它們完全按照您的要求進(jìn)行操作，并帶來許多其他意外的后果。Daniel Blackburn指出，牢記“為什么”對項目的成功至關(guān)重要。解決問題或創(chuàng)建解決方案時，人類傾向于在“為什么”之前先問“什么”。但是，對于機器認(rèn)知而言，“為什么”比“什么”更重要，以確保任何努力背后的推理和使命都扎根于意圖，而不會盲目地投入。

根據(jù)Globant的數(shù)據(jù)科學(xué)家Daniel Blackburn的說法，牢記“為什么”對于項目的成功至關(guān)重要-指導(dǎo)團(tuán)隊進(jìn)行有計劃的構(gòu)建，并限制機器自身學(xué)習(xí)帶來的意外后果。布萊克本在我們的特別采訪中解釋了“如何”。從狹義上講，機器已經(jīng)很長時間了。袖珍計算器自1970年代就問世了，到今天，它比我們還快，而且精度很高。1997年，《深藍(lán)》證明了計算機可以在我們自己的游戲中擊敗我們。但是，在過去的十年中，機器學(xué)習(xí)的進(jìn)步使AI滲透到了日常生活中。

以自動駕駛汽車為例。如今，智能汽車可以在高速公路上維持車道并在停車場被召喚。汽車尚未將自己從皮卡車帶到目的地，但鑒于我們看到的進(jìn)步，我不敢打賭它會在未來十年內(nèi)投放市場?，F(xiàn)在的問題是，當(dāng)我們的運輸系統(tǒng)不再需要數(shù)百萬的勞動力時，社會將如何改變?

存在一個潛在的問題，“什么是智力?”定義智力已經(jīng)成為一個移動的目標(biāo)，但是從高層次來看，智力取決于我們認(rèn)為是智能的人，并且基于智能人可以做的任何事情。這種“智能的存在”并不需要深入理解，而需要在此前提下進(jìn)行操作。

在這方面，機器正變得越來越智能。這在認(rèn)知的每個領(lǐng)域都得到了證明。僅舉幾例：游戲代理(例如國際象棋)，計算機視覺，自然語言理解和生成，自動語音識別以及自動駕駛汽車。有人會爭辯說，到目前為止構(gòu)建的AI模型具有狹義的智能。AI模型可以做一件事，但是人類可以做很多事。但是，我相信，隨著AI模型變得越來越成熟，我們將看到越來越多的軟件開發(fā)人員將它們像Lego Bricks用作其更大系統(tǒng)的組成部分。

該系統(tǒng)將具有執(zhí)行功能，即大腦，可以決定遇到特定問題時要使用哪種AI模型。大腦可能是一組人為規(guī)則，也可能是另一種AI模型，其本身就是狹小的智能。在任一情況下，組裝的產(chǎn)品開始使用各種技術(shù)來解決各種問題。這些“智能工具”將補充人類。在工作場所，它們將使我們將注意力集中在新的，具有挑戰(zhàn)性的，尚未解決的問題上。

一種風(fēng)險是人們使用AI傳播錯誤信息。圖像和文本生成的許多技術(shù)今天已公開可用，僅出于邪惡目的而需要改進(jìn)。偽造品目前在公眾的外圍。這些技術(shù)最終將進(jìn)入公眾意識的最前沿。我希望他們通過一系列道德證明自己能力的行為進(jìn)入我們的意識，例如喬丹·皮爾(Jordan Peele)模仿奧巴馬。一個可怕的選擇是，它們將用來影響選舉的公眾輿論，而民意調(diào)查結(jié)束后人們將廣泛意識到這一問題。

文本生成是攻擊我們的“社會秩序”的另一種途徑。僵尸程序可以圍繞主題生成大量可傳遞的文本。這樣的消息可能是如此多樣，以至于至少有一些消息將作為人類可理解的文本傳遞。如果將這些消息大規(guī)模提交給公共論壇，那么這些論壇將用于使人們之間相互交流想法?機器有機會使邊緣問題成為主流，或者暗示問題周圍存在“沉默的多數(shù)”。隨著這些機器人越來越普遍，我們可能需要開發(fā)新工具，以從自動生成的消息中區(qū)分個人的想法。與視頻偽造一樣，我們將需要集體學(xué)習(xí)區(qū)分人類生成的文本和計算機生成的文本。
? ? ? （責(zé)任編輯：fqj）