生成式AI應(yīng)用誕生曲折，落地焦慮如何破？

自 ChatGPT 火爆出圈以來，各式大模型與生成式 AI 技術(shù)噴涌而出，醫(yī)療、金融、出行、消費零售、互聯(lián)網(wǎng)等各個行業(yè)都在尋找利用生成式AI 技術(shù)賦能業(yè)務(wù)創(chuàng)新的方法。然而，從摸索到落地，企業(yè)在應(yīng)用用生成式 AI 技術(shù)尚存在門檻，使用現(xiàn)成的技術(shù)服務(wù)又會產(chǎn)生安全等方面的顧慮，比如業(yè)務(wù)數(shù)據(jù)泄漏等問題。一時間，許多企業(yè)陷入進退兩難的境地。本篇就來說道說道企業(yè)在落地生成生式 AI 應(yīng)用過程中的那些事。

從模型選擇到業(yè)務(wù)安全，生成式 AI 應(yīng)用誕生的曲折

實際上，生成式 AI 市場經(jīng)過一年多快速的發(fā)展，一方面市場上涌現(xiàn)出很多大模型與配套服務(wù)，另一方面，企業(yè)面臨的難題也在與日俱增。

首先，從模型的選擇開始，眼花繚亂的大模型就已經(jīng)夠廠家喝上一壺。5 月 28 日，由中國科學(xué)技術(shù)信息研究所、科技部新一代人工智能發(fā)展研究中心聯(lián)合相關(guān)研究機構(gòu)編寫的《中國人工智能大模型地圖研究報告》正式發(fā)布，報告顯示，我國 10 億參數(shù)規(guī)模以上大模型已發(fā)布近 80 個。再到 10 月中國新一代人工智能發(fā)展戰(zhàn)略研究院發(fā)布的《2023中國新一代人工智能科技產(chǎn)業(yè)發(fā)展報告》顯示，目前國內(nèi)大模型總數(shù)達(dá) 238 個。而據(jù)北京經(jīng)信局?jǐn)?shù)據(jù)，截至 10 月初，北京發(fā)布大模型數(shù)量達(dá) 115 個，其中通用大模型 12 個，垂類大模型 103 個。

按照這個發(fā)展趨勢，“百模大戰(zhàn)”或許很快就會升級為“千模大戰(zhàn)”。而企業(yè)如何選擇大模型便會難上加難。在具體應(yīng)用場景中，企業(yè)需要在準(zhǔn)確性和性能平衡間作出衡量，有效地比較模型并根據(jù)其首選指標(biāo)找到最佳選擇，這就需要深厚的數(shù)據(jù)科學(xué)專業(yè)知識，也會耗費大量的人力時間成本。

而模型的選擇只是開始，確定模型之后，還需要結(jié)合自身業(yè)務(wù)，做模型的精調(diào)、訓(xùn)練等工作。在這一步，公司的業(yè)務(wù)數(shù)據(jù)類型與大模型輸入所要求的數(shù)據(jù)類型需要做一定適配，同時輸入的數(shù)據(jù)需要具有代表性、多樣性、一致性和可靠性，這樣才能實現(xiàn)效果更佳的輸出，這便要求企業(yè)需要有既懂業(yè)務(wù)，又懂大模型技術(shù)的工程師對數(shù)據(jù)進行整理。

此外，大模型的精調(diào)也需要大量的算力，需要投入大量的資金和時間來購買和維護硬件設(shè)備，或者租用云服務(wù)，同時基礎(chǔ)設(shè)施也需要長時間的維護。而大模型技術(shù)作為新興技術(shù)，許多公司并沒有相應(yīng)的人才儲備與經(jīng)驗，這對企業(yè)來說也是不小的壓力。

模型本身的問題解決了之后，企業(yè)還要面臨安全隱患。比如很多使用方會擔(dān)心，用了某個大模型，那么自己的數(shù)據(jù)會不會都被模型方看到甚至泄露？會不會導(dǎo)致敏感信息泄漏，或是生成違規(guī)內(nèi)容等等？那么，企業(yè)就需要確保數(shù)據(jù)在傳輸、存儲和處理的過程中不會被泄露或者濫用，以免給業(yè)務(wù)和聲譽帶來損失。

亞馬遜云科技助力企業(yè)安全構(gòu)建生成式 AI 應(yīng)用

面對種種挑戰(zhàn)，對于許企業(yè)來說，最佳選擇可以是給自己找一個 AI 助手，全方面輔助完成 AI 能力的嵌入，最常見的便是云上大模型平臺和服務(wù)。

2023年11月28日，2023亞馬遜云科技 re:Invent 在美國拉斯維加斯盛大開啟，并于12月2日圓滿落下帷幕。2023年12月12日起，2023亞馬遜云科技re:Invent 中國行城市巡展活動將在10大城市開啟，覆蓋北京、上海、廣州、深圳、成都、青島、南京、西安、杭州、長沙10個城市！

作為全球云計算領(lǐng)域的年度風(fēng)向標(biāo)，2023 亞馬遜云科技 re:Invent 為全球云計算愛好者和構(gòu)建者帶來了最新的產(chǎn)品和技術(shù)發(fā)布、最前沿的領(lǐng)導(dǎo)者洞察和全球云計算的最佳實踐。在今年 re:Invent 中，一系列重磅發(fā)布成為大會焦點，從 Serverless、生成式AI時代的數(shù)據(jù)戰(zhàn)略、芯片與云底座創(chuàng)新，到 Amazon Bedrock 的重磅更新、企業(yè)級生成式AI 應(yīng)用 (Amazon Q) 的全新發(fā)布等等，系列組合拳為企業(yè)落地生成式 AI 應(yīng)用全方位護航。

在多個新發(fā)布的動作中，一項全面托管服務(wù)的重磅更新引人注目——Amazon Bedrock 發(fā)布更多模型選擇和全新強大功能。

首先，Amazon Bedrock 上集成了 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亞馬遜的多種行業(yè)領(lǐng)先大語言模型和其他模型，用戶可輕松訪問。不僅如此，為了幫助客戶在紛繁的模型中選擇更適合自己的，Amazon Bedrock 新功能可幫助客戶高效評估、比較和選擇最適合其應(yīng)用場景和業(yè)務(wù)需求的模型。

確定模型之后，企業(yè)往往需要針對模型做適配，或者說是擴展調(diào)優(yōu)，最大程度地釋放數(shù)據(jù)價值。針對這些部分，Amazon Bedrock 知識庫功能使用上下文和相關(guān)公司數(shù)據(jù)定制模型響應(yīng)：組織希望使用專有數(shù)據(jù)補充現(xiàn)有模型，以獲得更相關(guān)和更準(zhǔn)確的響應(yīng)。針對模型調(diào)優(yōu)，Amazon Bedrock 中的 Cohere Command、Meta Llama 2 和 Amazon Titan 模型支持調(diào)優(yōu)，為客戶的模型定制提供更多選項，Anthropic Claude 也即將支持調(diào)優(yōu)。

此外，Amazon Bedrock 也兼?zhèn)浯砉δ?，可以自動?zhí)行，使用公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)。雖然模型能夠有效地進行對話和創(chuàng)建新內(nèi)容，但如果能夠執(zhí)行復(fù)雜的操作，例如解決問題以及與公司系統(tǒng)交互以完成任務(wù)（例如，旅行預(yù)定或訂購替換零件），它們可以提供更多價值。然而，這需要定制化地將模型與公司數(shù)據(jù)源、API以及內(nèi)部和外部系統(tǒng)集成起來。開發(fā)人員必須編寫代碼來協(xié)調(diào)模型、系統(tǒng)和用戶之間的交互，以便應(yīng)用程序可以按邏輯順序執(zhí)行一系列API調(diào)用。為了將模型與數(shù)據(jù)源連接起來，開發(fā)人員必須部署RAG，以便模型可以根據(jù)任務(wù)調(diào)整其響應(yīng)。最后，開發(fā)人員必須配置和管理必要的基礎(chǔ)設(shè)施，并制定數(shù)據(jù)安全和隱私策略。這些步驟非常耗時且需要專業(yè)知識，從而減慢了生成式AI應(yīng)用程序的開發(fā)速度?，F(xiàn)在正式可用、完全托管的Amazon Bedrock代理功能使生成式AI應(yīng)用程序能夠跨公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)。

最后，在交互安全層面。雖然許多模型使用內(nèi)置控件來過濾不良和有害內(nèi)容，但企業(yè)希望進一步定制交互，以保證話題始終與業(yè)務(wù)相關(guān)，符合公司政策，并遵守“負(fù)責(zé)任的 AI”的原則。例如，銀行可能希望這樣設(shè)置其在線助手：避免查詢競爭對手、避免提供投資建議、以及限制有害內(nèi)容。此外，應(yīng)用戶要求，可能要變換或隱去用戶的個人身份信息（PII）以保證安全。企業(yè)希望以一種簡化的方式在生成AI應(yīng)用程序中強化關(guān)鍵策略和規(guī)則，以提供所答即所問的用戶體驗并支持更安全地使用該技術(shù)。Amazon Bedrock 的 Guardrails 功能現(xiàn)已推出預(yù)覽版，使客戶能夠為生成式 AI 應(yīng)用程序?qū)嵤┍Ｗo措施。借助Amazon Bedrock的Guardrails功能，客戶可以根據(jù)應(yīng)用程序要求和負(fù)責(zé)任的AI策略跨模型實施保護措施。這些應(yīng)用程序根據(jù)客戶應(yīng)用場景和“負(fù)責(zé)任的AI”原則進行定制，因此這一功能可以增強用戶交互的安全性和隱私性。

目前，亞馬遜云科技已經(jīng)推出多款產(chǎn)品助力企業(yè)構(gòu)建生成式 AI 應(yīng)用，緩解 AI“焦慮”其中也不乏許多科技界合作伙伴。MongoDB首席產(chǎn)品官Sahir Azam表示：“各行各業(yè)越來越多的客戶希望利用生成式AI來構(gòu)建下一代應(yīng)用程序，但許多人擔(dān)心數(shù)據(jù)隱私以及人工智能驅(qū)動的系統(tǒng)輸出的準(zhǔn)確性。為了滿足客戶的需求，我們將MongoDB Atlas作為Amazon Bedrock的知識庫，以便我們的共同客戶可以利用其運營數(shù)據(jù)安全地構(gòu)建生成式AI應(yīng)用程序，以符合最終用戶期望的信任度和準(zhǔn)確性來創(chuàng)建個性化體驗。通過這種集成，客戶可以訪問行業(yè)領(lǐng)先的基礎(chǔ)模型，并使用MongoDB Atlas Vector Search處理過的數(shù)據(jù)來創(chuàng)建應(yīng)用程序，在正確的上下文中提供更多相關(guān)的輸出。利用Amazon Bedrock知識庫中內(nèi)置的數(shù)據(jù)隱私最佳實踐，客戶可以節(jié)省在生成式AI運營上花費的時間，從而更專注于技術(shù)部署，以在亞馬遜云科技上提供更有吸引力的最終用戶體驗?！?/p>

當(dāng)然，除了 Amazon Bedrock，2023亞馬遜云科技 re:Inven還有許多重磅發(fā)布，并且在接下來的2023亞馬遜云科技 re:Invent 中國活動中，亞馬遜云科技也將對各個新產(chǎn)品新功能做深入解讀。

審核編輯：黃飛

?