LangChain 0.1版本正式發(fā)布

轉(zhuǎn)自 AI大模型實驗室

LangChain 由 Harrison Chase 于 2022 年 10 月推出，是一個開源編排框架，用于使用 LLM 開發(fā)應(yīng)用程序，推出后迅速脫穎而出，截至 2023 年 6 月，它是 GitHub 上增長最快的開源項目。

現(xiàn)在 LangChain 0.1.0 版本發(fā)布了，這意味著終于有穩(wěn)定版可用于生產(chǎn)了！下面是關(guān)于 LangChain 0.1.0 版本發(fā)布的具體信息。

今天，我們非常激動地宣布，LangChain 0.1.0 版本正式發(fā)布了，這是我們推出的首個穩(wěn)定版本。這個版本能夠兼容以前的版本，提供了 Python 和 JavaScript 兩種編程語言的支持，并通過改進功能和文檔，使得我們的產(chǎn)品更加專注和高效。LangChain 的這個穩(wěn)定版本不僅贏得了開發(fā)者們的信任，還為我們提供了一個系統(tǒng)且安全地更新和完善這個軟件庫的機會。

#01介紹

LangChain 已經(jīng)誕生一年多，它在成長為 LLM 應(yīng)用的首選框架過程中，經(jīng)歷了諸多變化。就像我們一個月前預(yù)覽的那樣，我們近期對 LangChain 的包架構(gòu)做了重大調(diào)整，目的是為了更好地組織這個項目，同時也加強了它的基礎(chǔ)結(jié)構(gòu)。

具體來說，我們進行了兩項重要的架構(gòu)變革：一是分離出了 langchain-core 核心模塊；二是將合作伙伴的包分為 langchain-community 社區(qū)版或獨立的合作伙伴包。

提醒一下，langchain-core 包含了主要的抽象概念、接口和核心功能。這部分代碼已經(jīng)非常穩(wěn)定，并在過去一個多月里遵循了更加嚴(yán)格的版本管理政策。

但是，LangChain 本身之前一直停留在 0.0.x 版本。所有版本都處于初級階段，這帶來了一些挑戰(zhàn)：

用戶擔(dān)心更新后可能會遇到兼容性問題。

為了盡量避免破壞性的更新和頻繁的棄用通知，我們采取了全面維護的策略，結(jié)果卻使得 LangChain 變得龐大且不穩(wěn)定。

不過，從今天開始，隨著 LangChain 0.1.0 版本的發(fā)布，所有未來的版本更新都將遵循新的版本標(biāo)準(zhǔn)。具體是：

任何對公共 API（Application Programming Interface，應(yīng)用程序編程接口）造成破壞性更改的操作，都會導(dǎo)致次要版本號的提升（即版本號的第二位數(shù)字）。

任何錯誤修復(fù)或新增功能都會導(dǎo)致補丁版本號的提升（即版本號的第三位數(shù)字）。

我們期望這些結(jié)合之前的架構(gòu)變革，能夠：

清晰地通報任何重大更改，讓開發(fā)者能夠放心更新

為我們提供正式淘汰及清理老舊代碼的途徑，減少代碼冗余

更加負責(zé)任地處理集成問題（這些集成的 SDK 變化通常和 LangChain 一樣迅速）

即便在我們推出 0.2 版本之后，我們依然承諾維護 0.1 版本的一個分支，但僅針對關(guān)鍵 bug 提供修補。

在我們將包結(jié)構(gòu)調(diào)整為穩(wěn)定的 0.1 版本的過程中，我們抓住機會與數(shù)百名開發(fā)者交流，了解他們選擇使用 LangChain 的原因和喜歡的特點。這些反饋指導(dǎo)了我們的發(fā)展方向和重點。我們也借此機會在下文提到的核心領(lǐng)域，使 Python 和 JavaScript 版本達到一致。

盡管某些集成和更特定的鏈可能針對特定語言，但核心抽象和關(guān)鍵功能在 Python 和 JavaScript 的包中均有同等實現(xiàn)。

我們希望分享我們的發(fā)現(xiàn)以及不斷完善 LangChain 的計劃。我們相信，分享這些經(jīng)驗將增加我們決策和思考方式的透明度，讓更多人能更好地使用、理解并貢獻于 LangChain。畢竟，LangChain 的一大部分是我們的社區(qū)，包括廣大用戶群和 2000 多名貢獻者，我們希望每個人都能參與到這個旅程中來。

#02第三方集成

LangChain 最受用戶青睞的特點之一是其易用性，它讓人們可以輕松地在任何技術(shù)棧上開始構(gòu)建應(yīng)用。我們提供了近 700 種集成，涵蓋從 LLM 到向量存儲，再到 Agent 使用的各種工具。

LangChain 常被視為構(gòu)建 LLM 應(yīng)用所需各種組件的 “粘合劑”，因此，構(gòu)建一個強大的集成生態(tài)系統(tǒng)對我們來說非常重要。

大約一個月前，我們開始實施一些改變，旨在提高集成的健壯性、穩(wěn)定性、可擴展性以及整體開發(fā)者體驗。我們把所有第三方集成都移到了 langchain-community 中，這樣我們就能集中處理與集成相關(guān)的工作。同時，我們也開始將個別集成分離到它們自己的包中。

到目前為止，我們已經(jīng)對約 10 個包進行了這樣的處理，包括 OpenAI、Google 和 Mistral 等。這樣做的好處之一是能更好地管理依賴關(guān)系 —— 之前所有依賴都是可選的，這在安裝特定版本時可能會帶來問題?，F(xiàn)在，將集成放入各自的包中，我們可以對它們的要求進行更嚴(yán)格的版本控制，從而簡化安裝過程。另一個好處是版本控制。第三方集成有時會變更，可能需要進行重大更改?，F(xiàn)在，這些更改可以在獨立的集成包中得到適當(dāng)?shù)陌姹痉从场?/p>

#03可觀測性

構(gòu)建 LLM 應(yīng)用時，系統(tǒng)核心將會是一個非確定性組件。這些模型時常會產(chǎn)生出乎意料的結(jié)果，因此，清楚地了解系統(tǒng)中正在發(fā)生的情況是很重要的。

我們希望使 LangChain 盡可能地易于觀測和調(diào)試，無論是通過我們的架構(gòu)設(shè)計，還是我們所開發(fā)的工具。

我們以幾種方式實現(xiàn)了這一目標(biāo)。

主要方法之一是開發(fā)了 LangSmith。LangSmith 的一個核心優(yōu)勢是為你的 LLM 應(yīng)用提供一流的調(diào)試體驗。我們詳細記錄了正在執(zhí)行的每個步驟、每個步驟的輸入、輸出、所需時間等數(shù)據(jù)。我們以用戶友好的方式展示這些信息，讓你能夠識別哪些步驟耗時最長，進入一個調(diào)試區(qū)域來處理 LLM 意外反饋的問題，追蹤 Token 使用情況等。

即便在私有測試階段，LangSmith 就已經(jīng)受到了極大的歡迎，我們正在大量投入資源以提高其可擴展性，以便未來幾個月發(fā)布公共測試版，并最終普及它。我們還支持企業(yè)版本，為那些對數(shù)據(jù)隱私要求嚴(yán)格的企業(yè)提供虛擬專用云（VPC）內(nèi)部署服務(wù)。

我們還通過其他途徑增強了可觀測性。長期以來，我們?yōu)檎麄€處理流程提供了詳細和調(diào)試模式，支持不同級別的日志記錄。最近，我們還引入了一種新方法，可以可視化用戶所創(chuàng)建的鏈條，并獲取鏈條中使用的所有提示信息。

#04可組合性

盡管預(yù)先構(gòu)建的鏈條有助于快速入門，但我們常見團隊希望突破現(xiàn)有架構(gòu)，定制屬于自己的鏈條。這種定制不僅限于提示，還包括編排的各個部分。

在過去幾個月里，我們大力投資于 LangChain 表達式語言（LCEL）。LCEL 允許自由組合各種序列，為數(shù)據(jù)工程流程帶來了類似于數(shù)據(jù)編排工具的諸多好處，如批處理、并行處理和回退策略。

LCEL 還提供了一些特定于 LLM 工作負載的獨特好處，主要包括之前提到的 LLM 專用的可觀測性，以及稍后將在本文中介紹的流處理功能。

LCEL 的核心組件位于 langchain-core 中。我們已經(jīng)開始在 LangChain 中為特定鏈條創(chuàng)建更高級別的入口點。這些新的入口點將逐步取代現(xiàn)有的（現(xiàn)稱為 “遺留”）鏈條，因為基于 LCEL 構(gòu)建的鏈條將自帶流處理、易于定制、可觀測性、批處理和重試等功能。我們的目標(biāo)是實現(xiàn)平滑過渡。以前你可能需要這樣做：

ConversationalRetrievalChain.from_llm(llm,…)

而現(xiàn)在，我們希望簡化為：

create_conversational_retrieval_chain(llm,…)

在底層，它將創(chuàng)建一個特定的 LCEL 鏈條并返回。如果你想修改邏輯，也沒問題！因為一切都是用 LCEL 編寫的，修改其中一部分而無需繼承類或覆蓋方法變得很容易。

LangChain 中有許多鏈條被廣泛使用。在有替代構(gòu)造函數(shù)存在且經(jīng)過使用和充分測試之前，我們不會棄用遺留版本的鏈條。

#05流式處理

LLM 有時反應(yīng)較慢。向最終用戶展示正在進行的工作，而不是讓他們盯著空白屏幕，十分重要。這可以通過從 LLM 流式傳輸 Token，或者流式傳輸更長時間運行的鏈條或 Agent 的中間步驟來實現(xiàn)。

我們在這兩方面都進行了大量投資。所有用 LCEL 構(gòu)建的鏈條均提供標(biāo)準(zhǔn)的 stream 和 astream 方法，我們還做了大量工作，確保流處理不僅限于 LLM 調(diào)用階段（比如在輸出解析器中也實現(xiàn)了流處理）。所有鏈條還提供了一個標(biāo)準(zhǔn)的 astream_log 方法，用于流式傳輸 LCEL 鏈條中的所有步驟。這樣就可以輕松過濾這些步驟，獲取中間步驟和其他信息。

流式處理（包括 Token 和中間步驟）是大多數(shù) LLM 應(yīng)用中非常重要的用戶體驗部分，而通過 LangChain，你可以輕松實現(xiàn)這一功能。

#06輸出解析

LangChain 的一個主要功能是 “工具使用”，即利用 LLM 來操作其他工具。

確保 LLM 返回的信息格式適合后續(xù)應(yīng)用并便于操作，這對于 LLM 的實際應(yīng)用非常重要。

我們圍繞這一需求，提出了 “輸出解析器” 的概念，并致力于提升開發(fā)者的體驗。

實現(xiàn)這一目標(biāo)的關(guān)鍵方式之一是通過 OpenAI 的函數(shù)調(diào)用功能。我們不僅簡化了指定輸出格式的過程 —— 可以選擇使用 Pydantic、JSON schema 或特定的函數(shù)，還方便了開發(fā)者處理模型的響應(yīng)。

對于不支持 OpenAI 函數(shù)調(diào)用的模型，我們還支持多種編碼方法（如 JSON、XML、Yaml），以便在使用提示進行操作時，能夠更靈活地處理。使用提示時，還需要精確的指令來引導(dǎo) LLM 作出恰當(dāng)?shù)幕貞?yīng) —— 所有的輸出解析器都配備了一個 get_format_instructions 方法，用于獲取這些指令。

我們還對輸出解析器引入了更高級的功能，例如允許它們在生成過程中實時傳輸部分結(jié)果，以此提升用戶體驗。這包括從 JSON、XML 和 CSV 等結(jié)構(gòu)化格式中實時傳輸部分結(jié)果。但輸出解析有時頗具挑戰(zhàn)性，例如要解析一個 JSON 數(shù)據(jù)塊，大多數(shù) JSON 解析器需要完整的數(shù)據(jù)塊。我們的許多輸出解析器都內(nèi)置了處理這種部分解析的邏輯。

#07檢索

我們發(fā)現(xiàn)開發(fā)者正在構(gòu)建的主流應(yīng)用類型之一是能與他們自己的私有數(shù)據(jù)進行交互的應(yīng)用。

將個人數(shù)據(jù)與 LLM 結(jié)合起來，是 LangChain 的一個核心特性。

這通常涉及兩個環(huán)節(jié)：數(shù)據(jù)攝?。?zhǔn)備數(shù)據(jù)）和數(shù)據(jù)檢索（獲取數(shù)據(jù)），我們已經(jīng)開發(fā)了相應(yīng)的功能。

在數(shù)據(jù)攝取方面，關(guān)鍵步驟之一是將待處理的文本分割成小塊。雖然這聽起來簡單，但實際上如何分割取決于文檔的類型，這需要細致的考量。我們提供了 15 種不同的文本分割器，針對特定類型的文檔（如 HTML 和 Markdown）進行了優(yōu)化，使開發(fā)者能更好地控制這一過程。

需要注意的是，相關(guān)數(shù)據(jù)可能會頻繁變化，我們的數(shù)據(jù)攝取系統(tǒng)適用于大規(guī)模的應(yīng)用。我們設(shè)計了一個索引 API，允許重新攝取內(nèi)容，同時忽略那些未發(fā)生變化的部分，這樣可以為處理大量數(shù)據(jù)節(jié)省時間和成本。

在檢索方面，我們不僅開發(fā)了更加先進、適合生產(chǎn)環(huán)境的檢索方法，還實現(xiàn)了一系列來自學(xué)術(shù)界的高級檢索策略，如 FLARE 和 Hyde，以及我們自創(chuàng)的方法，如 Parent Document 和 Self-Query。我們還參考了其他行業(yè)的解決方案，如 Multi-Query（這是一種在搜索中常用的查詢擴展方法）。

此外，我們特別關(guān)注生產(chǎn)環(huán)境中的需求，比如為每個用戶單獨檢索數(shù)據(jù)，這對于存儲多用戶文檔的應(yīng)用來說至關(guān)重要。

重要的是，盡管 LangChain 提供了構(gòu)建高級檢索系統(tǒng)所需的一切組件，但我們并不限制使用方式。這就激發(fā)了其他許多庫在 LangChain 基礎(chǔ)上發(fā)展，提供更加專業(yè)化的檢索方法，例如 EmbedChain 和 GPTResearcher。

#08Agent

LangChain 最初因其在代理性工作負載方面的表現(xiàn)而受到關(guān)注。這主要體現(xiàn)在兩個方面：

工具使用：讓 LLM 調(diào)用某個函數(shù)或工具。

推理：優(yōu)化 LLM 的使用方式，使其能夠合理決定是否多次調(diào)用工具，以及調(diào)用的順序。

在工具使用方面，我們重點覆蓋了以下幾個關(guān)鍵組件：

與眾多第三方工具的集成。

確保 LLM 的響應(yīng)能夠匹配這些工具的輸入要求。

提供靈活的方式來定制工具的調(diào)用方式（LCEL）。

在推理方面，我們開發(fā)了幾種不同的 “Agent” 方法。這些方法大致上是讓 LLM 在一個循環(huán)中運行，每次循環(huán)中決定是否需要調(diào)用某個工具，然后觀察該工具的執(zhí)行結(jié)果。我們從一開始就整合了 ReAct 這種早期的提示策略，并迅速加入了多種類型，包括使用 OpenAI 函數(shù)調(diào)用、使用新的工具調(diào)用 API、優(yōu)化對話等等。

通過靈活、可擴展的工具支持和先進的推理能力，LangChain 已成為 LLM 能夠采取行動的首選方法。

與檢索功能類似，雖然 LangChain 提供了構(gòu)建 Agent 的基礎(chǔ)模塊，但我們也看到了一些更具主見的框架在其基礎(chǔ)上發(fā)展，例如 CrewAI，它在 LangChain 基礎(chǔ)上發(fā)展，為處理多 Agent 工作負載提供了更簡便的界面。

#09LangChain 0.2

雖然我們剛發(fā)布了 LangChain 0.1 版本，但我們已經(jīng)開始著手準(zhǔn)備 0.2 版本。我們關(guān)注的一些重點包括：

使用 LCEL 重構(gòu)遺留的鏈條，使其支持更高效的流處理和調(diào)試

引入新類型的鏈條和 Agent

提升我們的生產(chǎn)數(shù)據(jù)攝取能力

移除舊的和不常用的功能

值得注意的是，盡管我們渴望去除一些舊代碼，使 LangChain 更加精簡和專注，但我們也想為仍在使用舊版本的用戶提供支持。因此，我們將把 0.1 版本作為一個穩(wěn)定分支保留至少三個月（在此期間將修復(fù)關(guān)鍵錯誤）。我們計劃對每個穩(wěn)定版本都采取這種策略。

如果你一直想?yún)⑴c貢獻，現(xiàn)在是個絕佳的時機。我們最近在 GitHub 上添加了一些適合新手入門的問題，可以作為你的起點。

#10其他

LangChain v0.1.0 的重點是提升穩(wěn)定性，并專注于核心領(lǐng)域。現(xiàn)在我們已經(jīng)確定了用戶喜歡 LangChain 的方面，我們可以在這些領(lǐng)域添加更先進、更完善的工具。

LangChain 受歡迎的主要原因之一是它對 Agent 的支持。大多數(shù) Agent 主要是在某種循環(huán)中運行 LLM。目前，我們使用的唯一方法是 AgentExecutor。我們?yōu)?AgentExecutor 添加了許多參數(shù)和功能，但它仍然只是運行循環(huán)的一種方式。

我們很高興宣布，我們將發(fā)布 langgraph，這是一個新的庫，旨在創(chuàng)建語言 Agent 的圖形表示。

這將使用戶能夠創(chuàng)建更加定制化的循環(huán)行為。用戶可以定義明確的規(guī)劃步驟、反思步驟，或者輕松設(shè)置優(yōu)先調(diào)用某個特定工具。

langgraph 的靈感來自于 Pregel 和 Apache Beam。它目前提供的接口風(fēng)格類似于 NetworkX，功能和表現(xiàn)形式如下：

romlanggraph.graphimportEND,Graph

workflow=Graph()

workflow.add_node("agent",agent)
workflow.add_node("tools",execute_tools)

workflow.set_entry_point("agent")

workflow.add_conditional_edges(
"agent",
should_continue,
{
"continue":"tools",
"exit":END
}
)

workflow.add_edge('tools','agent')

chain=workflow.compile()

我們過去六個月一直在開發(fā)并與用戶進行測試。它目前支持 OpenGPT，并在未來幾周將添加更多示例和文檔。我們對此感到非常興奮！

#11結(jié)論

隨著生態(tài)系統(tǒng)的發(fā)展，LangChain 也取得了明顯的進步。我們非常感謝我們的社區(qū)和用戶的推動和共建。通過這次 0.1 版本的發(fā)布，我們深入了解了用戶在 LLM 框架中的需求，并保持致力于滿足這些需求。隨著社區(qū)需求的變化（或者如果我們遺漏了什么），我們期待聽到你的反饋，以便做出改進。千里之行，始于足下，讓我們從 0.1 版本開始。

LangChain 是一個開源編排框架，用于使用 LLM 開發(fā)應(yīng)用程序。LangChain 的工具和 API 在基于 Python 和 Javascript 的庫中使用，可以簡化構(gòu)建聊天機器人和虛擬代理等 LLM 驅(qū)動型應(yīng)用程序的過程。LangChain 由 Harrison Chase 于 2022 年 10 月推出，推出后迅速脫穎而出：截至 2023 年 6 月，它是 Github 上增長最快的開源項目?，F(xiàn)在 LangChain 0。1。0 版本發(fā)布了，這意味著終于有穩(wěn)定版可用于生產(chǎn)了！下面是關(guān)于 LangChain 0。1。

審核編輯：湯梓紅