COSCUP 2024

How LangServe Works and Its Source Code
2024-08-04, 12:50–13:20 (Asia/Taipei), TR211

LangServe 是 LangChain 生態系中強大的 web 框架,開發者只要簡單使用「add_routes」,就可以把開發好的 Chain 整合到 LangServe 裡,並且能快速部署成一個 web API,甚至還有一個 playground 可以測試。本次演講會帶大家閱讀 LangServe 的原始碼,探索其背後的機制與設定,並包含部份 LangChain 與 Python Package 的機制,讓開發者可以理解 LangServe 是如何很輕易協助與打造 Generative AI 的 web API。


本次演講會更多的時間在解釋 LangServe 是如何可以讓開發者很容易的使用 「add_routes 」來把 Chain 整合起來,並且會帶大家探索 LangServe playground 部份的程式碼。此外還會包含 LangChain、FastAPI 等基礎知識。

Ko Ko 連續當選多年微軟 AI 領域的最有價值專家(Microsoft AI MVP),曾任職於財星 500 強企業、美國矽谷科技新創、澳洲雪梨科技新創、美國上市公司等企業,擅長於 AI 技術與軟體開發。他也是大型技術年會的知名講者,包含了 ModernWeb、. NET Conference、PyCon APAC、PyCon HK、DevDays Asia 等等的國際大型年會,累計已超過萬名聽眾。他是技術社群 Chatbot Developers Taiwan 的核心成員,在社群裡也分享過許多自然語言處理和聊天機器人相關的實戰和心得。他熱愛向大眾分享他的經驗與所學,並且相信這樣分享的過程中能讓彼此都更進步。