COSCUP 2026 - Conference for Open Source Coders, Users, and Promoters

A Prompt Is Not All You Need:用開源工具打造 LLM 合成資料管線
2026-08-08 , TR212

在開源模型生態蓬勃發展的今天,開發者能輕易取得 Gemma4、Qwen3.5 等頂尖的開源大語言模型 (LLM)。然而,當我們想將這些技術落地到金融、醫療等高合規場景時,往往會撞上一面名為「資料隱私」的高牆。受限於個資 (PII) 與法規,團隊根本拿不到真實業務資料來進行 PoC、效果驗證或 RAG 系統的壓力測試。沒有可用資料進行驗證,再好的開源模型也難以推進到實際的業務中。

面對「資料可取用性」的難題,合成資料 (Synthetic Data) 成為破局關鍵方法。

許多團隊最初會嘗試手寫 Prompt 來生成測試資料。但當需求擴增至上千筆,且須同時滿足多樣性、邊界條件與邏輯一致性時,這種做法很快就會面臨品質失控、難以驗證與無法擴展的瓶頸。

本議程將以 Nvidia Open Source 工具 Data Designer 為例、提供可重現的範例 pipeline,包含 synthetic PII / domain QA seed schema、DAG config、validator 設計、LLM-as-a-Judge rubric,以及生成資料的品質檢查報告。所有範例資料與程式碼將以開源授權釋出,讓聽眾會後可以直接改造成自己的 RAG 測試資料或 PoC dataset。

透過這個實戰案例,希望幫助開源開發者與企業 IT 團隊在缺乏真實資料的困境中,利用開源工具鏈「無中生有」打造高品質的測試資料集,讓 AI 落地的最後一哩路走得更穩健。


Difficulty: Intermediate

來自澳門的開發者,現職 IBM 顧問,具備豐富的資料科學、資料工程與人工智慧領域實務經驗,曾參與醫療、金融及製造業等跨產業專案,累積多元的產業洞察、解決方案設計與系統開發經驗。 畢業於高雄醫學大學,並取得成功大學醫學資訊研究所碩士學位。曾於生醫新創公司擔任 R & D 及 TPM。 熱衷研究技術探索推動變革的可能,深信科技的力量能為世界帶來影響與改變。 A developer from Macao, currently serving as a Consultant at IBM, with practical expertise in data science, data engineering, and artificial intelligence. Graduated from Kaohsiung Medical University and holds a master’s degree in Medical Informatics from National Cheng Kung University. Previously served as an R & D engineer and TPM at a biomedical startup. Passionate about exploring technology to drive transformative change, and firmly believes in the power of technology to influence and reshape the world.