2026/08/09 –, TR212
大語言模型(LLM)技術日新月異,單靠閱讀論文或文件已經難以跟上發展速度,真正的理解往往建立在「親手把玩程式碼」之上。
本議程將分享 Twinkle AI 開源社群中「熬夜書坊(Late-Night Study Session)」的營運經驗與技術結晶。我們將開源專案 TwinkleAI-LLM-Book-Club 作為核心載體,帶領會眾一窺如何將重量級著作《Hands-On Large Language Models》轉化為社群共學的開源教材。
演講中將展示我們如何利用開源的互動式 Notebook 環境(如 Jupyter 甚至具備高重現性的環境),帶領參與者一步步拆解 Tokenization 的編解碼過程、解析 Embeddings 向量魔法,並實際串接 Twinkle AI 專屬的繁中在地化模型(如 gemma-3-4B-T1-it)進行推論。這不僅是一場關於 LLM 底層技術的分享,更是展示如何透過開源協作與做中學(Hands-on),降低技術門檻,凝聚台灣在地 AI 生態圈的實踐指南。
Thomas 是一名跨足工程與設計領域的 ML Engineer,熱衷於探索機器學習底層技術。他目前是繁體中文開源語言模型社群 Twinkle AI 的活躍貢獻者,同時也是社群吉祥物「石虎」的創作者。作為「熬夜書坊(Late-Night Study Session)」的主持人,他致力於將艱澀的 AI 理論轉化為高重現性且易於上手的互動式教材。平時亦參與 Hugging Face Transformers、marimo 等開源專案,期望透過設計思維與「做中學(Hands-on)」,推動台灣在地生成式 AI 生態的發展。