BEGIN:VCALENDAR
VERSION:2.0
PRODID:-//pretalx//pretalx.coscup.org//coscup-2026//talk//SPHZLK
BEGIN:VTIMEZONE
TZID:CST
BEGIN:STANDARD
DTSTART:20000101T000000
RRULE:FREQ=YEARLY;BYMONTH=1
TZNAME:CST
TZOFFSETFROM:+0800
TZOFFSETTO:+0800
END:STANDARD
END:VTIMEZONE
BEGIN:VEVENT
UID:pretalx-coscup-2026-SPHZLK@pretalx.coscup.org
DTSTART;TZID=CST:20260809T130000
DTEND;TZID=CST:20260809T133000
DESCRIPTION:“Tweet” AI to the Edge: 從本地化語言模型到環境
 智能的下一步\n\n這裡的 Tweet 不是社群平台上的短文，而
 是中文語感裡的「推」：推送、推進、佈署。當 Twinkle AI
  這樣的開源社群開始打造本地化語言模型之後，下一個
 問題是：如何把模型真正推到使用者身邊，讓它跑在手
 機、桌面、瀏覽器與各種 edge 裝置上？\n\nLittle Star 的起
 點是 Mobile LLM 工具：從「能不能在手機上真跑 LLM」開始
 ，經過 iOS / Android MVP 驗證，逐步轉向 configs、benchmark 與
 真機量測。這個過程讓我們意識到，edge AI 的挑戰不只是
  inference，而是模型格式、runtime、量化、記憶體、延遲、
 耗電、熱與使用者體驗之間的整體設計。\n\n本分享將以 
 Little Star 的探索經驗為基礎，討論如何把本地化語言模
 型推向 edge：從模型封裝、GGUF 與 llama.cpp 生態系、裝置
 端 benchmark，到 context-aware UX 與 Ambient Intelligence 的產品想
 像。我們也會討論為什麼本地模型的價值不只是離線，
 而是「靠近」：靠近使用者、靠近資料、靠近語境，也
 更靠近開源社群能掌握的未來 AI 基礎建設。
DTSTAMP:20260827T134719Z
LOCATION:TR212
SUMMARY:Tweet AI to the Edge - Bobson Lin
URL:https://pretalx.coscup.org/coscup-2026/talk/SPHZLK/
END:VEVENT
END:VCALENDAR