COSCUP 2026 開源人年會

200 行 Python 程式碼能訓練出什麼? 詳解 Micro GPT
2026年8月8日 , TR412-1

個 talk 會把我研究 Andrej Karpathy (open ai 創辦人) 的 micro-gpt 筆記走一遍。
micro-gpt 努力把Transformer、Attention、Embedding 等等元件用最簡單的方式實作,
讓你用最少的負擔理解 gpt 的流程。

或許...你之後就不會覺得 attention 這麼神秘了?
你也會知道漲價的記憶漲價被拿去裝什麼東西 :)


難易度: 中階