COSCUP 2026 - Conference for Open Source Coders, Users, and Promoters

200 行 Python 程式碼能訓練出什麼? 詳解 Micro GPT
2026-08-08 –, TR412-1

這個 talk 會把我研究 Andrej Karpathy (Open ai 創辦人) 的 microgpt 筆記走一遍。
microgpt 努力把Transformer、Attention、Embedding 等等元件用最簡單的方式實作,
讓你用最少的負擔理解 gpt 的流程。

或許...你之後就不會覺得 attention 這麼神秘了?
你也會知道漲價的記憶漲價被拿去裝什麼東西 :)

下面是我這次會跟大家 present 的投影片,也有附上滿滿的程式碼解釋的投影片。
https://github.com/timtan/MicroGPT-zh


Difficulty: Intermediate