2026/08/08 –, TR412-1
這個 talk 會把我研究 Andrej Karpathy (Open ai 創辦人) 的 microgpt 筆記走一遍。
microgpt 努力把Transformer、Attention、Embedding 等等元件用最簡單的方式實作,
讓你用最少的負擔理解 gpt 的流程。
或許...你之後就不會覺得 attention 這麼神秘了?
你也會知道漲價的記憶漲價被拿去裝什麼東西 :)
下面是我這次會跟大家 present 的投影片,也有附上滿滿的程式碼解釋的投影片。
https://github.com/timtan/MicroGPT-zh