08.08.2026 –, TR412-1
個 talk 會把我研究 Andrej Karpathy (open ai 創辦人) 的 micro-gpt 筆記走一遍。
micro-gpt 努力把Transformer、Attention、Embedding 等等元件用最簡單的方式實作,
讓你用最少的負擔理解 gpt 的流程。
或許...你之後就不會覺得 attention 這麼神秘了?
你也會知道漲價的記憶漲價被拿去裝什麼東西 :)
個 talk 會把我研究 Andrej Karpathy (open ai 創辦人) 的 micro-gpt 筆記走一遍。
micro-gpt 努力把Transformer、Attention、Embedding 等等元件用最簡單的方式實作,
讓你用最少的負擔理解 gpt 的流程。
或許...你之後就不會覺得 attention 這麼神秘了?
你也會知道漲價的記憶漲價被拿去裝什麼東西 :)