COSCUP 2026 開源人年會

可解釋性與應用:人類的最終防線
2026年8月8日 , TR212

LLM 與相關技術為科技與人類帶來了巨大的轉變。但我們依然不知道 LLM 內部的原理與如何確保 LLM 不會有惡意行為。可解釋性技術提供了少數的切入點。與其存外部在訓練過程中控制語言模型的行為,不如直接打開模型,去直接探索甚至控制LLM的行為。

但這麼重要的技術卻鮮少被討論跟應用。這裡我們打開他的面紗,為未來控制更強大的 AI 爭取希望

Code: https://github.com/marty1885/llama.cpp/tree/rwkv-edit


難易度: 中階