BEGIN:VCALENDAR
VERSION:2.0
PRODID:-//pretalx//pretalx.coscup.org//coscup-2026//talk//EHHF78
BEGIN:VTIMEZONE
TZID:CST
BEGIN:STANDARD
DTSTART:20000101T000000
RRULE:FREQ=YEARLY;BYMONTH=1
TZNAME:CST
TZOFFSETFROM:+0800
TZOFFSETTO:+0800
END:STANDARD
END:VTIMEZONE
BEGIN:VEVENT
UID:pretalx-coscup-2026-EHHF78@pretalx.coscup.org
DTSTART;TZID=CST:20260809T111000
DTEND;TZID=CST:20260809T114000
DESCRIPTION:你以為「乾淨」的微調資料就是安全的嗎？最新
 研究指出，僅僅 100 筆來自 Dolly、Alpaca 這類良性資料集
 的樣本——表面無害、卻帶有有害梯度方向的 Benign Outlie
 rs——就足以讓一個對齊過的 LLM 安全防線全面崩潰，而
 且完全不需要外部惡意資料當錨點。\n本場分享將以 Twink
 le AI 開源的 gemma-3-4B-T1-it 為實驗對象，帶大家走過一次
 真實的攻擊與防禦：如何用 Self-Inf-N 從繁中良性資料中
 挖出這些「隱形地雷」、它們在連續學習場景下有多難
 消除，以及 SafeGrad、AsFT 這類梯度約束防禦方法到底擋不
 擋得住。\n適合對 LLM 安全、微調、開源模型治理有興趣
 的開發者與研究者。
DTSTAMP:20260713T142445Z
LOCATION:TR212
SUMMARY:Benign Outliers 對 Twinkle AI 模型安全對齊之影響研究 - Allen\, 黃亮勳
URL:https://pretalx.coscup.org/coscup-2026/talk/EHHF78/
END:VEVENT
END:VCALENDAR