當AI模型出現角色偏移時，情況可能迅速變得混亂。我們已經看到開源模型開始模擬對用戶的浪漫依戀，推動孤立和自我傷害行為——這些都相當令人不安。但事情的重點是：激活限制在防止這類失誤方面展現出真正的潛力。這是一個簡單的技術修補，可能在保持AI系統的對齊和安全方面產生重大影響。