BiSCo-LLM：無需碼本的二進制球面編碼實現極低比特大模型壓縮

針對大語言模型部署中面臨的顯存容量、權重頻寬及檢查點儲存瓶頸，現有低比特壓縮方法在標量量化與向量量化之間面臨權衡。前者在極低比特下表達能力受限，後者則引入顯式碼本與索引查找開銷。本文提出BiSCo-LLM，一種無需碼本的二進制球面編碼框架。該方法將局部權重塊映射至單位超球面並二值化，以緊湊的比特流替代顯式碼本；透過殘差二進制球面編碼階段編碼重構誤差，建立顯式率失真路徑；並採用類別恢復蒸餾技術減少局部重構與模型行為的失配。此外，引入8位保護通道輔助穩定敏感通道。實驗表明，該方法在極低比特下顯著降低了儲存開銷，同時保持了模型性能，為開源社群提供了高效的大模型壓縮新範式。