xKV

(★ 57)

xKV: Cross-Layer SVD for KV-Cache Compression [ICML 2026]

  • .gitignore
  • .gitmodules
  • group_layers.py
  • index.html
  • LICENSE
  • README.md
  • requirements.txt
  • utils.py

# 설치 가이드

1. 코드 내려받기
git clone https://github.com/abdelfattah-lab/xKV

깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.

cd xKV

방금 내려받은 프로젝트 폴더 안으로 이동합니다.

2. Python

쉬움 추천
사전 준비물
  • Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
  • Python 3 설치 시 'Add Python to PATH' 옵션을 꼭 체크하세요 (Windows).
uv venv --python 3.11 && source .venv/bin/activate && uv pip install --upgrade pip

requirements.txt 등에 명시된 파이썬 라이브러리를 설치합니다.

uv pip install -r requirements.txt

requirements.txt 등에 명시된 파이썬 라이브러리를 설치합니다.

uv pip install flash-attn==2.7.4.post1 --no-build-isolation

requirements.txt 등에 명시된 파이썬 라이브러리를 설치합니다.

uv pip install -e 3rdparty/MInference --no-build-isolation

requirements.txt 등에 명시된 파이썬 라이브러리를 설치합니다.

uv pip install -e 3rdparty/fast-hadamard-transform --no-build-isolation # Optional

requirements.txt 등에 명시된 파이썬 라이브러리를 설치합니다.

에러 메시지 없이 실행되고 터미널에 안내 문구가 출력되면 정상입니다.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.

// repository documentation