litgpt

(★ 13,619)

사전 훈련, 파인튜닝, 대규모 배포를 위한 레시피를 제공하는 20개 이상의 고성능 LLM.

참고 사이트

🌐 공식 홈페이지 Lightning Cloud Rozière et al. 2023 Google Team, Google Deepmind Google Team, Google Deepmind Qwen Team 2024

오너의 다른 레포

pytorch-lightning ★ 31,297

코드 변경 없이 1개에서 10,000개 이상의 GPU에서 모든 크기의 AI 모델을 Pretrain 및 Finetune 하세요.

Python
lit-llama ★ 6,084

nanoGPT 기반의 LLaMA 언어 모델 구현체입니다. Flash attention, Int8 및 GPTQ 4비트 양자화, LoRA 및 LLaMA-Adapter 파인튜닝, 사전 학습을 지원합니다. Apache 2.0 라이선스가 적용됩니다.

Python
LitServe ★ 3,929

로직, 배치 처리, 그리고 스케일링을 완전히 제어할 수 있는 커스텀 AI 추론 서버를 구축하기 위한 미니멀한 Python 프레임워크입니다.

Python
torchmetrics ★ 2,460

Machine learning metrics for distributed, scalable PyTorch applications.

Python
lightning-thunder ★ 1,469

PyTorch compiler that accelerates training and inference. Get built-in optimizations for performance, memory, parallelism, and easily write your own.

Python
deep-learning-project-template ★ 1,288

Pytorch Lightning code guideline for conferences

Python

파일 탐색기

ZIP 다운로드
  • .gitignore
  • .pre-commit-config.yaml
  • CITATION.cff
  • CODE_OF_CONDUCT.md
  • CONTRIBUTING.md
  • LICENSE.md
  • pyproject.toml
  • README.md

# 설치 가이드

python
사전 준비물

설치 및 실행 절차

git clone https://github.com/Lightning-AI/litgpt

저장소를 로컬에 클론합니다.

cd litgpt

프로젝트 디렉토리로 이동합니다.

pip install 'litgpt[extra]'

LitGPT 패키지와 추가 의존성을 설치합니다.

핵심 명령어

pip install 'litgpt[extra]'

LitGPT 패키지와 추가 기능을 함께 설치합니다.

pip install -e '.[extra,compiler,test]'

개발자 모드로 패키지를 소스에서 설치합니다.

uv sync --all-extras

uv 패키지 매니저를 사용하여 모든 의존성을 동기화합니다.

GPU 환경에서 실행하려면 PyTorch와 호환되는 CUDA 드라이버가 필요합니다.

# CDN으로 사용하기

jsDelivr

jsDelivr는 공개 GitHub 리포지토리를 별도 설정 없이 CDN으로 즉시 서빙합니다. 버전과 파일을 고르면 웹페이지에 바로 붙일 수 있는 링크와 예시 코드가 만들어집니다.

링크
예시

릴리즈 타임라인

활발히 관리 중

명령어 용어집

이 문서에서 사용된 명령어를 모아봤습니다. 낯선 명령어가 있다면 펼쳐서 확인해보세요.

🔍

git clone

설명 보기 ▼

Clone an existing repository.

git clone {{remote_repository_location}} {{path/to/directory}}

Clone an existing repository into a new directory (the default directory is the repository name):

git clone --recursive {{remote_repository_location}}

Clone an existing repository and its submodules:

git clone {{[-n|--no-checkout]}} {{remote_repository_location}}

Clone only the `.git` directory of an existing repository:

🔍

pip install

설명 보기 ▼

Install Python packages.

pip install {{package1 package2 ...}}

Install one or more packages:

pip install {{package1 package2 ...}} {{[-U|--upgrade]}}

Upgrade all specified packages to the latest version, installing any that are not already present:

pip install {{package}}=={{version}}

Install a specific version of a package:

🔍

uv sync

설명 보기 ▼

Update the project's environment to match the lockfile.

uv sync

Sync the project environment with the lockfile:

uv sync --all-extras

Sync and include all optional dependencies:

uv sync --extra {{extra_name}}

Sync with specific optional dependencies:

// repository documentation