DeepSeek-671B-SFT-Guide

(★ 812)

An open-source solution for full parameter fine-tuning of DeepSeek-V3/R1 671B, including complete code and scripts from training to inference, as well as some practical experiences and conclusions. (DeepSeek-V3/R1 满血版 671B 全参数微调的开源解决方案，包含从训练到推理的完整代码和脚本，以及实践中积累一些经验和结论。)

오너의 다른 레포

DeepLiterature ★ 108

DeepLiterature: A fully open-source intelligent research assistant that integrates search, code execution, link resolution, and information expansion, with multiple tools working together to facilitate scientific research.（DeepLiterature：全流程开源的智能科研助手，集成搜索、代码执行、链接解析和信息拓展，多工具协同助力科学研究。）

Python
AutoThink ★ 52

AutoThink is a reinforcement learning framework designed to equip R1-style language models with adaptive reasoning capabilities. Instead of always thinking or never thinking, the model learns when to engage in explicit reasoning, balancing performance and efficiency.

Python
S1-DeepResearch ★ 26

설명이 없습니다.

Python
S1-Agent ★ 22

설명이 없습니다.
S1-Parser ★ 20

설명이 없습니다.

Python
S1-Omni ★ 18

설명이 없습니다.

Python

파일 탐색기

ZIP 다운로드
  • .gitignore
  • LICENSE
  • log.png
  • README.md
  • README_zh.md
  • requirements.txt

# CDN으로 사용하기

jsDelivr

jsDelivr는 공개 GitHub 리포지토리를 별도 설정 없이 CDN으로 즉시 서빙합니다. 버전과 파일을 고르면 웹페이지에 바로 붙일 수 있는 링크와 예시 코드가 만들어집니다.

링크
예시

명령어 용어집

이 문서에서 사용된 명령어를 모아봤습니다. 낯선 명령어가 있다면 펼쳐서 확인해보세요.

🔍

conda activate

설명 보기 ▼

Activate a conda environment.
See also: `conda deactivate`.

conda activate myenv

Activate an existing environment named `myenv`:

conda activate {{path/to/myenv}}

Activate an existing environment located at custom path:

conda activate --stack myenv

Stack `myenv` environment on top of a previous environment making libraries/commands/variables from both accessible:

🔍

conda create

설명 보기 ▼

Create new conda environments.

conda create {{[-y|--yes]}} {{[-n|--name]}} py39 python=3.9 "numpy>=1.11" scipy

Create a new environment named `py39`, install Python 3.9, NumPy v1.11 or above in it, and the latest stable version of SciPy. Say yes to all confirmations:

conda create {{[-n|--name]}} myenv --file {{file1.yml}} --file {{file2.yml}}

Create a new environment named `myenv` and install packages listed in files:

conda create {{[-p|--prefix]}} {{path/to/myenv}}

Create a new environment at a custom path (i.e. prefix):

🔍

nvcc

설명 보기 ▼

NVIDIA CUDA 컴파일러 드라이버.
더 많은 정보: <https://docs.nvidia.com/cuda/cuda-compiler-driver-nvcc/>.

nvcc {{path/to/source.cu}} {{[-o|--output-file]}} {{path/to/executable}}

CUDA 프로그램 컴파일:

nvcc {{path/to/source.cu}} {{[-o|--output-file]}} {{path/to/executable}} {{[-g|--debug]}} {{[-G|--device-debug]}}

디버그 정보 생성:

nvcc {{path/to/source.cu}} {{[-o|--output-file]}} {{path/to/executable}} {{[-I|--include-path]}} {{path/to/includes}} {{[-L|--library-path]}} {{path/to/library}} {{[-l|--library]}} {{library_name}}

다른 경로에서 라이브러리 포함:

🔍

nvidia-smi

설명 보기 ▼

NVIDIA GPU 장치의 관리 및 모니터링 도구.
더 많은 정보: <https://developer.nvidia.com/system-management-interface>.

nvidia-smi

사용 가능한 모든 GPU 및 이를 사용하는 프로세스의 정보 표시:

nvidia-smi {{[-q|--query]}}

더 자세한 GPU 정보 표시:

nvidia-smi dmon

1초 간격으로 전체 GPU 사용량 모니터링:

🔍

pip install

설명 보기 ▼

Install Python packages.

pip install {{package1 package2 ...}}

Install one or more packages:

pip install {{package1 package2 ...}} {{[-U|--upgrade]}}

Upgrade all specified packages to the latest version, installing any that are not already present:

pip install {{package}}=={{version}}

Install a specific version of a package:

🔍

fallocate

설명 보기 ▼

파일에 디스크 공간을 예약하거나 할당 해제.
이 도구는 공간을 할당할 때 0으로 초기화하지 않습니다.
더 많은 정보: <https://manned.org/fallocate>.

fallocate {{[-l|--length]}} 700M {{path/to/file}}

700 MiB의 디스크 공간을 차지하는 파일 예약:

fallocate {{[-c|--collapse-range]}} {{[-l|--length]}} 200MB {{path/to/file}}

이미 할당된 파일을 200 MiB 줄이기:

fallocate {{[-c|--collapse-range]}} {{[-o|--offset]}} 100M {{[-l|--length]}} 20M {{path/to/file}}

파일에서 100 MiB 이후의 20 MB 공간 줄이기:

🔍

lscpu

설명 보기 ▼

Display information about the CPU architecture.

lscpu

Display information about all CPUs:

lscpu {{[-e|--extended]}}

Display information in a table:

lscpu {{[-e|--extended]}} {{[-b|--online]}}

Display only information about online CPUs in a table:

🔍

mkswap

설명 보기 ▼

디바이스나 파일에 Linux 스왑 영역을 설정합니다.
참고: `path/to/file`은 일반 파일 또는 스왑 파티션을 가리킬 수 있습니다.
더 많은 정보: <https://manned.org/mkswap>.

sudo mkswap {{path/to/file}}

지정된 스왑 영역 설정:

sudo mkswap {{[-c|--check]}} {{path/to/file}}

스왑 영역을 생성하기 전에 파티션의 불량 블록 확인:

sudo mkswap {{[-L|--label]}} {{label}} {{/dev/sdXY}}

파티션에 레이블 지정 (레이블을 사용하여 `swapon` 사용 가능):

🔍

sbatch

설명 보기 ▼

SLURM 스케줄러에 배치 작업 제출.
더 많은 정보: <https://manned.org/sbatch>.

sbatch {{path/to/job.sh}}

배치 작업 제출:

sbatch --job-name={{myjob}} {{path/to/job.sh}}

사용자 지정 이름으로 배치 작업 제출:

sbatch --time={{00:30:00}} {{path/to/job.sh}}

30분의 시간 제한으로 배치 작업 제출:

🔍

swapon

설명 보기 ▼

디바이스와 파일을 스왑에 사용할 수 있도록 활성화합니다.
참고: `경로/대상/파일`은 일반 파일이나 스왑 파티션을 가리킬 수 있습니다.
더 많은 정보: <https://manned.org/swapon.8>.

swapon

스왑 정보를 표시:

sudo swapon {{path/to/file}}

주어진 스왑 영역 활성화:

sudo swapon {{[-a|--all]}}

`/etc/fstab`에 지정된 모든 스왑 영역(단, `noauto` 옵션이 있는 것은 제외) 활성화:

// repository documentation