InternEvo
InternEvo is an open-sourced lightweight training framework aims to support model pre-training without the need for extensive dependencies.
파일 탐색기
최종 버전 다운로드 (.zip)- 1_bug-report.yml
- 2_question.yml
- 3_feature-request.yml
- 4_document.yml
- 5_bug-report_zh.yml
- 6_question_zh.yml
- 7_feature-request_zh.yml
- 8_document_zh.yml
- config.yml
- demo_in_readme.yaml
- e2e_test.yaml
- lint_check.yaml
- monthly_test.yaml
- pr_before_merge.yaml
- pr_merged.yaml
- rerun.yaml
- sonar.yaml
- unit_tests.yaml
- upload_to_pypi.yaml
- weekly_test.yaml
- pull_request_template.md
- basic_func.sh
- check_slurm_cancled.sh
- com_func.py
- post_action.sh
- variables.sh
- tokenizer_alpaca.sh
- tokenizer_chinese.sh
- convert_to_hf.sh
- loaded_as_transformer.py
- ci_7B_sft.py
- generate_config.py
- load_ckpt.sh
- slurm_train.sh
- test_config.json
- torchrun.sh
- internlm2_1B.py
- internlm2_20B.py
- internlm2_7B.py
- internlm_20B.py
- internlm_7B.py
- default_runtime.py
- 1.8B_MoE16_sft.py
- 57B_qwen2_MoE.py
- 7B_baichuan2.py
- 7B_gemma.py
- 7B_internlm2.py
- 7B_isp_sft.py
- 7B_llama2.py
- 7B_MoE4_sft.py
- 7B_qwen2.py
- 7B_sft.py
- 8B_internlm3.py
- 8x22B_mixtral.py
- 8x7B_mixtral.py
- demo.py
- demo_llava.py
- qwen3_30B_A3B.py
- rotary.cpp
- rotary_cuda.cu
- setup.py
- interface.cpp
- README.md
- setup.py
- xentropy_kernel.cu
- long_text_example.txt
- 20B_demo.po
- 7B_demo.po
- index.po
- checkpoint.po
- data_flow.po
- index.po
- initialize.po
- install.po
- mixed_precision.po
- moe.po
- monitor.po
- parallel.po
- profiler.po
- qa.po
- training.po
- usage.po
- 20B_demo.rst
- 7B_demo.rst
- index.rst
- checkpoint.rst
- conf.py
- data_flow.rst
- index.rst
- initialize.rst
- install.md
- mixed_precision.rst
- moe.rst
- monitor.rst
- parallel.rst
- profiler.rst
- qa.rst
- training.rst
- usage.md
- make.bat
- Makefile
- requirements.txt
- install.md
- parallel_output.md
- structure.md
- train_performance.md
- usage.md
- 2d-attn.PNG
- ckpt_path_format_CN.png
- compass_support.svg
- double-ring.PNG
- dynamic_ntk_answer.png
- flops.png
- forward_flow.png
- hybrid_parallel_training.png
- InternEvo_logo.png
- isp.png
- license.svg
- modelscope_logo.png
- msp.png
- mtp.png
- nic.PNG
- pack_into_one.png
- params_memory_sunburst.png
- pipeline_schedule.png
- robot.png
- sequence_parallel.png
- switch_transformer.png
- tensor_parallel.png
- tf32.png
- torch_profiler_trace.png
- train_performance.png
- user.png
- install.md
- parallel_output.md
- structure.md
- train_performance.md
- usage.md
- Dockerfile-centos
- Dockerfile-ubuntu
- Dockerfile-centos
- Dockerfile-ubuntu
- README-CN.md
- README-EN.md
- __init__.py
- abstract_accelerator.py
- cuda_accelerator.py
- dipu_accelerator.py
- ditorch_accelerator.py
- npu_accelerator.py
- __init__.py
- inference.py
- inference_utils.py
- __init__.py
- checkpoint_manager.py
- components.py
- load_funcs.py
- utils.py
- __init__.py
- parallel_context.py
- process_group_initializer.py
- random.py
- __init__.py
- attn_offload.py
- cpu_offload.py
- isp.py
- tensor.py
- utils.py
- zero.py
- __init__.py
- shard.py
- __init__.py
- p2p.py
- utils.py
- __init__.py
- base_scheduler.py
- no_pipeline_scheduler.py
- pipeline_scheduler_1f1b.py
- pipeline_scheduler_zb.py
- __init__.py
- engine.py
- gradient_handler.py
- naive_amp.py
- trainer.py
- trainer_builder.py
- __init__.py
- collaters.py
- dataset.py
- helpers.cpp
- __init__.py
- batch_sampler.py
- dataset.py
- __init__.py
- batch_sampler.py
- collaters.py
- dataset.py
- utils.py
- __init__.py
- batch_sampler.py
- collaters.py
- dataset.py
- dummy_dataset.py
- dummy_dataset_multimodal.py
- packed_dataset.py
- single_dataset.py
- __init__.py
- build_dataloader.py
- train_state.py
- utils.py
- __init__.py
- evaluation.py
- __init__.py
- launch.py
- __init__.py
- initialize_tensor.py
- initialize_trainer.py
- launch.py
- __init__.py
- clip_builder.py
- clip_encoder.py
- projector_builder.py
- __init__.py
- ce_loss.py
- __init__.py
- embedding.py
- linear.py
- mha.py
- mlp.py
- norm.py
- utils.py
- __init__.py
- megablock_dmoe.py
- megablock_moe.py
- mlp.py
- utils.py
- __init__.py
- base_layer.py
- dropless_layer.py
- experts.py
- gshard_layer.py
- moe.py
- utils.py
- __init__.py
- apex_naive_loss.py
- py_naive_loss.py
- py_vocab_parallel_loss.py
- sequence_parallel_loss.py
- __init__.py
- utils.py
- zigzag_ring_flash_attn_with_sliding_window.py
- __init__.py
- _flash_attn.py
- attention.py
- cross_entropy.py
- fused_rmsnorm.py
- linear.py
- norm.py
- rotary_emb.py
- utils.py
- __init__.py
- base_model.py
- builder.py
- metrics.py
- modeling_baichuan2.py
- modeling_gemma.py
- modeling_internlm.py
- modeling_internlm2.py
- modeling_llama.py
- modeling_llava.py
- modeling_mixtral.py
- modeling_moe.py
- modeling_qwen2.py
- modeling_qwen2_moe.py
- modeling_qwen3_moe.py
- registry.py
- utils.py
- __init__.py
- alert.py
- monitor.py
- utils.py
- __init__.py
- base_optimizer.py
- compatible_adamw.py
- fsdp_optimizer.py
- hybrid_zero_optim.py
- hybrid_zero_optim_v2.py
- npu_fused_adamw.py
- store.py
- utils.py
- __init__.py
- beta2_scheduler.py
- lr_scheduler.py
- __init__.py
- activation_checkpoint.py
- __init__.py
- pipeline.py
- utils.py
- __init__.py
- common.py
- gputest.py
- lazy.py
- logger.py
- megatron_timers.py
- parallel.py
- simple_memory_profiler.py
- storage_manager.py
- timeout.py
- utils.py
- writer.py
- __init__.py
- runtime.txt
- torch.txt
- __init__.py
- test_pipeline.py
- utils.py
- test_batch_sampler.py
- test_generate.py
- test_trainer_generate.py
- test_fused_precision.py
- test_flash_attention.py
- test_npu_rmsnorm.py
- test_rotary_embed.py
- test_embedding.py
- test_feed_forward.py
- test_model_internlm.py
- test_norm.py
- test_npu_solver.py
- test_optimizer.py
- 7B_check_acc.py
- 7B_check_init.py
- __init__.py
- test_forward_output_no_fa.py
- test_load_ckpt_loss.py
- test_loss.py
- test_no_fa_train_temp.py
- test_norm_weight.py
- test_swap_nb_loss_and_gradnorm.py
- train_CI.py
- common_fixture.py
- test_model_checkpoint.py
- test_storage_manager.py
- test_timeout.py
- __init__.py
- common_fixture.py
- apex
- flash-attention
- alpaca_tokenizer.py
- convert_ckpt_parallel.py
- interface.py
- intern_moss_example.py
- internlm_sft_on_moss.py
- load_internlm2_model.py
- moe_group_ckpt_converter.py
- openai_api.py
- pal_inference.py
- README.md
- README_EN.md
- tokenizer.py
- tokenizer_internlm.model
- tokenizer_internlm2.model
- __init__.py
- configuration_internlm2.py
- modeling_internlm2.py
- tokenization_internlm2.py
- tokenization_internlm2_fast.py
- __init__.py
- configuration_internlm.py
- modeling_internlm.py
- tokenization_internlm.py
- __init__.py
- configuration_internlm_moe.py
- modeling_internlm_moe.py
- tokenization_internlm.py
- convert2hf_internlm.py
- convert2hf_internlm2.py
- convert2hf_internlm_moe.py
- README-zh-Hans.md
- README.md
- revert_internlm.py
- revert_internlm2.py
- .gitignore
- .gitmodules
- .owners.yml
- .pre-commit-config.yaml
- .pylintrc
- .readthedocs.yaml
- CHANGE_LOG.md
- docker.Makefile
- generate.py
- LICENSE
- README-ja-JP.md
- README-zh-Hans.md
- README.md
- setup.py
- sonar-project.properties
- train.py
- version.txt
- web_demo.py
- web_demo_internlm.py
# 설치 가이드
1. 코드 내려받기
git clone https://github.com/InternLM/InternEvo
깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.
cd InternEvo
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
2. 공식 설치 스크립트
쉬움 추천사전 준비물
- Python 3 pip 명령어를 쓰려면 Python이 필요합니다.
pip install --extra-index-url https://download.pytorch.org/whl/cu118 torch==2.1.0+cu118 torchvision==0.16.0+cu118 torchaudio==2.1.0+cu118
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
pip install torch-scatter -f https://data.pyg.org/whl/torch-2.1.0+cu118.html
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
pip install InternEvo
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
pip install flash-attn==2.2.1
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
설치 후 새 터미널을 열고, 프로그램의 버전 확인 명령(예: --version)으로 정상 설치됐는지 확인하세요.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
3. Python
쉬움사전 준비물
pip install --extra-index-url https://download.pytorch.org/whl/cu118 torch==2.1.0+cu118 torchvision==0.16.0+cu118 torchaudio==2.1.0+cu118
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
pip install torch-scatter -f https://data.pyg.org/whl/torch-2.1.0+cu118.html
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
pip install InternEvo
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
pip install flash-attn==2.2.1
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
에러 메시지 없이 실행되고 터미널에 안내 문구가 출력되면 정상입니다.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
4. Make
보통사전 준비물
- Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
- Make Linux/macOS는 보통 기본 설치되어 있습니다. Windows는 별도 설치(예: MSYS2, WSL)가 필요합니다.
⚠️ 이 프로젝트는 규모가 큰 저장소라, 이 방법이 실제 핵심 제품이 아니라 내부 하위 패키지를 가리키는 것일 수 있습니다. README 전체를 함께 확인해보세요.
cd doc/code-docs
이 프로젝트의 관련 파일이 하위 폴더 안에 있어서, 먼저 그 폴더로 이동합니다.
make
생성된 빌드 설정을 바탕으로 실제 컴파일을 진행해 실행 파일을 만듭니다.
에러 없이 끝나면 성공입니다. 생성된 실행 파일을 직접 실행해보세요.
// repository documentation
Was this content helpful?
(0 ratings)