simclr

(★ 4,501)

SimCLRv2 - Big Self-Supervised Models are Strong Semi-Supervised Learners

오너의 다른 레포

bert ★ 40,047

BERT를 위한 TensorFlow 코드 및 사전 훈련된 모델

Python
google-research ★ 38,592

Google Research

Jupyter Notebook
timesfm ★ 28,071

TimesFM (Time Series Foundation Model)은 시계열 예측을 위해 Google Research에서 개발한 사전 학습된 시계열 파운데이션 모델입니다.

Python
vision_transformer ★ 12,675

설명이 없습니다.

Jupyter Notebook
arxiv-latex-cleaner ★ 7,017

arXiv LaTeX Cleaner: arXiv 제출을 위해 논문의 LaTeX 코드를 간편하게 정리해 주는 도구

Python
text-to-text-transfer-transformer ★ 6,544

"Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer" 논문 코드

Python

파일 탐색기

ZIP 다운로드
  • CONTRIBUTING.md
  • data.py
  • data_util.py
  • lars_optimizer.py
  • LICENSE
  • model.py
  • model_util.py
  • objective.py
  • README.md
  • requirements.txt
  • resnet.py
  • run.py

# 설치 가이드

python
사전 준비물

설치 및 실행 절차

pip install -r requirements.txt

필수 파이썬 패키지 의존성을 설치합니다.

python run.py --train_mode=pretrain --dataset=cifar10 ...

싱글 GPU 환경에서 모델을 사전 학습(Pretrain)합니다.

핵심 명령어

pip install -r requirements.txt

프로젝트 실행에 필요한 파이썬 라이브러리 패키지를 설치합니다.

python run.py --train_mode=pretrain --train_batch_size=512 --train_epochs=1000 --learning_rate=1.0 --weight_decay=1e-4 --temperature=0.5 --dataset=cifar10 --image_size=32 --eval_split=test --resnet_depth=18 --use_blur=False --color_jitter_strength=0.5 --model_dir=/tmp/simclr_test --use_tpu=False

CIFAR-10 또는 ImageNet 데이터셋을 사용하여 모델을 사전 학습합니다.

python run.py --mode=train_then_eval --train_mode=finetune --fine_tune_after_block=4 --zero_init_logits_layer=True --variable_schema='(?!global_step|(?:.*/|^)Momentum|head)' --global_bn=False --optimizer=momentum --learning_rate=0.1 --weight_decay=0.0 --train_epochs=100 --train_batch_size=512 --warmup_epochs=0 --dataset=cifar10 --image_size=32 --eval_split=test --resnet_depth=18 --checkpoint=/tmp/simclr_test --model_dir=/tmp/simclr_test_ft --use_tpu=False

사전 학습된 모델의 선형 헤드를 미세 조정(Fine-tune)합니다.

대규모 ImageNet 학습을 위해서는 TPU 환경 설정 및 관련 환경 변수(TPU_NAME, STORAGE_BUCKET, DATA_DIR, MODEL_DIR) 설정이 필요합니다.

# CDN으로 사용하기

jsDelivr

jsDelivr는 공개 GitHub 리포지토리를 별도 설정 없이 CDN으로 즉시 서빙합니다. 버전과 파일을 고르면 웹페이지에 바로 붙일 수 있는 링크와 예시 코드가 만들어집니다.

링크
예시

명령어 용어집

이 문서에서 사용된 명령어를 모아봤습니다. 낯선 명령어가 있다면 펼쳐서 확인해보세요.

🔍

pip install

설명 보기 ▼

Install Python packages.

pip install {{package1 package2 ...}}

Install one or more packages:

pip install {{package1 package2 ...}} {{[-U|--upgrade]}}

Upgrade all specified packages to the latest version, installing any that are not already present:

pip install {{package}}=={{version}}

Install a specific version of a package:

🔍

python

설명 보기 ▼

Python 언어 인터프리터.
더 많은 정보: <https://docs.python.org/using/cmdline.html>.

python

REPL(대화형 셸) 시작:

python {{path/to/file.py}}

특정 Python 파일 실행:

python -i {{path/to/file.py}}

특정 Python 파일 실행 후 REPL 시작:

// repository documentation