vision_transformer

(★ 12,675)

No description available.

참고 사이트

An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale ImageNet JAX Flax tb.dev

오너의 다른 레포

bert ★ 40,047

BERT를 위한 TensorFlow 코드 및 사전 훈련된 모델

Python
google-research ★ 38,592

Google Research

Jupyter Notebook
timesfm ★ 28,071

TimesFM (Time Series Foundation Model)은 시계열 예측을 위해 Google Research에서 개발한 사전 학습된 시계열 파운데이션 모델입니다.

Python
arxiv-latex-cleaner ★ 7,017

arXiv LaTeX Cleaner: arXiv 제출을 위해 논문의 LaTeX 코드를 간편하게 정리해 주는 도구

Python
text-to-text-transfer-transformer ★ 6,544

"Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer" 논문 코드

Python
simclr ★ 4,501

SimCLRv2 - Big Self-Supervised Models are Strong Semi-Supervised Learners

Jupyter Notebook

파일 탐색기

ZIP 다운로드
  • .gitignore
  • .style.yapf
  • CONTRIBUTING.md
  • LICENSE
  • lit.ipynb
  • mixer_figure.png
  • README.md
  • setup.py
  • version.py
  • vit_figure.png
  • vit_jax.ipynb
  • vit_jax_augreg.ipynb

# 설치 가이드

python
사전 준비물

설치 및 실행 절차

git clone https://github.com/google-research/vision_transformer.git

프로젝트 소스 코드를 로컬에 클론합니다.

pip install -r vit_jax/requirements.txt

GPU 환경을 위한 파이썬 의존성 패키지를 설치합니다.

python -m vit_jax.main --workdir=/tmp/vit --config=vit_jax/configs/vit.py:b16,cifar10 --config.pretrained_dir='gs://vit_models/imagenet21k'

다운로드한 모델을 사용하여 파인튜닝을 실행합니다.

핵심 명령어

pip install -r vit_jax/requirements.txt

GPU 환경에 필요한 Python 의존성 패키지를 설치합니다.

python -m vit_jax.main --workdir=/tmp/vit-$(date +%s) --config=$(pwd)/vit_jax/configs/vit.py:b16,cifar10 --config.pretrained_dir='gs://vit_models/imagenet21k'

비전 트랜스포머 및 믹서 모델의 파인튜닝 및 학습을 실행합니다.

python3 -m vit_jax.train --help

학습 관련 사용 가능한 모든 플래그와 도움말을 출력합니다.

메모리 부족(OOM) 발생 시 --config.accum_steps 값을 높이거나 --config.batch 값을 줄여서 실행하세요.

# CDN으로 사용하기

jsDelivr

jsDelivr는 공개 GitHub 리포지토리를 별도 설정 없이 CDN으로 즉시 서빙합니다. 버전과 파일을 고르면 웹페이지에 바로 붙일 수 있는 링크와 예시 코드가 만들어집니다.

링크
예시

명령어 용어집

이 문서에서 사용된 명령어를 모아봤습니다. 낯선 명령어가 있다면 펼쳐서 확인해보세요.

🔍

gcloud compute

설명 보기 ▼

Create, run, and manage VMs on Google Cloud infrastructure.
See also: `gcloud`.

gcloud compute zones list

List Compute Engine zones:

gcloud compute instances create {{instance_name}}

Create a VM instance:

gcloud compute instances describe {{instance_name}}

Display a VM instance's details:

🔍

gcloud

설명 보기 ▼

Google Cloud Platform을 위한 공식 CLI 도구.
참고: `gcloud` 하위 명령에는 자체 사용 설명서가 있습니다.
더 많은 정보: <https://docs.cloud.google.com/sdk/gcloud>.

gcloud config list

활성 구성에서 모든 속성 나열:

gcloud auth login

Google 계정에 로그인:

gcloud config set project {{project_name}}

활성 프로젝트 설정:

🔍

git clone

설명 보기 ▼

Clone an existing repository.

git clone {{remote_repository_location}} {{path/to/directory}}

Clone an existing repository into a new directory (the default directory is the repository name):

git clone --recursive {{remote_repository_location}}

Clone an existing repository and its submodules:

git clone {{[-n|--no-checkout]}} {{remote_repository_location}}

Clone only the `.git` directory of an existing repository:

🔍

pip install

설명 보기 ▼

Install Python packages.

pip install {{package1 package2 ...}}

Install one or more packages:

pip install {{package1 package2 ...}} {{[-U|--upgrade]}}

Upgrade all specified packages to the latest version, installing any that are not already present:

pip install {{package}}=={{version}}

Install a specific version of a package:

🔍

pip3

설명 보기 ▼

이 명령은 `pip`의 별칭입니다.

tldr pip

자세한 내용은 원본 명령을 참고하세요:

🔍

python3

설명 보기 ▼

이 명령은 `python`의 별칭입니다.

tldr python

자세한 내용은 원본 명령을 참고하세요:

// repository documentation