Neural-Crawler-Web-Crawler
BFS and DFS BASED Project.A neural network-powered web crawler that intelligently extracts, classifies, and processes web content using deep learning
파일 탐색기
- bug_report.md
- custom.md
- feature_request.md
- crawler_runner.cpython-312.pyc
- .gitkeep
- crawler-1.png
- crawler-2.jpg
- crawler3.png
- web-crawling.png
- __init__.cpython-313.pyc
- settings.cpython-313.pyc
- __init__.cpython-313.pyc
- crawling_spider.cpython-313.pyc
- __init__.py
- crawling_spider.py
- __init__.py
- items.py
- middlewares.py
- pipelines.py
- settings.py
- style.css
- index.html
- .gitattributes
- app.py
- CODE_OF_CONDUCT.md
- CONTRIBUTING.md
- crawler_runner.py
- LICENSE
- output.json
- README.md
- scrapy.cfg
# CDN으로 사용하기
jsDelivrjsDelivr는 공개 GitHub 리포지토리를 별도 설정 없이 CDN으로 즉시 서빙합니다. 버전과 파일을 고르면 웹페이지에 바로 붙일 수 있는 링크와 예시 코드가 만들어집니다.
명령어 용어집
이 문서에서 사용된 명령어를 모아봤습니다. 낯선 명령어가 있다면 펼쳐서 확인해보세요.
git checkout
설명 보기 ▼
git checkout
Checkout a branch or paths to the working tree.
git checkout -b {{branch_name}}
Create and switch to a new branch:
git checkout -b {{branch_name}} {{reference}}
Create and switch to a new branch based on a specific reference (branch, remote/branch, tag are examples of valid references):
git checkout {{branch_name}}
Switch to an existing local branch:
git clone
설명 보기 ▼
git clone
Clone an existing repository.
git clone {{remote_repository_location}} {{path/to/directory}}
Clone an existing repository into a new directory (the default directory is the repository name):
git clone --recursive {{remote_repository_location}}
Clone an existing repository and its submodules:
git clone {{[-n|--no-checkout]}} {{remote_repository_location}}
Clone only the `.git` directory of an existing repository:
git commit
설명 보기 ▼
git commit
Commit files to the repository.
git commit
Open an editor to write a message and commit staged files to the repository:
git commit {{[-m|--message]}} "{{message}}"
Commit staged files to the repository with the specified message:
git commit {{[-F|--file]}} {{path/to/commit_message_file}}
Commit staged files with a message read from a file:
git push
설명 보기 ▼
git push
Push commits to a remote repository.
git push
Send local changes in the current branch to its default remote counterpart:
git push {{remote_name}} {{local_branch}}
Send changes from a specific local branch to its remote counterpart:
git push {{[-u|--set-upstream]}} {{remote_name}} {{local_branch}}
Send changes from a specific local branch to its remote counterpart, and set the remote one as the default push/pull target of the local one:
pip install
설명 보기 ▼
pip install
Install Python packages.
pip install {{package1 package2 ...}}
Install one or more packages:
pip install {{package1 package2 ...}} {{[-U|--upgrade]}}
Upgrade all specified packages to the latest version, installing any that are not already present:
pip install {{package}}=={{version}}
Install a specific version of a package:
python
설명 보기 ▼
python
Python 언어 인터프리터.
더 많은 정보: <https://docs.python.org/using/cmdline.html>.
python
REPL(대화형 셸) 시작:
python {{path/to/file.py}}
특정 Python 파일 실행:
python -i {{path/to/file.py}}
특정 Python 파일 실행 후 REPL 시작:
scrapy
설명 보기 ▼
scrapy
웹 크롤링 프레임워크.
더 많은 정보: <https://docs.scrapy.org/en/latest/topics/commands.html#using-the-scrapy-tool>.
scrapy startproject {{project_name}}
프로젝트 생성:
scrapy genspider {{spider_name}} {{website_domain}}
스파이더 생성 (프로젝트 디렉토리에서):
scrapy edit {{spider_name}}
스파이더 편집 (프로젝트 디렉토리에서):
