ram-coffers
LLM infrastructure cost reduction via NUMA-aware weight banking: 147 t/s (8.8x stock llama.cpp) on refurbished enterprise POWER8. Self-hosted inference, no cloud APIs. Part of the Proof of Physical AI stack.
파일 탐색기
- bug_report.md
- feature_request.md
- build.yml
- ci.yml
- rtc-reward.yml
- CODEOWNERS
- dependabot.yml
- ram_coffers_topology.cpython-312.pyc
- aes-entropy-collapse.h
- apple-pse-config.h
- apple-pse-integration.h
- architecture-general-pse.pdf
- bench-pse-apple.c
- BRIEFING-sparse-metal-matmul.md
- EQUATION.md
- HANDOFF-gpu-native-collapse.md
- llama-cpp-patch.md
- Makefile
- neon-collapse.h
- PAPER-architecture-general-pse.md
- pse-gather-collapse.metal
- pse-matmul-collapse.h
- pse-minimal.h
- pse-sparse-attention.metal
- pse-sparse-ffn.metal
- pse-unified-sparse-ffn.h
- README.md
- RESULTS-M2-2026-07-09.md
- RESULTS-M2-METAL-TIER1-2026-07-11.md
- setup-mac-m2.sh
- SPARSE_ATTENTION_PATCH.md
- unified-memory-coffers.h
- BENCHMARK_REPORT.md
- BLOG_RAM_COFFERS_VS_DEEPSEEK.md
- README_HARNESS.md
- BENCHMARK_RECIPE.md
- FALLBACK_BEHAVIOR.md
- PPA_INTEGRATION.md
- G9XC.md
- GEN9_SPLITTING.md
- REFERENCES.md
- __init__.py
- __main__.py
- backends.py
- cli.py
- coordinator.py
- dedup.py
- dispatch.py
- errors.py
- fp8.py
- hardware.py
- inventory.py
- model.py
- node.py
- planner.py
- protocol.py
- transport.py
- expert.comp
- expert_avx2.c
- expert_hip.hip
- fp8.c
- fp8.h
- kernel_test.c
- Makefile
- __init__.py
- test_backends.py
- test_dedup.py
- test_dispatch.py
- test_fp8.py
- test_hardware.py
- test_inventory.py
- test_model.py
- test_planner.py
- test_protocol.py
- test_transport.py
- .gitignore
- README.md
- emotional_attractor_test.py
- modern_hopfield_layer.py
- neuromorphic_benchmark_suite.py
- neuromorphic_prompt_translator.py
- grail_v_paper.tex
- GRAIL_V_PAPER_FINAL.md
- ABLATION_SUMMARY.md
- ANIMATEDIFF_ANALYSIS.md
- ATTRACTOR_ANALYSIS_RESULTS.txt
- README.md
- SVD_BASELINE_ANALYSIS.md
- test_ram_coffers_topology.cpython-312-pytest-9.1.0.pyc
- test_ram_coffers_topology.py
- aes-collapse.h
- bench-aes-collapse.c
- Makefile
- README.md
- .gitignore
- BCOS.md
- bench_vcipher_collapse.c
- BENCHMARK.md
- benchmark_coffers_vs_llamacpp.sh
- benchmark_harness.sh
- CHANGELOG.md
- CODE_OF_CONDUCT.md
- COMMERCIAL.md
- CONTRIBUTING.md
- DEEPSEEK_COMPARISON.md
- FALLBACK_BEHAVIOR.md
- FAQ.md
- ggml-coffer-mmap.h
- ggml-intelligent-collapse.h
- ggml-neuromorphic-coffers.h
- ggml-pse-integration.h
- ggml-ram-coffer.h
- ggml-ram-coffers.h
- ggml-symbolic-neural-bridge.h
- ggml-topk-collapse-vsx.h
- ggml-vcipher-collapse.h
- LICENSE
- llms.txt
- NOTICE
- power8-compat.h
- PR_BODY.md
- PRIORITY_CLAIM.md
- pse-entropy-burst.h
- QUICK_START.md
- ram_coffers_topology.py
- README.md
- SECURITY.md
- vcipher-flash-attn-patch.c
- youtube-evidence-dec17-2025.png
# CDN으로 사용하기
jsDelivrjsDelivr는 공개 GitHub 리포지토리를 별도 설정 없이 CDN으로 즉시 서빙합니다. 버전과 파일을 고르면 웹페이지에 바로 붙일 수 있는 링크와 예시 코드가 만들어집니다.
명령어 용어집
이 문서에서 사용된 명령어를 모아봤습니다. 낯선 명령어가 있다면 펼쳐서 확인해보세요.
cmake
설명 보기 ▼
cmake
네이티브 빌드 시스템을 위한 빌드 설정 파일을 생성하는, 크로스 플랫폼 빌드 자동화 도구.
더 많은 정보: <https://cmake.org/cmake/help/latest/manual/cmake.1.html>.
cmake {{path/to/project_directory}}
프로젝트 디렉터리의 `CMakeLists.txt`를 사용해 현재 디렉터리에 빌드 설정을 생성:
cmake --build {{path/to/build_directory}}
지정한 디렉터리의 빌드 설정을 사용해 빌드 산출물을 생성:
cmake --install {{path/to/build_directory}} --strip
빌드 산출물을 `/usr/local/`에 설치하고 디버그 심볼을 제거:
python3
설명 보기 ▼
python3
이 명령은 `python`의 별칭입니다.
tldr python
자세한 내용은 원본 명령을 참고하세요:
lscpu
설명 보기 ▼
lscpu
Display information about the CPU architecture.
lscpu
Display information about all CPUs:
lscpu {{[-e|--extended]}}
Display information in a table:
lscpu {{[-e|--extended]}} {{[-b|--online]}}
Display only information about online CPUs in a table:
numactl
설명 보기 ▼
numactl
프로세스 또는 공유 메모리에 대한 NUMA 정책 제어.
더 많은 정보: <https://manned.org/numactl>.
numactl --cpunodebind={{0}} --membind={{0,1}} -- {{command}} {{command_arguments}}
노드 0에서 명령을 실행하고 메모리는 노드 0과 1에 할당:
numactl --physcpubind={{+0-4,8-12}} -- {{command}} {{command_arguments}}
현재 CPU 세트의 CPU(코어) 0-4 및 8-12에서 명령 실행:
numactl --interleave={{all}} -- {{command}} {{command_arguments}}
모든 CPU에 메모리를 인터리브하여 명령 실행:
