ram-coffers

(★ 160)

LLM infrastructure cost reduction via NUMA-aware weight banking: 147 t/s (8.8x stock llama.cpp) on refurbished enterprise POWER8. Self-hosted inference, no cloud APIs. Part of the Proof of Physical AI stack.

파일 탐색기

  • .gitignore
  • BCOS.md
  • bench_vcipher_collapse.c
  • BENCHMARK.md
  • benchmark_coffers_vs_llamacpp.sh
  • benchmark_harness.sh
  • CHANGELOG.md
  • CODE_OF_CONDUCT.md
  • COMMERCIAL.md
  • CONTRIBUTING.md
  • DEEPSEEK_COMPARISON.md
  • FALLBACK_BEHAVIOR.md
  • FAQ.md
  • ggml-coffer-mmap.h
  • ggml-intelligent-collapse.h
  • ggml-neuromorphic-coffers.h
  • ggml-pse-integration.h
  • ggml-ram-coffer.h
  • ggml-ram-coffers.h
  • ggml-symbolic-neural-bridge.h
  • ggml-topk-collapse-vsx.h
  • ggml-vcipher-collapse.h
  • LICENSE
  • llms.txt
  • NOTICE
  • power8-compat.h
  • PR_BODY.md
  • PRIORITY_CLAIM.md
  • pse-entropy-burst.h
  • QUICK_START.md
  • ram_coffers_topology.py
  • README.md
  • SECURITY.md
  • vcipher-flash-attn-patch.c
  • youtube-evidence-dec17-2025.png

# CDN으로 사용하기

jsDelivr

jsDelivr는 공개 GitHub 리포지토리를 별도 설정 없이 CDN으로 즉시 서빙합니다. 버전과 파일을 고르면 웹페이지에 바로 붙일 수 있는 링크와 예시 코드가 만들어집니다.

명령어 용어집

이 문서에서 사용된 명령어를 모아봤습니다. 낯선 명령어가 있다면 펼쳐서 확인해보세요.

🔍

cmake

설명 보기 ▼

네이티브 빌드 시스템을 위한 빌드 설정 파일을 생성하는, 크로스 플랫폼 빌드 자동화 도구.
더 많은 정보: <https://cmake.org/cmake/help/latest/manual/cmake.1.html>.

cmake {{path/to/project_directory}}

프로젝트 디렉터리의 `CMakeLists.txt`를 사용해 현재 디렉터리에 빌드 설정을 생성:

cmake --build {{path/to/build_directory}}

지정한 디렉터리의 빌드 설정을 사용해 빌드 산출물을 생성:

cmake --install {{path/to/build_directory}} --strip

빌드 산출물을 `/usr/local/`에 설치하고 디버그 심볼을 제거:

🔍

python3

설명 보기 ▼

이 명령은 `python`의 별칭입니다.

tldr python

자세한 내용은 원본 명령을 참고하세요:

🔍

lscpu

설명 보기 ▼

Display information about the CPU architecture.

lscpu

Display information about all CPUs:

lscpu {{[-e|--extended]}}

Display information in a table:

lscpu {{[-e|--extended]}} {{[-b|--online]}}

Display only information about online CPUs in a table:

🔍

numactl

설명 보기 ▼

프로세스 또는 공유 메모리에 대한 NUMA 정책 제어.
더 많은 정보: <https://manned.org/numactl>.

numactl --cpunodebind={{0}} --membind={{0,1}} -- {{command}} {{command_arguments}}

노드 0에서 명령을 실행하고 메모리는 노드 0과 1에 할당:

numactl --physcpubind={{+0-4,8-12}} -- {{command}} {{command_arguments}}

현재 CPU 세트의 CPU(코어) 0-4 및 8-12에서 명령 실행:

numactl --interleave={{all}} -- {{command}} {{command_arguments}}

모든 CPU에 메모리를 인터리브하여 명령 실행:

// repository documentation