Qwen 35B-A3B 12GB VRAM 로컬 추론 최적화 가이드
Qwen 35B-A3B 로컬 추론을 12GB VRAM에서 구현하는 ncmoe 최적화 전략을 공개합니다. 32k 컨텍스트 기준 43.4 t/s 생성 속도와 OOM 방지를 위한 메모리 임계값 관리법을 지금 확인하세요.
로컬 LLM
vLLM ROCm AMD GPU 설치 및 설정 가이드
vLLM ROCm AMD GPU — vLLM ROCm 백엔드가 Lemonade에 통합되어 AMD GPU에서 .safetensors 모델을 GGUF 변환 없이 직접 실행 가능. PagedAttention 기반 효율적 추론, 설치 및 사용법, 한계점까지 상세 분석.