QwenImage21Cache - ComfyUI Built-in Node Documentation

QwenImage21Cache 노드는 Qwen-Image 2.1 모델의 KV 프리픽스 캐시, 즉 캐시된 키와 값이 어디에 저장되고 어느 정밀도로 저장되는지를 구성합니다. 텍스트 및 참조 토큰은 한 번만 계산되어 샘플링 단계 전반에서 재사용되며, 편집 워크플로에서 대부분의 속도 향상이 여기서 발생합니다. 또한 이 노드를 사

QwenImage21Cache 노드는 Qwen-Image 2.1 모델의 KV 프리픽스 캐시, 즉 캐시된 키와 값이 어디에 저장되고 어느 정밀도로 저장되는지를 구성합니다. 텍스트 및 참조 토큰은 한 번만 계산되어 샘플링 단계 전반에서 재사용되며, 편집 워크플로에서 대부분의 속도 향상이 여기서 발생합니다. 또한 이 노드를 사용하면 메모리와 속도를 맞바꾸거나 캐시를 완전히 배제할 수 있습니다. 이 노드는 실험적 기능으로 표시되어 있습니다.

​

입력

매개변수	설명	데이터 타입	필수	범위
model	프리픽스 캐시를 구성할 Qwen-Image 2.1 모델입니다.	MODEL	예	-
device	캐시된 키와 값이 저장되는 위치입니다. "auto"(기본값)는 여유 VRAM을 먼저 사용한 다음 RAM을 사용합니다. "gpu"는 캐시를 VRAM에 저장합니다. "cpu"는 캐시를 RAM에 저장하고 연산에 가려지도록 프리페치하므로 속도 손실이 거의 없습니다. "off"는 매 단계마다 프리픽스를 다시 계산하므로 더 느리지만, 캐시를 완전히 배제할 수 있는 유일한 방법입니다.	COMBO	예	"auto" "gpu" "cpu" "off"
dtype	캐시의 저장 정밀도입니다. "default"는 무손실입니다. "int8"은 약 bf16 정확도로 캐시 크기를 절반으로 줄입니다. "int4"는 캐시 크기를 1/4로 줄이지만 단계별 오류를 대략 두 배로 늘립니다.	COMBO	예	"default" "int8" "int4"

캐시가 메모리에 맞지 않으면 모델은 다른 분기의 슬롯을 축출하는 대신 프리픽스를 다시 계산하므로, 너무 큰 설정은 실행을 실패시키지 않고 속도를 저하시킵니다.

​

출력

출력 이름	설명	데이터 타입
MODEL	캐시 장치와 정밀도가 적용되어 샘플링할 준비가 된 모델입니다.	MODEL

이 문서는 AI에 의해 생성되었습니다. 오류를 발견하거나 개선 제안이 있으시면 기여해 주세요! GitHub에서 편집

---

Source fingerprint (SHA-256): 0c10cdb465d1ee4063273ffbb4913def3830f7e329694cd0a2e292d6f3c37ae4