Optimization on Glory Hinodyhttps://glory-hinody.pages.dev/tags/optimization/Recent content in Optimization on Glory HinodyHugoviTue, 29 Sep 2026 12:00:00 +0700Quantization Int8/FP4: Chạy Model AI Lớn Trên GPU Tài Nguyên Giới Hạnhttps://glory-hinody.pages.dev/posts/quantization-int8-fp4-inference/Tue, 29 Sep 2026 12:00:00 +0700https://glory-hinody.pages.dev/posts/quantization-int8-fp4-inference/Phân tích toán học và đo đạc thực nghiệm kỹ thuật nén lượng tử hóa Int8 và FP4 giúp chạy các mô hình Diffusion Transformer 13B–30B trên GPU 16GB không bị tràn bộ nhớ (OOM).