On-Device-Ai on Glory Hinodyhttps://glory-hinody.pages.dev/tags/on-device-ai/Recent content in On-Device-Ai on Glory HinodyHugoviTue, 29 Sep 2026 12:00:00 +0700On-Device AI: Chạy Neural Network Offline Với ONNX Trên Mobilehttps://glory-hinody.pages.dev/posts/on-device-ai-onnx-kotlin/Tue, 29 Sep 2026 12:00:00 +0700https://glory-hinody.pages.dev/posts/on-device-ai-onnx-kotlin/AI Lingua – ứng dụng học ngoại ngữ đa nền tảng (iOS, Android, Desktop) tích hợp mạng nơ-ron ONNX nhận diện nét viết offline hoàn toàn (0đ chi phí API), thuật toán FSRS và LLM Fallback Chain.Quantization Int8/FP4: Chạy Model AI Lớn Trên GPU Tài Nguyên Giới Hạnhttps://glory-hinody.pages.dev/posts/quantization-int8-fp4-inference/Tue, 29 Sep 2026 12:00:00 +0700https://glory-hinody.pages.dev/posts/quantization-int8-fp4-inference/Phân tích toán học và đo đạc thực nghiệm kỹ thuật nén lượng tử hóa Int8 và FP4 giúp chạy các mô hình Diffusion Transformer 13B–30B trên GPU 16GB không bị tràn bộ nhớ (OOM).