Seiring biaya RAM terus meningkat, seseorang mengambil pendekatan berbeda—membangun mesin LLM ringan dalam Rust yang benar-benar berjalan di perangkat dengan spesifikasi rendah. Solusi yang cukup praktis jika Anda bertanya kepada saya. Alih-alih menambah perangkat keras, optimisasi langsung dilakukan pada tingkat kode. Itulah jenis solusi sementara yang dibutuhkan ekosistem ketika sumber daya menjadi terbatas.