تذر تطلق إطار عمل QVAC متعدد المنصات لـ BitNet LoRA: يدعم تدريب نماذج ذكاء اصطناعي تحتوي على مليار معامل على أجهزة المستهلكين

أودايلي ستيلك بوليتين: وفقًا للإعلان الرسمي، أعلنت Tether عن إطلاق إطار عمل LoRA لتخصيص BitNet عبر منصة QVAC Fabric، والذي يهدف إلى تحسين تدريب واستنتاج نموذج Microsoft BitNet (1-bit LLM). يقلل هذا الإطار بشكل كبير من متطلبات الحوسبة والذاكرة، مما يتيح تدريب وتخصيص نماذج ذات مئات المليارات من المعاملات على أجهزة الكمبيوتر المحمولة، وحدات معالجة الرسومات الاستهلاكية، والهواتف الذكية.

حقق هذا الحل لأول مرة تخصيص نموذج BitNet على وحدات معالجة الرسومات المحمولة (بما في ذلك Adreno وMali وApple Bionic). أظهرت الاختبارات أن نموذجًا بـ 125 مليون معاملة يمكن تخصيصه خلال حوالي 10 دقائق، بينما يستغرق النموذج بـ 1 مليار معاملة حوالي ساعة واحدة، وحتى يمكن توسيعه ليشمل نماذج تصل إلى 13 مليار معاملة على الهواتف.

بالإضافة إلى ذلك، يدعم هذا الإطار أجهزة غير NVIDIA مثل Intel وAMD وApple Silicon، وحقق لأول مرة تخصيص LoRA لنماذج 1-bit LLM على أجهزة غير NVIDIA. من حيث الأداء، فإن سرعة استنتاج نموذج BitNet على وحدات معالجة الرسومات المحمولة تزيد بمقدار 2 إلى 11 مرة عن المعالجات المركزية، مع تقليل استهلاك الذاكرة بشكل يصل إلى 77.8% مقارنة بالنماذج التقليدية ذات 16-بت.

تقول Tether إن هذه التقنية قد تساهم في كسر الاعتماد على الحوسبة عالية الأداء والبنية التحتية السحابية، وتعزيز تطوير التدريب اللامركزي والمحلي للذكاء الاصطناعي، وتوفير أساس لتطبيقات جديدة مثل التعلم الفيدرالي.