ini sangat keren. teman mengembangkan model AI di MacBook-nya dengan meretas chip m4 dari apple.
- dia meretas inference accelerator (yang ditemukan di chip m4) yang mengubahnya menjadi transformer mini. - 80X lebih efisien daripada GPU nvidia a100 - biaya = listrik untuk mengisi daya MacBook vs. menyewa GPU untuk $10Ks - dapat digunakan untuk melatih, menyempurnakan, dan menjalankan model secara lokal satu-satunya umpan balik saya adalah mungkin sangat lambat tapi tetap sangat keren - kamu bisa membayangkan chip masa depan (m6/7) bisa melatih jauh lebih cepat.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
ini sangat keren. teman mengembangkan model AI di MacBook-nya dengan meretas chip m4 dari apple.
- dia meretas inference accelerator (yang ditemukan di chip m4) yang mengubahnya menjadi transformer mini.
- 80X lebih efisien daripada GPU nvidia a100
- biaya = listrik untuk mengisi daya MacBook vs. menyewa GPU untuk $10Ks
- dapat digunakan untuk melatih, menyempurnakan, dan menjalankan model secara lokal
satu-satunya umpan balik saya adalah mungkin sangat lambat tapi tetap sangat keren - kamu bisa membayangkan chip masa depan (m6/7) bisa melatih jauh lebih cepat.