Zhipu AI merilis solusi perbaikan masalah pemanggilan alat GLM-5.1

robot
Pembuatan abstrak sedang berlangsung

Berita ME News, 16 April (UTC+8), Zhipu AI (Zai_org) baru-baru ini mengeluarkan pemberitahuan, menyoroti pengguna yang menjalankan model GLM-5.1 dengan kerangka kerja vLLM atau SGLang dan mengaktifkan panggilan alat (tool calling), bahwa konversi otomatis definisi alat teks murni oleh kerangka kerja dapat menyebabkan masalah kompatibilitas. Pihak resmi telah menyediakan solusi, yaitu memperbarui template percakapan berbasis Jinja2 (chat template). Template ini digunakan untuk secara dinamis menghasilkan riwayat percakapan yang sesuai dengan format yang diperlukan, guna mendukung model melakukan panggilan alat, pemikiran internal (reasoning), dan manajemen percakapan multi-putaran. Pengguna harus mengakses tautan yang ditentukan untuk mendapatkan file template yang telah diperbarui. (Sumber: InFoQ)

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Sematkan