Vừa phát hiện một điều thú vị – có một framework thị trường mới gọi là The Grid đang tiếp cận trò chơi suy luận theo một cách hoàn toàn khác biệt.

Thay vì thiết lập API mô hình thông thường mà chúng ta quen thuộc, họ đã xây dựng toàn bộ kiến trúc dựa trên suy luận theo từng tác vụ. Hãy nghĩ mà xem: thay vì chỉ gọi một endpoint API, bạn thực sự đang cấu trúc công việc xoay quanh các tác vụ tính toán cụ thể.

Bản thiết kế kỹ thuật của họ vừa được công bố, và thật lòng mà nói, triết lý thiết kế này khá mới mẻ. Đây là kiểu khoảnh khắc “tại sao trước giờ chưa ai nghĩ ra điều này”. Toàn bộ hệ thống được thiết kế để xử lý các yêu cầu suy luận như những tác vụ riêng biệt thay vì các cuộc gọi API chung chung.

Đối với bất kỳ ai đang xây dựng trong lĩnh vực tính toán phi tập trung, đây có thể là điều đáng để khám phá. Cấu trúc định hướng theo tác vụ thực sự có thể giải quyết một số nút thắt hiệu suất mà chúng ta thường gặp trong các thiết lập phục vụ mô hình truyền thống.

Rất tò mò muốn xem mọi thứ sẽ diễn ra thế nào trong thực tế khi mọi người bắt đầu kiểm tra áp lực lên hạ tầng này.