Cấu hình LLM

Quản lý cấu hình LLM

• Kích hoạt và tắt kích hoạt "Sử dụng API Key của người dùng" và "Dự phòng về System Key".

• Hai tuỳ chọn này giúp bạn linh hoạt giữa việc dùng API Key cá nhân và System Key, đồng thời vẫn kiểm soát được chi phí và độ an toàn:

  • Khi bật "Sử dụng API Key của người dùng", các hệ thống sẽ dùng các API Key bạn đã tích hợp trong Integration để gọi tới những nền tảng bên ngoài.

  • Khi tắt, hệ thống sẽ không sử dụng API Key cá nhân nữa và sử dụng System Key.

  • Khi bật "Dự phòng về System Key", nếu API Key cá nhân của bạn với nhà cung cấp bên ngoài bị lỗi, hết hạn hoặc vượt giới hạn, hệ thống sẽ tự động chuyển sang dùng System Key nội bộ để giảm rủi ro gián đoạn dịch vụ.

  • Khi tắt, nếu API Key cá nhân gặp vấn đề, các chức năng sử dụng API bên ngoài sẽ dừng cho đến khi bạn cập nhật API Key hợp lệ.