Hướng dẫn tích hợp Groq Cloud LPU

Groq Cloud LPU - Động cơ phần cứng xử lý suy luận LPU tốc độ cực cao (>500 tokens/s) cho Llama 3, DeepSeek Distill. Xác thực: Groq Cloud LPU API Key (`gsk_...`).

Mở khu vực kết nối Groq Cloud LPU

Bước Cách thực hiện
1 Mở thanh điều hướng bên trái trên RedAI, chọn mục Tích hợp.
2 Chọn danh mục LLM, tìm và nhấn vào thẻ Groq Cloud LPU để mở ngăn cấu hình.

Các bước thực hiện

Lấy thông tin xác thực từ Groq Cloud

Bước Cách thực hiện
1 Truy cập bảng quản trị GroqCloud Console và đăng nhập tài khoản.
2 Vào mục API Keys trên thanh menu bên trái (hoặc truy cập trực tiếp GroqCloud API Keys).
3 Nhấn Create API Key, nhập tên nhận diện (ví dụ: RedAI_Integration) và kiểm tra đúng dự án đang chọn.
4 Nhấn Submit và sao chép chuỗi mã API Key được cấp (chuỗi bắt đầu bằng gsk_...).

Cấu hình và kích hoạt trên RedAI

Bước Cách thực hiện
1 Tại ngăn kết nối trên RedAI, dán mã khóa vào trường Groq Cloud LPU API Key.
2 Nhấn nút mũi tên xác nhận (->) để kích hoạt kết nối.

Kiểm tra kết quả

Thẻ dịch vụ Groq Cloud LPU trên trang Tích hợp hiển thị biểu tượng tích xanh hoặc trạng thái Đã kết nối.