Integration - Thiết lập chuỗi mô hình dự phòng tự động chuyển tiếp
Cấu hình cơ chế xoay vòng Key và chuỗi Model Fallback tự động: đảm bảo hệ thống phản hồi 100% không bị ngắt quãng khi lỗi rate limit.
## Thiết lập Chuỗi Mô hình Dự phòng Tự động Chuyển tiếp trên nền tảng RedAI
Thiết lập Chuỗi Mô hình Dự phòng Tự động Chuyển tiếp là quy trình kiến tạo mạng lưới an toàn cho các tác vụ trí tuệ nhân tạo trên nền tảng RedAI. Khi triển khai các kịch bản tự động hóa quan trọng trong doanh nghiệp, nếu chỉ phụ thuộc vào một mô hình AI duy nhất, hệ thống có thể bị gián đoạn khi nhà cung cấp đối tác gặp sự cố quá tải, nghẽn mạng hoặc bảo trì máy chủ đột xuất.
Tính năng Chuỗi Mô hình Dự phòng cho phép người dùng nhóm nhiều mô hình có cùng định dạng đầu ra thành một thể thống nhất. Khi mô hình ưu tiên số 1 gặp sự cố hoặc phản hồi chậm, hệ thống máy chủ của nền tảng RedAI sẽ tự động chuyển tiếp yêu cầu sang mô hình dự phòng số 2, số 3 trong tích tắc mà không làm đứt gãy luồng công việc của khách hàng.
Người dùng có thể truy cập màn hình Cấu hình Chuỗi Mô hình Dự phòng theo hai phương thức:
- Phương thức 1: Truy cập trực tiếp qua đường dẫn: Mở trình duyệt và truy cập địa chỉ
https://app.redai.vn/integrations/ai-studio/model-combos. - Phương thức 2: Điều hướng từ Không gian AI Studio: Tại trang tổng quan AI Studio, chọn nút
Chuỗi Mô hình Dự phòng trên thanh công cụ điều hướng để mở danh sách.
| Bước | Cách thực hiện |
|---|---|
| 1 | Mở trình duyệt và truy cập vào địa chỉ https://app.redai.vn/integrations/ai-studio/model-combos. |
| 2 | Quan sát thanh công cụ đỉnh trang gồm ô tìm kiếm, nút tạo mới chuỗi mô hình và bảng danh sách các gói chuỗi mô hình dự phòng phẳng không viền. |
📸 [Vị trí chèn ảnh chụp màn hình: Toàn cảnh giao diện Màn hình Chuỗi Mô hình Dự phòng tại địa chỉ https://app.redai.vn/integrations/ai-studio/model-combos gồm thanh công cụ đỉnh trang, bảng danh sách các gói chuỗi dự phòng và các nút thao tác]
Chuẩn bị trước khi thực hiện
Để quá trình thiết lập chuỗi mô hình dự phòng diễn ra thuận lợi, người dùng cần chuẩn bị trước các điều kiện sau:
- Tài khoản và Chìa khóa kết nối: Đã kết nối thành công khóa API hoặc tài khoản ủy quyền của ít nhất hai nhà cung cấp trí tuệ nhân tạo khác nhau tại Không gian AI Studio Hub (ví dụ: Đã có khóa của OpenAI và khóa của Anthropic hoặc Google Gemini).
- Danh mục Mô hình sẵn sàng: Đã kích hoạt ít nhất hai mô hình có cùng định dạng nghiệp vụ trên màn hình Quản lý Mô hình (ví dụ: Cần có 2 mô hình xử lý hình ảnh như Flux Pro và DALL-E 3 để tạo chuỗi dự phòng cho tác vụ sinh ảnh).
- Quyền hạn tài khoản: Người dùng cần có quyền Quản trị viên hoặc Thành viên được phân quyền cấu hình tài nguyên trong Không gian làm việc.
Quy trình từng bước Thiết lập Chuỗi Mô hình Dự phòng
┌────────────────────────────────────────────────────────────────────────┐ │ QUY TRÌNH 4 BƯỚC THIẾT LẬP CHUỖI MÔ HÌNH DỰ PHÒNG TRÊN NỀN TẢNG REDAI │ ├────────────────────────────────────────────────────────────────────────┤ │ Bước 1: Khởi tạo gói chuỗi và chọn định dạng tác vụ truyền thông. │ │ Bước 2: Lựa chọn danh sách các mô hình trí tuệ nhân tạo thành viên. │ │ Bước 3: Sắp xếp thứ tự ưu tiên chuyển tiếp tự động (1 → 2 → 3). │ │ Bước 4: Kiểm tra và kích hoạt chuỗi mô hình đưa vào vận hành. │ └────────────────────────────────────────────────────────────────────────┘ Bước 1: Khởi tạo gói chuỗi và chọn định dạng tác vụ truyền thông
| Bước nhỏ | Thao tác thực hiện |
|---|---|
| 1.1 | Tại thanh công cụ đỉnh trang của màn hình https://app.redai.vn/integrations/ai-studio/model-combos, nhấp chuột vào nút |
| 1.2 | Nhập Tên hiển thị thân thiện cho chuỗi mô hình (ví dụ: Chuỗi Sinh Ảnh Quảng Cáo Dự Phòng Tự Động). Hệ thống tự động khởi tạo mã kỹ thuật gợi nhớ tương ứng. |
| 1.3 | Chọn Loại mô hình tác vụ từ danh sách thả xuống: • Hình ảnh: Dành cho các tác vụ tạo ảnh, phục chế hoặc nâng cấp ảnh. • Video: Dành cho các tác vụ sinh video giới thiệu hoặc chuyển cảnh. • Âm thanh: Dành cho các tác vụ nhận diện giọng nói hoặc đọc văn bản. • Âm nhạc: Dành cho các tác vụ sáng tác giai điệu và phối khí bài hát. |
| 1.4 | Đảm bảo công tắc Trạng thái hoạt động đang ở vị trí Bật (màu xanh lá). |
📸 [Vị trí chèn ảnh chụp màn hình: Cột trái cửa sổ cấu hình hiển thị các trường nhập Tên hiển thị, chọn Loại mô hình tác vụ và công tắc gạt trạng thái hoạt động]
Bước 2: Lựa chọn danh sách các mô hình trí tuệ nhân tạo thành viên
Ngay khi bạn chọn loại mô hình tác vụ ở cột trái, cột bên phải sẽ tự động hiển thị danh sách toàn bộ các mô hình có cùng định dạng đang sẵn sàng trong không gian làm việc.
| Bước nhỏ | Thao tác thực hiện |
|---|---|
| 2.1 | Quan sát danh sách các mô hình khả dụng tại phân khu bên phải. Các mô hình được hiển thị kèm logo của nhà cung cấp, mã định danh và thông số ngữ cảnh. |
| 2.2 | Tích chọn ít nhất hai mô hình muốn đưa vào chuỗi dự phòng (ví dụ: Chọn mô hình số 1 là Flux 1.1 Pro và chọn mô hình số 2 là DALL-E 3). |
| 2.3 | Nếu danh sách mô hình quá dài, sử dụng thanh cuộn tải thêm hoặc ô tìm kiếm nhanh để định vị mô hình mong muốn. |
Bước 3: Sắp xếp thứ tự ưu tiên chuyển tiếp tự động
Đây là khâu quan trọng nhất quyết định quy tắc chuyển đổi khi có sự cố phát sinh.
| Bước nhỏ | Thao tác thực hiện |
|---|---|
| 3.1 | Quan sát khung danh sách các mô hình đã chọn. Mỗi mô hình hiển thị một con số thứ tự ưu tiên từ trên xuống dưới. |
| 3.2 | Quy tắc điều phối chuyển tiếp: • Vị trí số 1 (Mô hình chính ưu tiên cao nhất): Là mô hình có chất lượng cao nhất hoặc chi phí tối ưu nhất mà bạn muốn hệ thống luôn gửi yêu cầu đến đầu tiên. • Vị trí số 2 (Mô hình dự phòng cấp 1): Sẽ ngay lập tức tiếp nhận yêu cầu khi mô hình số 1 phản hồi mã lỗi quá tải, mất kết nối hoặc chạm giới hạn tần suất gọi. • Vị trí số 3 trở đi (Mô hình dự phòng cấp 2): Tuyến phòng thủ cuối cùng bảo đảm yêu cầu của người dùng không bao giờ bị từ chối. |
| 3.3 | Điều chỉnh thứ tự: Sử dụng thao tác kéo thả biểu tượng tay cầm hoặc nhấp vào mũi tên Lên/Xuống bên cạnh từng mô hình để hoán đổi vị trí ưu tiên theo đúng chiến lược vận hành của tổ chức. |
📸 [Vị trí chèn ảnh chụp màn hình: Cột phải cửa sổ cấu hình hiển thị danh sách các mô hình đã chọn kèm thứ tự ưu tiên chuyển tiếp 1, 2, 3 và biểu tượng kéo thả sắp xếp]
Bước 4: Kiểm tra và kích hoạt chuỗi mô hình đưa vào vận hành
| Bước nhỏ | Thao tác thực hiện |
|---|---|
| 4.1 | Rà soát lại toàn bộ tên gọi, định dạng tác vụ và thứ tự chuyển tiếp của các mô hình trong chuỗi. |
| 4.2 | Chọn nút |
| 4.3 | Quan sát thông báo nổi màu xanh lá “Đã lưu chuỗi mô hình thành công”. Gói chuỗi mới lập tức xuất hiện trên bảng danh sách của màn hình chính. |
| 4.4 | Cột Chuỗi mô hình dự phòng trên bảng sẽ hiển thị chuỗi mũi tên trực quan thể hiện luồng chuyển tiếp (ví dụ: Flux 1.1 Pro → DALL-E 3). |
📸 [Vị trí chèn ảnh chụp màn hình: Dòng chuỗi mô hình mới xuất hiện trên bảng danh sách phẳng không viền với chuỗi mũi tên trực quan mô hình chính và mô hình dự phòng]
Bảng kiểm tra xác nhận kết quả
Sau khi lưu chuỗi mô hình dự phòng, người dùng thực hiện các bước đối soát để khẳng định chuỗi đã vận hành trơn tru:
| Hạng mục kiểm tra | Cách thực hiện | Dấu hiệu thành công |
|---|---|---|
| Hiển thị trên bảng danh sách | Xem trang https://app.redai.vn/integrations/ai-studio/model-combos. | Gói chuỗi hiển thị đúng tên, đúng huy hiệu định dạng và chuỗi mũi tên thứ tự ưu tiên. |
| Công tắc trạng thái | Quan sát cột Trạng thái của dòng chuỗi. | Công tắc gạt hiển thị màu xanh bật, huy hiệu ghi nhận Đang hoạt động. |
| Sẵn sàng trên Khung vẽ Canvas | Mở một kịch bản quy trình trên Khung vẽ Canvas, thêm một nút Xử lý Trí tuệ Nhân tạo. | Tại ô chọn mô hình của nút, tên gói chuỗi dự phòng bạn vừa tạo xuất hiện trong danh sách để chọn sử dụng. |
Xử lý các tình huống lỗi thường gặp
| Tình huống phát sinh | Nguyên nhân | Cách khắc phục |
|---|---|---|
| Nút Lưu bị mờ không bấm được | Người dùng chưa chọn đủ ít nhất 1 mô hình thành viên hoặc chưa nhập tên hiển thị. | Nhập tên hiển thị và tích chọn ít nhất 2 mô hình thành viên trong danh sách bên phải để kích hoạt nút Lưu. |
| Không tìm thấy mô hình mong muốn trong danh sách bên phải | Mô hình đó có định dạng đầu ra khác với loại mô hình tác vụ đã chọn ở cột bên trái (ví dụ: Đang tạo chuỗi Hình ảnh nhưng mô hình bạn tìm lại là mô hình Văn bản). | Kiểm tra lại cấu hình định dạng của mô hình tại màn hình Quản lý Mô hình (https://app.redai.vn/integrations/ai-studio/models) để bảo đảm định dạng trùng khớp. |
| Cả chuỗi đều báo lỗi khi chạy kịch bản | Toàn bộ các chìa khóa API liên kết của các mô hình trong chuỗi đều bị hết hạn mức hoặc hết số dư. | Truy cập Không gian AI Studio Hub (https://app.redai.vn/integrations/ai-studio) để kiểm tra lại tính sống của từng khóa API và nạp thêm ngân sách cho các tài khoản đối tác. |
Hướng dẫn thao tác qua Trợ lý ảo AI Agent
Người dùng có thể giao phó toàn bộ quy trình rà soát, kiểm tra và điều phối chuỗi mô hình dự phòng cho Trợ lý ảo AI Agent trên nền tảng RedAI.
1. Chuẩn bị Kỹ năng chuyên môn cho Trợ lý ảo AI Agent
| Yêu cầu hệ thống | Chi tiết cấu hình trên nền tảng RedAI |
|---|---|
| Kỹ năng chuyên môn (Skill) | RedAI - Module - Integration |
| Mã định danh Kỹ năng | d5731aab-1a2b-48a6-a904-5dd84ec1d4bd |
| Bộ công cụ (Tool Suite) | RedAI - Module - Integration (ae8afc9a-1180-48d6-b672-d30171ccf3a6) |
| Phạm vi hỗ trợ | Tra cứu các mô hình sẵn có, kiểm tra độ ổn định của đường truyền và xác nhận trạng thái các khóa liên kết trong chuỗi dự phòng. |
2. Bảng liên kết thao tác giao diện và công cụ của Trợ lý ảo AI Agent
| Thao tác trên giao diện người dùng | Công cụ Trợ lý ảo AI Agent sử dụng | Nhiệm vụ của công cụ |
|---|---|---|
| Tra cứu danh mục mô hình khả dụng | integration_provider_llm_custom_list | Đọc danh sách toàn bộ các mô hình hiện có để gợi ý lắp ghép vào chuỗi. |
| Xem chi tiết nhà cung cấp của mô hình | integration_provider_get | Kiểm tra thông tin cấu hình và tính sẵn sàng của nhà cung cấp dịch vụ AI. |
| Kiểm tra tính sống của các khóa kết nối | integration_connection_test | Thử nghiệm độ thông suốt của các cổng API trước khi ghép vào chuỗi dự phòng. |
| Rà soát danh sách tài khoản AI kết nối | integration_connection_list | Xác nhận xem không gian làm việc đã kết nối đủ số lượng nhà cung cấp cần thiết chưa. |
3. Câu lệnh mẫu điều khiển Trợ lý ảo AI Agent
- Câu lệnh 1: Rà soát các mô hình để chuẩn bị lập chuỗi dự phòng:
“Trợ lý ảo AI Agent hãy kiểm tra danh mục mô hình trên nền tảng RedAI và báo cáo cho tôi biết hiện tại chúng ta có những mô hình [Hình ảnh hoặc Video] nào đang hoạt động tốt để có thể ghép thành chuỗi dự phòng.”
- Câu lệnh 2: Thử nghiệm tính thông suốt của các mô hình thành viên:
“Trợ lý ảo AI Agent hãy kiểm tra kết nối của cả hai dịch vụ [Tên nhà cung cấp A] và [Tên nhà cung cấp B] xem các cổng kết nối có sẵn sàng cho cơ chế chuyển tiếp tự động hay không.”
- Câu lệnh 3: Đánh giá phương án dự phòng cho tác vụ quan trọng:
“Trợ lý ảo AI Agent hãy tư vấn cho tôi một chuỗi mô hình dự phòng tối ưu cho tác vụ [Tạo giọng đọc thuyết minh] bảo đảm tiêu chí tốc độ nhanh nhất và có phương án thay thế ngay khi gặp lỗi.”
- Câu lệnh 4: Rà soát trạng thái hoạt động của chuỗi:
“Trợ lý ảo AI Agent hãy kiểm tra xem chuỗi mô hình ‘[Tên chuỗi mô hình]’ hiện có mô hình thành viên nào đang bị ngắt kết nối hoặc hết tiền hay không.”
- Câu lệnh 5: Báo cáo tổng hợp năng lực dự phòng AI của tổ chức:
“Trợ lý ảo AI Agent hãy tổng hợp báo cáo toàn bộ các chuỗi dự phòng hiện có trên nền tảng RedAI và đánh giá mức độ an toàn cho các kịch bản đang chạy.”
4. Bảng kiểm tra xác nhận kết quả hai chiều
| Cách kiểm tra | Cách thực hiện | Dấu hiệu nhận biết thành công |
|---|---|---|
| Kiểm tra trên giao diện | Mở trang https://app.redai.vn/integrations/ai-studio/model-combos. | Chuỗi mô hình hiển thị đầy đủ thông tin, trạng thái hoạt động bật và các mô hình thành viên sắp xếp đúng thứ tự. |
| Hỏi trực tiếp Trợ lý ảo AI Agent | Nhắn tin cho Trợ lý ảo AI Agent: “Báo cáo thứ tự ưu tiên chuyển tiếp của chuỗi [Tên chuỗi mô hình].” | Trợ lý ảo AI Agent phản hồi chính xác danh sách các mô hình theo đúng thứ tự ưu tiên 1, 2, 3 từ hệ thống máy chủ. |
Bảng câu hỏi thường gặp
| Câu hỏi thực tế của người dùng | Giải đáp chi tiết |
|---|---|
| Thời gian chuyển tiếp sang mô hình dự phòng mất bao lâu? | Quá trình nhận diện lỗi và tự động chuyển tiếp sang mô hình tiếp theo diễn ra hoàn toàn tự động ở tầng máy chủ của nền tảng RedAI chỉ trong vài phần trăm giây, người dùng cuối gần như không cảm nhận thấy độ trễ gián đoạn. |
| Tôi có thể đưa bao nhiêu mô hình vào trong một chuỗi dự phòng? | Bạn có thể đưa tùy ý số lượng mô hình vào một chuỗi (thông thường từ 2 đến 4 mô hình). Tuy nhiên, khuyến nghị nên cấu hình từ 2 đến 3 mô hình từ các nhà cung cấp khác nhau để vừa bảo đảm an toàn vừa dễ quản lý chi phí. |
| Chi phí khi sử dụng chuỗi mô hình dự phòng được tính như thế nào? | Chi phí chỉ phát sinh trên mô hình thực tế đã xử lý thành công yêu cầu đó. Nếu mô hình số 1 bị lỗi và hệ thống chuyển tiếp sang mô hình số 2, bạn chỉ thanh toán chi phí cho mô hình số 2 theo biểu phí tương ứng. |
| Tôi có thể tự tạo chuỗi dự phòng gồm cả mô hình tạo ảnh và mô hình tạo văn bản không? | Không được. Mỗi chuỗi mô hình bắt buộc phải có cùng một định dạng tác vụ đầu ra (cùng là Hình ảnh, cùng là Video, cùng là Âm thanh hoặc cùng là Âm nhạc) để bảo đảm kết quả trả về tương thích hoàn toàn với các bước tiếp theo trong kịch bản quy trình. |
Các bước tiếp theo
Sau khi đã hoàn thành thiết lập Chuỗi Mô hình Dự phòng Tự động Chuyển tiếp, bạn đã làm chủ 100% năng lực kết nối và điều phối AI của Phân hệ Tích hợp:
- [00. Mục lục Bộ Tài liệu Hướng dẫn Sử dụng Phân hệ Tích hợp](00. Mục lục bộ tài liệu tích hợp.md) (Địa chỉ:
https://app.redai.vn/integrations): Xem lại bức tranh toàn cảnh và lộ trình làm chủ 7 chuyên đề kết nối của nền tảng RedAI. - [06. Quản lý Danh mục Mô hình AI Đa phương thức và Biểu phí Token](06. Quản lý danh mục mô hình AI đa phương thức và biểu phí token.md) (Địa chỉ:
https://app.redai.vn/integrations/ai-studio/models): Tùy biến thêm các mô hình chuyên biệt mới để tiếp tục bổ sung vào chuỗi dự phòng.