Hướng dẫn sử dụng YEScale AI Control Plane sau bản nâng cấp mới

Hướng dẫn sử dụng YEScale AI Control Plane sau bản nâng cấp mới

Hướng dẫn dùng YEScale AI Control Plane: App, Access, Traffic, Metadata, Logs, Cost, Canvas miễn phí, Free plan limits và migration từ API key cũ.

YEScale AI Control Plane overview

YEScale trước đây được dùng như một AI Gateway: tạo API key, gọi model, xem nhật ký. Bản nâng cấp mới đưa YEScale thành AI Control Plane cho ứng dụng AI production: quản lý từng App, Environment, Access, Traffic, Budget, Logs, Metadata và Billing trong cùng một nơi.

Điểm khác biệt nằm ở cách vận hành. Khi AI đi vào production, câu hỏi không còn là “gọi model nào?” mà là “app nào đang tốn tiền, user nào gây spike, request lỗi vì đâu, budget có bị vượt không, và team có debug được bằng request_id không?”. Control Plane được thiết kế để trả lời các câu hỏi đó ngay trong dashboard.

Bài này hướng dẫn cách bắt đầu nhanh, cách đọc các thông tin quan trọng trên Control Plane, đối tượng nào nên dùng, và những điểm cần lưu ý khi chuyển từ hệ thống cũ sang hệ thống mới.

1. YEScale AI Control Plane là gì?

AI Gateway giúp request đi qua ổn định. AI Control Plane giúp bạn vận hành toàn bộ lớp AI production: ai được gọi, gọi bằng key nào, request đi qua route nào, tốn bao nhiêu tiền, lỗi vì sao, và user cuối nào đang tạo chi phí cao.

Các năng lực chính:

2. Ai nên dùng YEScale AI Control Plane?

Control Plane phù hợp nhất với các đội đã hoặc sắp đưa AI vào sản phẩm thật, nơi mỗi request đều có chi phí, độ trễ, quota và trách nhiệm vận hành.

Các đối tượng phù hợp:

Control Plane ít phù hợp nếu bạn chỉ test vài request thủ công, không cần tách App, không cần tracking metadata và không quan tâm cost theo user cuối. Trong trường hợp đó, Gateway + API key cơ bản đã đủ.

YEScale Control Plane request flow

3. Cập nhật mới: YEScale Canvas cho toàn bộ user

Bên cạnh Control Plane, YEScale cũng mở YEScale Canvas cho toàn bộ user. Canvas là không gian sáng tạo để tạo, kết nối và tái cấu trúc image, video, audio, text và prompt theo dạng node/flow.

Điểm cần biết:

Vì dữ liệu/flow đang nằm trên trình duyệt, nếu đổi máy, đổi browser hoặc xóa browser storage thì canvas cũ có thể không còn hiển thị trên máy đó. Với workflow quan trọng, hãy download canvas sau khi hoàn thiện.

Canvas phù hợp để thử ý tưởng, dựng prompt, tạo image/video, gọi agent hỗ trợ và gom các bước sáng tạo thành một flow trực quan. Khi workflow đã ổn định và cần chạy production, hãy tách sang App riêng trong Control Plane để quản lý Access, Traffic, Budget, Logs và Metadata rõ ràng hơn.

4. Điểm quan trọng khi nâng cấp từ hệ thống cũ

Nếu bạn đã dùng YEScale trước khi có Control Plane, cần nhớ hai điểm sau:

  1. Các API key cũ được gom vào Default App.

Key cũ vẫn dùng được. Từ thời điểm Control Plane chạy, request mới của các key này sẽ có scope trong Default App để xem logs, cost, metadata và policy rõ hơn.

  1. Request cũ không được cập nhật lại vào Control Plane.

YEScale không backfill toàn bộ request lịch sử vào dashboard Control Plane mới. Vì vậy, biểu đồ, logs, metadata và cost trong Control Plane bắt đầu có dữ liệu từ request mới sau thời điểm hệ thống mới được bật.

Legacy API keys migrate into Default App

Nếu bạn vừa mở Control Plane và thấy dữ liệu còn ít, đó là bình thường. Hãy gửi request mới để bắt đầu thấy logs, cost và metadata theo App.

5. Bắt đầu từ App

Trong Control Plane, App là đơn vị vận hành chính. Mỗi sản phẩm hoặc workflow production nên có một App riêng, ví dụ:

Không nên trộn playground traffic, production traffic và workflow nội bộ vào cùng một App nếu bạn muốn phân tích chi phí chính xác.

6. Tạo Environment

Mỗi App có thể có nhiều Environment như:

Environment giúp tách key, logs, traffic policy, quota và budget. Ví dụ: staging có thể dùng budget thấp; production có thể bật route ổn định hơn và theo dõi alert chặt hơn.

7. Tạo Access key

Access key là API key có scope theo App/Environment. Nó không chỉ dùng để xác thực, mà còn là ranh giới quyền sử dụng.

Một Access key có thể kiểm soát:

Với user cũ, Default App chứa các API key hiện hữu. Với App mới, bạn nên tạo Access mới ngay trong App đó để dữ liệu logs/cost/metadata không bị trộn.

8. Traffic policy hoạt động như thế nào?

Traffic policy cho biết request nên đi theo hướng nào:

Access là permission boundary. Traffic không bao giờ được vượt qua Access. Ví dụ Access chỉ cho phép starter thì Traffic policy không thể ép request đi qua group cao hơn.

Bạn cũng có thể cấu hình backup models. Backup model được dùng khi route của primary model không đủ khỏe trước khi gửi request. Phần chọn channel cụ thể vẫn do Dynamic Failover xử lý.

9. Gửi metadata để phân tích chi phí theo user, feature và tenant

YEScale hỗ trợ gửi metadata qua header X-YEScale-Metadata. Với gói Free, hệ thống nhận tối đa 5 field metadata user-facing. Đây là bộ metadata mặc định nên dùng cho hầu hết SaaS/App production:

X-YEScale-Metadata: {"feature":"agent_run","end_user_id":"user_123","tenant_id":"team_a","plan":"pro","session_id":"sess_456"}

Ý nghĩa đề xuất:

Nhờ metadata, bạn có thể xem cost theo user, tenant, feature, plan hoặc session thay vì chỉ nhìn tổng chi phí.

10. Đọc App Overview

Trong App Overview, các nhóm thông tin quan trọng gồm:

Với task async như image/video, đừng chỉ nhìn thời gian submit. Control Plane phân biệt:

11. Dùng Logs để debug production

Mỗi response nên được debug bằng request_id. Trong Control Plane Logs, bạn có thể lọc theo:

Một điểm quan trọng: logs trong Control Plane là logs mới theo kiến trúc mới. Request cũ trước lúc nâng cấp không được backfill vào các bảng phân tích mới.

12. Cost và Billing Ledger

Không nên tính tiền bằng cách query raw logs. Billing ledger là nguồn chính xác cho charge, refund, adjustment và top-up.

Trong dashboard, cost nên hiểu là net cost sau refund nếu có. Với task media, request submit có thể bị trừ trước; nếu task fail theo rule refund, ledger sẽ ghi refund để net cost chính xác hơn.

Bạn nên dùng:

13. Gói Free hiện có những giới hạn gì?

Để hệ thống ổn định cho tất cả user, gói Free có một số giới hạn mặc định ở Control Plane:

Với phần lớn app đang bắt đầu production, các giới hạn này đủ để kiểm soát chi phí, debug request gần đây và theo dõi usage theo user/feature. Nếu bạn cần retention dài hơn, nhiều metadata field hơn, alert qua nhiều kênh hoặc phân tích dashboard sâu hơn, hãy liên hệ Admin để mở gói Pro/Business/Enterprise theo nhu cầu.

CTA: cần retention dài hơn, metadata nhiều hơn hoặc alert riêng? Liên hệ Admin qua dashboard Support hoặc email [email protected] để được tư vấn cấu hình phù hợp.

14. Ví dụ cURL

curl https://api.yescale.io/v1/chat/completions \
  -H "Authorization: Bearer $YESCALE_API_KEY" \
  -H "Content-Type: application/json" \
  -H 'X-YEScale-Metadata: {"feature":"support_chat","end_user_id":"user_123","tenant_id":"acme","plan":"pro","session_id":"sess_456"}' \
  -d '{
    "model": "gpt-4o-mini",
    "messages": [
      {"role": "user", "content": "Tóm tắt điểm mới của YEScale Control Plane"}
    ]
  }'

Sau request, mở Control Plane Logs và tìm request_id trong response header để kiểm tra model, latency, cost, metadata và trạng thái billing.

15. Checklist triển khai nhanh

  1. Tạo App theo sản phẩm thật.
  2. Tạo Environment production.
  3. Tạo Access key trong App, không dùng lẫn key playground.
  4. Chọn route group phù hợp: auto cho API thường, task cho media/task.
  5. Tạo Budget hoặc Quota nếu cần hard stop.
  6. Gửi metadata qua X-YEScale-Metadata.
  7. Log lại x-request-id trong app của bạn.
  8. Gửi request thật và mở Logs để kiểm tra.
  9. Theo dõi Cost, Metadata và Alerts sau khi có traffic mới.

Kết luận

YEScale AI Control Plane không thay thế API Gateway; nó bổ sung lớp vận hành cho production AI app. Gateway giúp request đi qua ổn định. Control Plane giúp bạn kiểm soát access, traffic, usage, cost, logs, task lifecycle, metadata và billing theo từng App.

Nếu bạn đã có API key cũ, hãy bắt đầu từ Default App. Nếu bạn đang xây workflow mới, hãy tạo App riêng để dữ liệu production sạch ngay từ đầu.