Các trường thường gặp
Đầu vào, đầu ra và cache
- Token đầu vào gồm prompt, ngữ cảnh hội thoại và một phần thông tin công cụ.
- Token đầu ra là nội dung do mô hình tạo.
- Đọc cache là token đọc từ cache ngữ cảnh; giá có thể khác token đầu vào thông thường.
Vì sao nhật ký có thể xuất hiện chậm
Có thể có một khoảng trễ ngắn giữa lúc yêu cầu hoàn tất, hệ thống ghi nhận chi phí và console trả kết quả. Nếu một yêu cầu đã xong chưa hiện ngay, hãy làm mới sau; không gửi lại tác vụ chỉ để tạo thêm một bản ghi.Yêu cầu lỗi có luôn miễn phí không?
Không. Lỗi không tạo kết quả tính phí thường là 0, nhưng upstream có thể đã xử lý, stream có thể bị ngắt, hoặc client có thể gửi một yêu cầu mới. Luôn đối chiếu cùng Request ID, thời điểm và bản ghi cuối cùng; không chỉ dựa vào màn hình client có nhận được nội dung hay không.Cách đối soát
- Giới hạn theo ngày hoặc tuần và lưu múi giờ.
- Ghép Request ID từ client, hỗ trợ và console.
- So sánh mô hình, nhóm, token vào/ra và chi phí.
- Giữ dữ liệu gốc và khoảng thời gian truy vấn trước khi tổng hợp.
Xem hoặc xuất mức sử dụng
- Dùng phần tổng quan và nhật ký của console để kiểm tra hằng ngày.
- Lọc chi tiết theo thời gian, mô hình và nhóm trước khi xuất hoặc tổng hợp.
- Giữ Request ID trong dữ liệu xuất để có thể truy vết bản ghi bất thường sau này.
