rate limit

Kimi API บังคั��ใช้ rate limit สำหรับความถี่ของคำขอและ concurrency เพื่อรักษาเสถียรภาพของแพลตฟอร์มและความเป็นธรรมในการใช้งาน ระดับ rate limit จะอิงตามยอดเติมเงินสะสมของบัญชีคุณ

ระดับ rate limit

rate limit ของ API แบ่งเป็นระดับตาม ยอดเติมเงินสะสม ของบัญชีคุณ — ยิ่งเติมเงินสะสมมากเท่าใด rate limit ที่ใช้งานได้ก็ยิ่งสูงขึ้นเท่านั้น สำหรับเกณฑ์ของแต่ละระดับ รวมถึงขีดจำกัด RPM (จำนวนคำขอต่อนาที) และ TPM (จำนวน tokens ต่อนาที) ที่เกี่ยวข้อง โปรดดูในคอนโซล platform.kimi.ai

จะตรวจสอบขีดจำกัดปัจจุบันได้อย่างไร?

  • เข้าสู่ระบบคอนโซล API เพื่อดูระดับ rate limit ปัจจุบันของคุณ
  • ส่วนหัวการตอบกลับของ API ยังมีข้อมูล rate limit ด้วย:
    • X-RateLimit-Limit: เพดาน rate limit ปัจจุบัน
    • X-RateLimit-Remaining: จำนวนคำขอที่ยังใช้งานได้
    • X-RateLimit-Reset: เวลาที่ขีดจำกัดจะถูกรีเซ็ต

จัดการข้อผิดพลาด 429

เมื่อความถี่ของคำขอเกินขีดจำกัด API จะส่งคืนรหัสสถานะ 429 แนวทางที่แนะนำ:

  1. ใช้ exponential backoff: เริ่มจากรอ 1 วินาที แล้วเพิ่มเวลารอเป็นสองเท่าในแต่ละครั้งที่ลองใหม่ (2s, 4s, 8s…)
  2. ควบคุม concurrency: ใช้คิวคำขอหรือ semaphore เพื่อจำกัดจำนวนคำขอที่ส่งพร้อมกัน
  3. รวมคำขอเป็นชุด: รวมคำขอขนาดเล็กหลายรายการให้เป็นคำขอที่น้อยลงแต่มีขนาดใหญ่ขึ้น

ขอ rate limit ที่สูงขึ้น

หากความต้องการทางธุรกิจของคุณเกิน rate limit ปัจจุบัน:

  • เติมเงินเพื่ออัปเกรด: เพิ่มยอดเติมเงินสะสมของคุณ แล้วระบบจะอัปเกรดระดับ rate limit ให้โดยอัตโนมัติ
  • ติดต่อฝ่ายขาย: หากมีความต้องการพิเศษ โปรดติดต่อทีมขายของแพลตฟอร์มผ่าน platform.kimi.ai/contact-sales เพื่อขอ quota อัตราการใช้งานแบบกำหนดเอง
rate limit - ศูนย์ช่วยเหลือ Kimi