月之暗面:3月20日以來Kimi流量增加趨勢遠超預期 導致SaaS客戶體驗異常

3月21日電,月之暗面發佈情況說明:從2024.3.209:30:00開始,我們觀測到Kimi的系統流量持續異常增高,流量增加的趨勢遠超我們對資源的預期規劃。這導致了從2024.3.20 10:00:00開始,有較多的SaaS客戶持續的體驗到429:engine is overloaded的異常問題,對此我們深表抱歉。做爲一家以技術爲導向的公司,我們非常理解一個API的穩定性是能否投入實際生產的最關鍵因素之一,已經有多項應急措施正在實施,包括不限於:從3.20觀測到流量異常增高後,已經進行了5次擴容工作。推理資源會持續配合流量進行擴容,以儘量承載持續增長的用戶量;設計了一套更有效的SaaS流量優先級策略,以保障付費用戶的調用穩定,預計3.25之前完成並上線。