快手AI模子安排提速:千亿参数举荐模子提早压至30毫秒

快手AI模子安排提速:千亿参数举荐模子提早压至30毫秒

快手将千亿参数推荐模型部署上线,推理延迟压至30毫秒,成本降低六成。通过量化、算子融合和动态调度,AI模型部署在直播、审核等场景落地,兼顾效率与成本。

返回顶部