Skip to content

Latest commit

 

History

History
7 lines (3 loc) · 148 Bytes

readme.md

File metadata and controls

7 lines (3 loc) · 148 Bytes

利用triton作为推理引擎,支持动态batch等。 利用tornado作为web服务,作为预处理和后处理。 使用k8s部署服务。