跳到正文
许
许汝林
产品工程工作室
首页
项目
文章
留言
关于
搜索
/
深空观测站
观测站
梦幻银河
银河
宇宙终端
终端
TOPIC
# 模型服务
共 2 篇文章
ARTICLE
AI 应用
2026/07/17
AI FinOps：用 GPU 利用率和 Token 成本管理模型服务
把模型路由、批处理、缓存、队列和预算护栏接起来，让 AI 成本与质量、延迟一起可控。
ARTICLE
AI 应用
2026/07/17
LoRA 适配器服务化：多租户模型个性化的隔离与切换
讨论适配器注册、加载、显存缓存、租户隔离和回滚，支撑低成本的领域模型定制。