LoRA 适配器服务化：多租户模型个性化的隔离与切换

LoRA 让领域定制不必复制整套基础模型，但服务化后会出现适配器数量多、加载抖动、版本混用和租户越权。适配器要像软件包一样被注册、签名和回滚。

适配器注册

记录 base_model、adapter_id、训练数据版本、能力标签、兼容精度、评测指标、负责人和安全状态。适配器制品使用摘要和签名，加载前校验来源和基础模型版本。

显存缓存

按热度和租户配额缓存适配器，设置加载超时、最大数量和淘汰策略。冷适配器进入预热队列，在线请求可回退基础模型或排队，但必须明确告诉用户采用了哪条路径。

隔离和路由

请求的 tenant_id、model_alias 和 adapter_id 由网关校验，业务输入不能直接指定任意适配器。适配器只能访问授权数据和工具，日志记录实际加载的版本，防止缓存键遗漏租户。

评测和回滚

每个适配器通过通用能力、安全对抗、格式和领域任务集后才发布。灰度比较质量、GPU 显存、加载等待和成本；回归时切换 alias 到旧版本，保留失败样本用于下一轮训练。

参考资料：Kubernetes 推理流量扩展。