在不可控的外部依赖失败时,返回兜底数据或跳过逻辑保护主链路。
使用 Hystrix 或 Sentinel 实现线程隔离、熔断和优雅降级。
设计当主推理服务超时或出错时的自动回退机制,切换到备选小模型或返回缓存结果。