设计一个能够处理考试季高并发试卷上传的OCR服务，要求响应时间≤3秒，请说明架构设计、负载均衡策略、缓存机制及容错处理方案。

1) 【一句话结论】采用微服务架构，通过负载均衡分发请求、Redis缓存热点数据、Kafka异步处理非实时任务，并配置熔断、降级、重试等容错机制，确保高并发下响应时间≤3秒。

2) 【原理/概念讲解】
负载均衡是前端入口（如Nginx），根据算法（如加权轮询）将请求分发到后端服务实例，避免单点过载。缓存机制用Redis存储常用OCR结果（如常见题型识别结果），减少数据库压力。异步处理通过Kafka将非实时OCR任务放入队列，后端服务消费后异步处理，避免阻塞主流程。容错方面，熔断器（如Hystrix）检测服务超时，降级策略（如返回默认结果）处理故障，重试机制（指数退避）处理临时故障。
类比：负载均衡像交通枢纽调度车流，缓存像超市货架放热销商品，异步队列像快递中转站处理非紧急包裹，熔断器像交通警察发现拥堵后分流。

3) 【对比与适用场景】

• 负载均衡策略对比：
  | 策略 | 定义 | 特性 | 使用场景 | 注意点 |
  |---|---|---|---|---|
  | 轮询 | 按顺序分配请求 | 简单公平 | 新建服务，实例少 | 实例负载不均 |
  | 加权轮询 | 根据实例性能分配权重 | 适应性能差异 | 实例性能不同 | 需动态调整权重 |
  | 随机 | 随机分配 | 简单 | 实例性能一致 | 可能负载不均 |
  | 最少连接 | 分配到连接数最少实例 | 优化连接数 | 连接数差异大 | 需监控连接数 |

• 缓存与数据库对比：
  | 方式 | 定义 | 优点 | 缺点 | 适用场景 |
  |---|---|---|---|---|
  | Redis | 内存存储 | 响应快，减数据库压力 | 数据一致风险 | 热点数据，读多写少 |
  | MySQL | 关系型存储 | 一致性强，事务支持 | 响应慢，高并发压力大 | 写多读少，事务要求高 |

4) 【示例】
请求示例（用户上传试卷）：
POST /api/v1/ocr/upload
Content-Type: multipart/form-data
File: exam.pdf

后端处理伪代码：

# 负载均衡分发请求（Nginx）
# 检查缓存
if cache.has(ocr_result_key):
    return cache.get(ocr_result_key)

# 异步放入队列
kafka_producer.send(topic='ocr_tasks', key=task_id, value=request_data)

# 返回处理中状态
cache.set(ocr_result_key, 'processing', ttl=30)
return {"status": "processing", "message": "OCR任务已提交"}

5) 【面试口播版答案】
面试官您好，针对考试季高并发OCR服务，我设计的架构核心是通过负载均衡、缓存、异步处理和容错机制，确保响应≤3秒。首先，前端用Nginx做负载均衡，根据加权轮询分配请求到后端服务实例，避免单点过载。然后，缓存层用Redis存储常用OCR结果（如常见题型识别结果），当用户上传试卷时，先检查缓存，若命中直接返回结果，减少数据库压力。对于非实时的OCR任务（如复杂图像处理），通过Kafka异步处理，将任务放入队列，后端服务消费后异步识别，这样不会阻塞用户上传流程。容错方面，配置Hystrix熔断器，当某个后端服务超时或错误率超过阈值时，触发熔断，返回降级结果（如“识别失败，请稍后重试”），并设置指数退避重试，避免持续请求故障服务。这样整体流程中，用户上传后快速返回处理中状态，缓存命中时秒级响应，异步处理不影响主流程，熔断和降级保障系统稳定性，确保高并发下响应时间≤3秒。

6) 【追问清单】

• 问：高并发下缓存雪崩如何处理？
  回答要点：设置缓存过期时间（如随机过期），或使用分布式锁加互斥锁，避免同时过期；或配置缓存预热，提前加载热点数据。
• 问：异步队列如何保证消息不丢失？
  回答要点：使用Kafka持久化存储，消息写入磁盘后确认；或设置消息重试机制，失败后放入死信队列。
• 问：如何动态调整负载均衡策略？
  回答要点：根据后端实例负载（CPU、内存、请求延迟），动态调整Nginx的weight参数，或结合监控数据（如Prometheus）实时调整。
• 问：容错机制中熔断的阈值如何设定？
  回答要点：根据业务容忍度，如设置请求超时2秒，错误率超50%触发熔断，恢复后半开状态逐渐放行。
• 问：如何处理用户上传的试卷大小限制？
  回答要点：前端限制上传文件大小，后端检查文件大小，超过返回错误；或分块上传，提高大文件处理能力。

7) 【常见坑/雷区】

• 忽略网络延迟：高并发下网络延迟可能成为响应时间主要因素，需考虑CDN或就近部署。
• 缓存穿透：若缓存无数据，所有请求去数据库，导致雪崩，需设置空值缓存或布隆过滤器。
• 异步处理与响应时间关联：若异步任务处理时间长，用户可能等待超时，需优化异步任务（如并行处理）或设置任务超时。
• 容错策略边界：熔断降级返回的默认结果可能不准确，需确保降级结果可用性。
• 负载均衡策略适用性：轮询策略在实例性能不同时负载不均，需根据实际选择加权轮询或最少连接。