针对AI系统（LLM推理、RAG检索、Agent编排等）的性能测试方法论和工具实践，包含JMeter等主流工具在AI场景中的扩展应用。
AI系统的性能测试与传统软件性能测试有显著差异：LLM推理的延迟分布具有长尾特征，RAG系统的性能瓶颈往往在检索而非生成环节，Agent编排则引入了多步骤调用的级联延迟。本章聚焦这些新挑战，提供系统化的性能测试方案。
🧠 LLM推理性能测试
大模型推理延迟、吞吐量、并发能力测试，涵盖TTFT/TPOT等关键指标与压测方案
🔍 RAG系统性能测试
RAG检索+生成全链路性能测试，包括向量检索延迟、召回精度与端到端响应时间
🔧 JMeter AI测试扩展
基于JMeter的AI接口性能测试实践，包括HTTP/SSE流式响应处理、Token计数与断言策略
🤖 Agent系统性能测试
Agent多步推理与工具调用的性能测试，涵盖端到端延迟分解、并发容量评估与瓶颈优化策略
📊 AI性能监控体系
从一次性测试到持续监控，建立LLM/RAG/Agent的分层性能监控体系，涵盖指标设计、架构搭建与告警策略
💡 性能测试要点AI系统性能测试需重点关注P95/P99等长尾延迟指标，而非仅看平均值。建议在生产环境同等规格的硬件上进行压测，以获取真实的性能基线。