
上周五晚 22:07,我正准备关电脑下班。
手机突然狂震——支付服务大面积超时,用户支付失败率从 0.5% 飙升到 23%。
登录跳板机,面对 5GB 的三层日志(Nginx + App + MySQL),我心里一沉:今晚又要熬到凌晨了。 01 那天的故障复盘
时间线:2026年6月28日(周五)22:07 影响:每分钟损失约 1.2 万 我的选择:传统 grep 排查 vs AI 分析
我两种方式都做了——先用 grep 稳住现场,后用 AI 验证结论。
结果是:
方式 | 耗时 | 结果 |
|---|---|---|
传统 grep | ~30 分钟 | 定位到根因 |
AI 分析 | ~3 分钟 | 定位 + 推理链 + 修复建议 |
更让我后背发凉的是——AI 还发现了一个我漏掉的关键问题。
传统排查流程是这样的:
# 1. 确定故障时间窗口(人工翻看时间戳)
# 2. grep 提取异常
grep -c " 502 " /var/log/nginx/access.log
# 输出: 342 次 502
# 3. 看应用日志
grep -i "error\|timeout\|exception" /var/log/app/app.log | tail -20
# 输出: 线程池拒绝、连接超时
# 4. 看 DB 慢查询
grep "Query_time:" /var/log/mysql/slow.log | tail -5
# Query_time: 28.3s ← 有一条 28 秒的慢查询
# 5. 人工推理:这三层日志的因果顺序是什么?
整个过程花了我 30 分钟,其中一半时间花在"关联分析"上。

三个瓶颈:
把 5GB 日志按时间窗口切出关键段落:
#!/bin/bash
# trim_logs.sh — 故障日志裁剪工具
# 用法: ./trim_logs.sh "2026-06-28 22:00" "2026-06-28 22:20"
START="$1"; END="$2"
OUTDIR="/tmp/fault_analysis_$(date +%s)"
mkdir -p "$OUTDIR"
# 裁剪三层日志
awk -v s="$START" -v e="$END"'$0 >= s && $0 <= e' /var/log/nginx/access.log > "$OUTDIR/nginx_access.log"
awk -v s="$START" -v e="$END"'$0 >= s && $0 <= e' /var/log/app/app.log > "$OUTDIR/app.log"
awk -v s="$START" -v e="$END"'$0 >= s && $0 <= e' /var/log/mysql/slow.log > "$OUTDIR/slow.log"
# 脱敏
sed -i 's/password=[^ ]*/password=***REDACTED***/g'"$OUTDIR"/*.log
sed -i 's/[0-9]\{1,3\}\.[0-9]\{1,3\}\.[0-9]\{1,3\}\.[0-9]\{1,3\}/x.x.x.x/g'"$OUTDIR"/*.log
echo"✅ 完成,日志已保存到: $OUTDIR"
同样的日志喂给 AI,3 分钟后输出了完整的推理链:
## 根因分析报告
### 异常模式识别
- 22:05-22:12 集中出现 502 错误(共 347 次)
- 影响路径:/api/payment/*(占 89%)
- 上游响应时间:50ms → 30s+(暴增 600 倍)
### 因果链还原
1. 22:03 MySQL 慢查询开始出现
→ slow.log "Query_time: 28.3s"(orders 表全表扫描)
2. 22:04 应用线程池耗尽
→ app.log "ThreadPool exhausted, rejecting task"
3. 22:05 Nginx upstream 超时,返回 502
→ access.log "upstream_timeout" + 502 status
4. 22:12 MySQL 慢查询消失,应用逐步恢复
### 根因
MySQL 订单表 status 字段缺少索引,
一条慢查询(28s)阻塞了数据库连接池,
引发应用线程池耗尽,最终表现为 Nginx 502。
### AI 额外发现(我漏掉的)
22:08 秒杀活动开始,流量突增 3 倍,
在慢查询的基础上加剧了线程池压力。
如果只修索引不处理秒杀流量的限流,下次还会出问题。
这个"额外发现"是 AI 优于纯人工的典型场景——它同时看到了慢查询和流量突增两条线索,而我完全忽略了秒杀活动的影响。


-- 为 orders 表添加联合索引
ALTER TABLE orders
ADD INDEX idx_status_created (status, created_at);
-- 影响: 全表扫描 → 索引扫描,耗时从 28s → 28ms
// 连接池超时和熔断配置
@Configuration
publicclassResilienceConfig {
@Bean
public RestTemplate paymentRestTemplate() {
returnnewRestTemplateBuilder()
.setConnectTimeout(Duration.ofSeconds(3))
.setReadTimeout(Duration.ofSeconds(10))
.build();
}
@Bean
public CircuitBreakerFactory paymentCircuitBreaker() {
// 当失败率超过 50% 时熔断,30秒后恢复
returnnewResilience4JCircuitBreakerFactory();
}
}
# prometheus 告警规则
groups:
-name:mysql_slow_query
rules:
-alert:MySQLSlowQuerySpike
expr:rate(mysql_global_status_slow_queries[5m])>10
for:1m
labels: { severity:warning }
annotations:
summary:"MySQL 慢查询突增(当前 {{ $value }}/s)"
指标 | 修复前 | 修复后 | 提升 |
|---|---|---|---|
订单查询耗时 | 28s | 28ms | 1000× |
支付 P99 延迟 | 32s | 380ms | 84× |
Nginx 502/天 | 347 | 0 | 100% |
支付失败率 | 23% | 0.3% | 98% |

AI 分析完说"未发现明显异常",但线上明明在报故障。
原因:只取了故障发生后的 5 分钟,没包含故障前的慢查询日志。
解决:时间窗口 = 故障前 30 分钟 + 故障期间 + 故障后 10 分钟。
AI 说"根因是数据库连接池耗尽",我信了,调了 20 分钟参数。
真相:是代码死循环。连接池告警是连锁反应的结果,不是原因。
解决:要求 AI 每步推理引用具体日志行,标注置信度。
日志里有数据库密码、API Key,直接发给 GPT 了。
解决:用脚本自动脱敏后再发。隐私要求极高时用 Ollama 本地模型。
Java 的异常堆栈每行太长,AI 的 tokenizer 切分后语义丢失。
解决:发送前截断超长行:
sed 's/^\(.\{500\}\).*/\1... [truncated]/' /tmp/app.log > /tmp/app_trimmed.log
同时分析 Go 和 Java 的日志,AI 把 panic 和 Exception 当成独立事件。
解决:在 Prompt 中说明各服务日志格式差异,要求统一时间线后再分析。

场景 | 推荐 | 原因 |
|---|---|---|
关键词明确(知道 ERROR 码) | grep | 3 秒搞定 |
多日志源关联分析 | AI | 人脑比对效率太低 |
未知异常模式 | AI | grep 搜不出来的语义异常 |
紧急止血(先恢复服务) | grep + 经验 | AI 分析需要时间 |
事后根因复盘 | AI | 系统性推理,补充遗漏 |
□ 今天:把 trim_logs.sh 脚本部署到跳板机
□ 本周:在 3 个服务上测试 AI 日志分析
□ 本月:接入 Prometheus 慢查询监控
□ 持续:积累 AI 分析的 Prompt 模板库
💬 你在日志排查中遇到过哪些"grep 死活找不到"的坑? 💬 AI 给的根因和实际不符的情况遇到过几次?欢迎评论区聊聊!