狙击手挑战
105.14M · 2026-03-12
在开发环境里，最顺利的路径看起来很完整。你调用 OpenAI，拿到结果，渲染出来，然后心里会觉得：“好，这一块做完了。”
接着，真实用户来了。
某个 provider 开始限流。延迟突然变高。同一个请求不断被重复发送。某一次响应格式稍微变了一点，你的解析逻辑就崩了。再接着，某个晚上出了问题，你盯着日志开始反复问自己：到底是我们的代码有问题，provider 有问题，网络有问题，还是刚好撞上了某个奇怪的响应？
在 ModelRiver 出现之前，我在做 AI 产品时反复遇到的就是这类问题。一开始我总把它们当成一次性的 bug。多加一次重试，多打一行日志，再补一个解析分支。后来才不得不承认：真正反复出问题的，通常不是 prompt，而是 prompt 周围那层架构。
完整文章（含完整架构说明）： modelriver.com/zh/blog/ai-…
