跳到正文
DEV Community· Andrey Altrouter·· 3 小时前AI 评分60

RAG 检索从 top-5 调到 top-20 会让每次回答贵 2.7 倍

Going from top-5 to top-20 retrieval makes every RAG answer 2.7x more expensive

AI 导读

作者测算把 RAG 检索的 top_k 从 5 提高到 20 会使每次回答成本变为 2.7 倍,GPT-5.6 按牌价($2/百万输入 token、$12/百万输出 token)在每天 1 万次提问下每月多花 $4,500。

来源:DEV Community · dev.to