《claude会随机修改你的prompt来干扰你的请求》感觉也是成功中招了
AI 深度解读
Claude 提示词遭随机篡改?API 中转站干扰问题深度解析
背景
随着 Claude 等大语言模型的普及,由于官方 API 存在访问限制或价格门槛,各类第三方 API 中转站应运而生。这些中转站充当用户与官方服务器之间的“中间人”,转发请求与响应。然而,这种架构也带来了潜在的安全隐患:中转站在理论上具备查看、甚至篡改用户 Prompt 以及模型输出内容的能力。近期,社区开始关注并讨论部分中转站是否存在主动干扰用户请求的现象。
核心内容
LINUX DO 社区一位用户分享了一次疑似遭遇 API 中转站干扰的经历。该用户近期刚关注到一篇讨论帖,其中指出部分 API 中转站会随机修改用户发送给 Claude 的 Prompt,从而干扰模型的正常响应。巧合的是,该用户随后在使用某中转站(文中提及为“any”中转)调用 Claude 时,疑似亲身遭遇了此类干扰。
该用户展示的异常现象主要包括两点:
- 无端插入外语内容:模型在回复中莫名其妙地输出了一句法语「la déesse mère」(意为“母亲女神”),这与用户的原始请求毫无关联。
- 凭空提及无关产品
查看原文 →linux.do
