构建 Pakistan Notice Helper：针对本地安全痛点的小型 AI 工具

背景

在巴基斯坦，用户经常收到看似来自银行、快递公司、税务局、交通警察、公用事业公司、移动运营商或政府部门的短信。其中一部分是真实的官方通知，但许多则是精心设计的诈骗信息。对于普通用户而言，阅读这些消息并非难事，真正的挑战在于判断其真伪以及知道接下来该采取什么行动。

基于这一普遍存在的本地化安全问题，作者开发了 Pakistan Notice Helper。这是一个专注于安全的 AI 工具，旨在帮助巴基斯坦用户在点击链接、拨打号码、共享一次性密码（OTP）或进行支付之前，理解可疑消息的风险。

该项目符合 Hugging Face “Build Small”（构建小型工具）赛道，其核心理念并非构建一个通用的大型助手，而是探索在范围明确、产品行为定义清晰且界面围绕真实用户设计的情况下，小型模型能发挥多大的作用。

核心内容

Pakistan Notice Helper 并非一个绝对的“真伪验证器”，它不声称某条消息是官方真品还是欺诈。相反，它作为一个“分诊工具”（triage tool）运作。用户输入文本或截图后，工具会返回风险标签、简短解释、可见的红色预警标志以及安全的后续步骤。

技术栈与模型选择

项目采用了以下技术栈以在保持低成本的同时处理文本和截图：

• 前端：基于 Hugging Face Space 的自定义 Gradio 前端。
• 后端服务：通过 Gradio Server 端点队列，部署在 Modal 上。
• 推理引擎：CUDA 加速的 llama.cpp。
• 核心模型：最终生产环境选用的是 Qwen3.5 4B Q8 (MTP GGUF + vision projector)。

在最初的测试中，作者曾尝试更大的 Qwen 模型，但最终发现 Qwen3.5 4B 在十案例评估中通过了所有高风险诈骗案例和截图案例，成为了小型模型安全助手的实用选择。该模型堆栈成功将模型大小控制在黑客松规定的 32B 限制以下，同时兼顾了多模态能力。

语言支持与用户体验 (UX)

该应用支持英语和乌尔都语（Urdu）。这一产品决策至关重要，因为巴基斯坦的可疑消息通常以英语、乌尔都语、罗马乌尔都语（用拉丁字母拼写的乌尔都语）或三者混合的形式出现。

• 不仅仅是翻译：当用户切换到乌尔都语模式时，应用不仅翻译界面，还改变布局为从右向左（RTL）。
• 本地化深度：应用会翻译标题、标签、风险卡片、验证消息和结果控件，并指示模型用清晰的乌尔都语脚本生成评估结果。
• 信任感：对于本地安全工具而言，当建议以用户最舒适的母语呈现时，用户更容易信任并采取行动。

风险检测逻辑

应用主要寻找以下警告信号：

• 紧急威胁或账户暂停语言；
• 要求提供 OTP、PIN 码、密码、CVV、CNIC（国民身份证）详情或银行卡数据；
• 可疑的支付链接或个人手机号码；
• 冒充银行、电信公司、快递公司、税务局或警察；
• 要求预付费用才能领取的奖品、退款、工作或福利。

随后，工具会提供更安全的后续步骤，例如通过独立查找的官方渠道进行验证，而不是使用可疑消息中的链接或电话号码。

关键要点

• 小型模型在边界清晰的任务中表现优异：小型模型不需要成为通用的诈骗调查员。只要任务范围经过精心界定（识别可见风险信号、避免过度断言、提供安全步骤），小型模型就能发挥惊人作用。产品范围、提示词设计和输出契约与模型本身同样重要。
• 平衡质量、速度、成本与安全：构建小型模型的关键不在于追求最高的基准测试分数，而在于找到质量、速度、成本和产品安全之间的最佳平衡。
• 大模型并非总是最佳选择：作者最初使用 Qwen3.6 27B，其在任务上的质量评分约为 95/100。然而，该模型需要更多的 VRAM、更大的 GPU 机器以及较长的冷启动恢复时间，对于黑客松演示或流量不规则的应用来说，部署成本过高且不切实际。
• 小模型部署的陷阱：作者曾尝试使用更小的视觉语言模型 MiniCPM-V 4.6 Q8，希望实现本地化运行并降低服务成本。但该模型在 GPU 上运行极慢，且在 ZeroGPU 上遇到配额和运行时问题，导致部署不稳定，最终被弃用。
• “黄金比例”模型的选择：通过参考 Artificial Analysis 的小型开源模型排名，作者选择了 Qwen3.5 4B。虽然其质量评分约为 80/100（低于 27B 模型），但它在服务成本、加载速度、部署难度以及冷启动行为上达到了最佳平衡，是适合该项目的“黄金”模型。
• 提示词工程与输出契约至关重要：
  • 早期版本中，“思考模式”（Thinking mode）在返回结构化 JSON 之前消耗了 500 个 token 的输出预算，因此在生产环境中被禁用。
  • 针对密集的罗马乌尔都语截图，增加了图像请求的 token 预算以防止达到完成限制。
  • 为防止模型生成未验证的官方域名，系统提示词被更新为禁止编造 URL、电话号码、组织和事实，从而提高了系统的安全性和可预测性。
• 乌尔都语 UX 需要细致的产品设计：
  • 直接翻译往往显得不自然，需要调整标题行高等细节。
  • 混合使用乌尔都语和拉丁字母的模型名称可能导致意外的重排。
  • 在从右向左的布局中，移动控件需要更多的垂直空间。
  • 作者曾测试捆绑的 Nastaliq 网络字体，虽然美观但降低了可读性并破坏了界面一致性，最终回归到系统阿拉伯字体堆栈，同时保留改进后的乌尔都语文本和 RTL 布局。

意义与影响

Pakistan Notice Helper 项目提供了一个关于如何在资源受限环境下构建实用 AI 产品的深刻案例。它证明了对于特定的本地化安全问题，不需要依赖庞大且昂贵的通用模型。通过精确界定问题范围、优化提示词工程、选择合适的“足够好”的小型模型（如 Qwen3.5 4B），并投入精力解决本地化 UX 细节（如乌尔都语的 RTL 布局和字体渲染），开发者可以构建出既高效又可信的安全工具。

这一实践强调了“产品思维”在 AI 开发中的核心地位：最好的模型不一定是最大的模型，而是最能平衡质量、速度、成本和安全性的模型。对于全球范围内面临类似本地化诈骗问题的地区，这种“小型、专注、本地化”的 AI 构建策略具有重要的参考价值。