先标明输入来源与处理目的

接收网页、文档或图片时,记录来源和用户希望完成的任务,区分用户直接指令与材料内部文字。材料可能包含看似命令的段落,也可能在图片、注释或截图中夹带额外要求。它们不应因为被模型读到,就获得修改应用规则的权限。

在应用层说明哪些内容来自外部材料,要求处理结果围绕当前任务。这样的标注有助于组织上下文,但不能单独作为安全保证。是否允许访问文件、发送请求或改变账户状态,应由应用的权限检查决定,而不是交给材料中的文字。

把敏感信息检查放在发送之前

确认材料中是否包含凭证、客户内容、内部地址或不适合发送的个人信息。按业务需要裁剪与任务无关的部分,优先使用脱敏文本或经过检查的图片。对截图中的边角、浏览器标签与文件名也做检查,避免正文之外的信息被一并传出。

如果处理流程需要留样,先限定保存范围、访问者和期限。日志可记录文件类型、处理状态与脱敏后的问题摘要,不默认保存整个附件。无法判断材料是否可用时,先让负责人确认,不把模型能够读取当成已经获得处理授权。

检查输出,再决定是否执行工具

模型返回的文字、链接和操作参数都应作为待验证结果。应用在使用这些参数前检查格式、允许的目标和当前用户权限。对于外部地址或文件路径,采用项目规定的边界校验,避免把生成内容直接拼进命令或未经限制的请求。

涉及发信、付款、删除或修改数据的动作,应展示具体对象与影响,并按业务流程确认。网络中断后先核对动作是否发生,不自动重放。把内容生成和实际执行分开记录,便于定位是理解错误、参数错误还是执行环节的问题。

用可复查样例持续检查边界

构造不含真实秘密的测试材料,覆盖普通内容、伪装指令、敏感片段和不合法工具参数。验收时分别观察模型输出与应用是否执行,不只看回答是否礼貌拒绝。发现越界时,修复对应权限或参数边界,再保留样例验证后续改动。

NexoToken 提供多模型 API 接入、账户额度与用量记录。选择接入前核对当前文档、模型与价格;输入来源标注、敏感信息检查和工具权限仍由应用实现。不要把更换接口或模型当成已经完成安全评审的证明。

参考资料

由 NexoToken 维护的自营资料站。平台介绍包含运营方利益关系,不构成独立第三方认证。