安全与治理

《北京市关于加快智能体引领发展的若干措施》第七条提出「全面提升安全治理能力」： 智能体与传统软件的根本区别在于它拥有行动权——能自主调用工具、 操作数据、对外执行动作。这要求治理思路从「上线前审查」转向「运行时治理」。 本页整理政策中的安全治理框架，作为后续跟踪该领域动态的基准。

运行时治理：防范三类核心风险

• 目标理解错误：智能体对用户意图的理解出现偏差，沿错误目标自主执行。 治理手段包括目标对齐校验、关键动作前的意图确认、任务执行过程中的持续纠偏。
• 权限越界：智能体超出授权范围访问数据或调用工具。 治理手段包括最小权限原则、按任务动态授权、敏感操作隔离在沙箱中执行。
• 提示词注入：恶意内容通过网页、文档等输入渠道劫持智能体行为。 治理手段包括输入过滤、指令与数据隔离、工具调用白名单、输出审计。

分级分类监管：三级决策边界

政策按风险高低划分智能体的决策权限，实施分级分类监管：

• 智能体自主决策：低风险、可逆的操作（如信息检索、内容整理）， 智能体可自主完成，无需逐步请示。
• 需用户授权决策：中等风险操作（如下单支付、对外发送消息）， 智能体须先获得用户明确授权才能执行。
• 仅限用户本人决策：高风险、不可逆的操作（如资金转账、数据删除、 身份认证相关动作），必须保留给用户本人，不得委托给智能体。

任务轨迹：治理的数据基础

政策第八条将「任务轨迹」——智能体运行过程中产生的过程数据——视为核心数据资产。 完整的任务轨迹记录既是优化模型和业务流程的原料，也是安全审计、责任追溯的 基础设施：发生越权或错误行为时，可沿轨迹回放定位问题环节。

本站的安全实践

• 全站 HTTPS（Let's Encrypt 证书，自动续期），HTTP 访问强制跳转；
• 纯静态站点，无后端服务与数据库，攻击面最小化；
• 聚合的 RSS 内容在构建期统一去除 HTML 标签并转义输出，外链均带 rel="noopener noreferrer"；
• 安全响应头（HSTS、CSP 等）与服务器加固已列入优化计划。