HACK长歌
长歌网安学习区，公共号请搜索：长歌安全
【AI安全】结构化约束中的拒绝路径阻断与下游决策风险-先知社区
来源： 【AI安全】结构化约束中的拒绝路径阻断与下游决策风险-先知社区 本文内容仅供技术学习与交流使用，严禁用于任何非法用途。请遵守《中华人民共和国网络安全法》等相关法律法规，因违规使用产生的一切后果，由使用者自行承担，与作者无关。 引言 过去做大模型安全时，我们习惯把注意力放在模型“看到了什么”：Prompt Injection、RAG 文档投毒、工具返回污染，本质上都在影响模型接收到的上下文。 Structured Output、JSON Schema、GBNF、Guided Decoding 这类机制出现后，有一个问题又值得我们关注：模型下一步究竟被允许生成什么？ 很多安全机制默认模型始终保留“拒绝”的能力。模型识别到风险后，可以生成“我不能执行这个请求”，然后结束当前任务。但结构化约束不是在输出结束后检查格式，而是在采样阶段直接限制合法 token。只要某条输出路径不属于当前 Grammar 接受的语言，它就不是“低概率”，而是根本不可达。 这意味着安全问题出现了一个新的层次：模型是否想拒绝，不等于采样器是否允许模型完成拒绝。 一、结构化约束与模型输出空间 1.1 自由生成与受
大语言模型提示词注入的终极形态——指令混淆与坐标系攻击 - FreeBuf网络安全行业门户
来源： 大语言模型提示词注入的终极形态——指令混淆与坐标系攻击 - FreeBuf网络安全行业门户 大语言模型提示词注入的终极形态——指令混淆与坐标系攻击 砚零 关注 AI安全 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 收藏一下～ 可以收录到专辑噢～ 大语言模型提示词注入的终极形态——指令混淆与坐标系攻击 砚零 2026-10-16 10:48:31 117787 所属地 湖北省 本文由 砚零 创作，已纳入「FreeBuf原创奖励计划」，未授权禁止转载 摘要 提示词注入被讨论了很多年，攻防双方却始终停在同一个平面上：攻击者想办法把一句”忽略之前的指令”藏起来，防御者想办法把它找出来。本文想说的是，这个平面之外还有两个维度被长期忽略了—— 可观测性 与 参照系 。 我们把 1
DeepSeek-V4.1-Flash-1017 搭配 Hermes 使用 REA 逆向智能音箱实现家庭助理贾维斯
来源： DeepSeek-V4.1-Flash-1017 搭配 Hermes 使用 REA 逆向智能音箱实现家庭助理贾维斯 DeepSeek-V4.1-Flash-1017 搭配 Hermes 使用 REA逆向智能音箱实现家庭助理贾维斯 手上都是面粉的时候，最烦的是找开关。 现在的做法是抬头说一句：开客厅灯，放首歌。灯亮，音乐起。做饭中途想换一首，喊一声名字，音乐停住，说完「换一首周杰伦的」，新歌接上，不用洗手。 这台音箱两百块出头，某智能音箱 Pro。唤醒词是「你好小瑞」。 它现在管着家里 59 个开关、3 盏灯、10 幅窗帘、5 个场景，看着 5 个摄像头；放歌的时候，去自己 NAS 上的曲库找。Home Assistant 里 423 个实体，能被一句话点到的部分，都在它手上。 三件事值得单独说。 01 01 第一件：全屋的设备，只要进得了 Home Assistant，它就控得住 不是「支持某某品牌几十款设备」那种白名单。门槛只有一个：设备能接进 Home Assistant。 灯、开关、窗帘、场景、脚本、媒体播放，一句话的事。客厅主灯在系统里其实是两个开关——墙上是双控——这
实测HuggingFace榜一的决策模型，果然吊打Jev
来源： 实测HuggingFace榜一的决策模型，果然吊打Jev 大家好，我是冷逸。 前一阵子，Jev模型爆火。但要说近期最强的，还得是中国模型。 国庆节前，来自上海的StartLux（原点星辉）团队发布了StartLux-Decision-v1，成为当时第一家超越Jev的决策模型。 而离v1不到十来天，最近他们又发布了全新的StartLux-Decision-v1.1决策模型，从小尺寸到大尺寸都对Jev形成了全方位碾压，拿下决策界SOTA。 包括在HuggingFace公布的最新决策指数Decision Index 0.3.2中，StartLux-Decision-v1.1-27B决策模型依然是断崖式领先，豪夺全球第一。 System One模型这玩意，很多人难以理解。实话说，如果你不是专门搞开发的程序员，确实不太好理解。 我们还是上实例，这样你理解得更快一点。 前几天，特斯拉发布了Roadster汽车，那玩意能直接起飞、空中翻转、飞越障碍、飞越收费站……超出了很多人的想象力，没想到汽车还能这么玩。 于是，我就用StartLux-Decision决策模型分析了Roadster汽车的飞