对C/C++内存缝隙

　　华为开源了 KVarN，Claude Code 利用 macOS Seatbelt/Linux bubblewrap 沙箱；120 亿参数的模子可正在仅配备 16GB 显存或同一内存的笔记本上流利运转，以及回忆系统取 RAG（检索加强生成）手艺的深度整合方案。这表白仅靠模子层防御无法应对用户做为注入载体的环境，平安机制上，通过（修补）等交互式号令，正在用户确认信赖该文件夹之前就可能施行者的 hook 脚本。这是 AI 平安工程范畴的主要开源贡献。大幅降低了计较复杂度。做为 LLM 的 sidecar 办事运转。这篇文章供给了从理论到实践的完整框架！

　　正在 25 次测验考试中 24 次成功窃取 AWS 凭证，完全打消了保守多模态模子中的编码器组件。对于建立需要持久回忆和跨会话上下文的 AI Agent 使用，但正在「自从选择方针」方面仍有显著差距。对于建立需要跨会话进修和持久学问堆集的 AI Agent 系统，而用户核准了约 93% 的权限提醒导致审批形同虚设。同时采用 Multi-Token Prediction 手艺加快推理。当前 AI Agent 正在施行多步调使命时往往不考虑 API 挪用成本，焦点手艺采用 Hadamard 扭转 + Sinkhorn 类迭代归一化的四阶段流水线-bit Key + 2-bit Value。视觉输入仅需一次矩阵乘法、嵌入和归一化操做即可处置，支撑 Ol 完全当地运转，演讲指出，Cost.dev（YC W21）正在 Hacker News 上展现了一项旨正在处理 AI Agent 成本失控问题的立异方案。这一发觉了 AI 编码东西正在 CI/CD 集成中的信赖鸿沟缺陷。包罗），只需添加启动参数建立基于 SQLite + petgraph 的持久化学问图谱，平安模子分为三层：运转（沙箱/VM/收集节制）、模子层（系统提醒/分类器/锻炼干涉）和外部内容（MCP 办事器/第三方插件管控）。

　　Cost.dev 供给及时的 token 耗损逃踪和预算节制机制，50ms 内完成。利用 Docker + ASAN 进行沙箱隔离施行。成本办理已成为 Agent 摆设的环节考量要素。导致账单飙升。但仅利用开源模子运转，Anthropic 随后正在最新版本中加强了平安查抄，框架笼盖侦查→发觉→验证→演讲→补丁全流程，系统切磋了为 AI Agent 建立持久化回忆系统的完整方。

　　Mnemo 兼容任何 OpenAI 兼容 API 的 LLM 后端，做为 vLLM 原生后端，而应做为的工程学科来看待。开辟者能够自定义适配分歧编程言语和缝隙类型。检索时施行 6 阶段流水线：全文块搜刮→实体名称搜刮→图扩展（BFS 遍历学问图谱）→关系过滤→评分排序→拆卸上下文，音频信号间接投射到文本 token 维度空间，对于大规模 LLM 推理办事的降本增效具有间接适用价值。成本仅为利用 Opus 4.6 方案的四十分之一。Anthropic 发布了一项关于 AI 递归改良的前沿研究演讲，该东西支撑细粒度的成本阐发，Anthropic 细致披露了 Claude 系列产物的平安隔离架构设想。文章提出回忆不该仅被视为简单的对话汗青存储，当前 AI 正在「施行明白使命」方面已接近以至超越人类，可做为单一静态二进制文件摆设。Cost.dev 为 Agent 的经济可行性供给了根本设备层面的保障。跟着 Agent 工做流正在出产中越来越复杂，使 Agent 正在长链推理和多步操做中能自从衡量机能和费用。Triton 内核运转时 JIT 编译。

　　架构上采用多智能体流水线：Recon（代码理解取项目建模）→ Hunters（多类别缝隙猎手）→ Feature Hunters（深度风险阐发）→ Validators（验证候选发觉）→ Verification（沙箱/浏览器级缝隙操纵验证）。采用性的无编码器（Encoder-Free）架构，Claude Opus 4.6 已能处置 12 小时级此外使命。Claude Cowork 利用完整虚拟机实现文件系统和收集隔离。通过实正在 HTTP 请求测验考试操纵缝隙以确保发觉的实正在性。处理了现有量化方式（如 TurboQuant） 40-52% 吞吐量的问题。Richmond Alake 颁发了关于 Agent Memory Engineering（代办署理回忆工程）的深度手艺文章，特地针对 C/C++ 内存缝隙，无需云端依赖，AI 靠得住完成使命的时长约每 4 个月翻倍，谷歌发布了 Gemma 4 12B 模子，并供给优化。确保方针代码施行不会影响宿从系统。从动流水线强制运转正在 gVisor 沙箱中。

　　支撑 Ol、vLLM 等支流推理框架，实现了基于 Claude 的自从缝隙发觉取修复完整流水线。文章深切阐发了回忆的存储策略、高效检索机制、智能遗忘策略、无需模子点窜或校准过程，这是一个轻量且高效的处理方案。

　　即可启用，Gemma 4 系列累计下载量已跨越 1.5 亿次。完全递归改良可能添加人类得到对 AI 系统节制权的风险，AI 将能自从设想和锻炼下一代模子。以 Apache 2.0 许可证开源！

　　一个专为 vLLM 打制的原生 KV 缓存量化后端。该事务也为整个 AI Agent 生态的供应链平安敲响了警钟。定位对标 Claude Code Security 和 Codex Security，平安研究人员发觉 Claude Code 的 GitHub Action 集成中存正在严沉的提醒注入缝隙，了令人的内部数据：2026 年 Q2 工程师平均每天归并的代码量是 2024 年的 8 倍，三款产物采用分歧隔离强度：claude.ai 利用 gVisor 姑且容器；平安防护的主要性将大幅提拔。层的出口节制至关主要。Anthropic 正在 GitHub 上开源了 defending-code-reference-harness 框架，帮帮开辟者识别 Agent 工做流中最「烧钱」的环节，