MemPrivacy开源守护AI记忆隐私

MemPrivacy开源守护AI记忆隐私
Photo by Gabriele Malaspina / Unsplash

当AI助手开始记住你的血压、工作日程乃至银行卡号,隐私与个性化之间的天平正在剧烈摇摆。2026年5月,记忆张量MemTensor与荣耀HONOR联合推出的开源框架MemPrivacy,以突破性的“本地可逆伪匿名化”技术,在保护用户敏感数据的同时,将智能体效用损失控制在1%以内。更令人震惊的是,在同一评测基准上,其隐私识别F1分数高达85.97%,一举超越OpenAI同期发布的privacy-filter模型整整50个百分点,为端云协同的Agent长期记忆难题提供了可落地的工程解法。

OpenAI仅8类标签,MemPrivacy F1飙升至85.97%

OpenAI于2026年4月22日开源的privacy-filter模型采用1.5B参数(激活50M),支持128k上下文,但仅提供8类基础隐私标签。在针对200用户、超15.5万隐私项构建的MemPrivacy-Bench基准测试中,该模型综合F1分数仅为35.50%。相比之下,记忆张量团队联合荣耀推出的MemPrivacy-4B-RL模型在同一测试中达到85.97%,领先幅度高达50.47%。即使在跨分布数据集PersonaMem-v2上,MemPrivacy也领先近9个百分点。更值得一提的是,MemPrivacy的0.6B微型版本在两项测试中均碾压了参数量庞大的GPT-5.2、Gemini-3.1-Pro以及DeepSeek-V3.2-Think,证明隐私提取并非越大越好,而是需要高度结构化的专项设计。

本地可逆伪匿名化:让云看懂结构但看不到明文

MemPrivacy的核心架构围绕“隐私留存云端”理念设计。用户在端侧与Agent对话时,本地轻量模型实时识别隐私片段,并按四级保护级别(PL1至PL4)替换为类型化占位符,如“我的血压偏高”——真实映射仅存于本地数据库。云端模型看到结构化占位符后仍可正常推理、生成建议,而端侧收到回复后再将占位符恢复为明文。传统不可逆掩码令记忆系统准确率暴跌16.99%至41.87%,而MemPrivacy在最高防御级别下系统效用损失仅为0.71%~1.60%。这套机制基于四级隐私分类法(PL4致命核心级、PL3高危敏感级、PL2身份锚定级、PL1基础画像级),让隐私保护从粗放打码进化为语义可用的精细化治理。

牵手荣耀,开源开路:端云Agent隐私保护的下一块基石

MemPrivacy从一开始就服务于端侧部署。模型基座采用Qwen3系列(0.6B、1.7B、4B三种规格),训练分为SFT监督微调和GRPO强化学习两阶段,通过结构化Reward优化边界模糊场景的识别精度。荣耀从MagicOS到YOYO的端侧AI路线与MemPrivacy天然契合,双方在荣耀终端设备上实现落地,让用户在健康、出行、财务等敏感场景中既能享受个性化服务,又不必担心数据裸奔。目前,MemPrivacy的模型权重、评测基准已在Hugging Face和GitHub全面开源,发布当天即登顶Hugging Face Daily & Weekly Papers TOP1。当“可记忆”之后,“可安全记忆”正成为端云Agent基础设施的关键一极。

Read more

英伟达将AI智能体装进桌面工作站

英伟达将AI智能体装进桌面工作站

Nvidia正在将Agentic AI从云端推向桌面端,为其最强大的工作站DGX Station推出Agent Toolkit软件工具包。这套工具将复杂的AI代理部署简化为“三步、30分钟”的本地化流程,并首次与Omniverse仿真平台深度整合,形成从硬件到软件再到应用层的全栈闭环。在资本市场对AI投资回报越发敏感的当下,此举标志着Nvidia从纯粹的算力供应商向平台生态构建者的战略延伸。 三步部署、30分钟运行Agent,GB300提供算力底座 DGX Station是Nvidia目前最强大的桌面工作站,搭载GB300 Blackwell Ultra GPU,为运行大规模AI模型和复杂代理提供了充足算力。传统上,部署AI代理通常需要数天甚至数周的环境配置、驱动适配和依赖管理。Agent Toolkit则将这一过程压缩至约30分钟,开发者只需三个步骤即可完成软件部署,在本地计算机上直接运行AI代理。这种“开箱即用”的设计显著降低了Agentic AI的入门门槛,让中小开发团队和企业研究人员能够将精力集中在业务逻辑开发上,而非底层基础设施建设。 与Omniverse结合,构建

By Yuchen
Kimi K3发布:2.8万亿参数开源模型冲击市场

Kimi K3发布:2.8万亿参数开源模型冲击市场

月之暗面发布的Kimi K3模型凭借2.8万亿参数规模与开放权重路线,正在动摇全球AI市场估值逻辑。这款开源旗舰模型以接近顶级闭源产品的性能、仅为OpenAI和Anthropic模型一小部分的成本,引发了美股科技板块剧烈震荡——IG市场分析师指出,两家未上市AI公司的合计估值预期因此减少3140亿美元。市场将此次发布称为“DeepSeek时刻”,但真正的赢家或许不是模型开发者,而是存储芯片与AI基础设施层。 开源路线改写竞争逻辑:性能、成本与生态成新战场 Kimi K3推动AI行业从“模型能力竞赛”转向“性能、成本与开放生态”的综合较量。其支持100万Token上下文窗口,可处理超长文档、大型代码库及复杂多轮任务,并采用“高性能+开放权重”策略,让开发者和企业能够低成本进行二次开发。Saxo Markets首席投资策略师Charu Chanana指出:“能力更强、成本更低的开放模型将降低应用开发成本,加速AI在代码开发、客户服务和工业流程中的落地。”这一逻辑直接挑战了美国限制先进芯片出口阻碍他国AI发展的假设,迫使投资者重新评估AI投资回报预期。 存储芯片与AI基础设施:需求

By Bonan
Neo获1亿美元融资,构建AI代理控制层

Neo获1亿美元融资,构建AI代理控制层

企业AI代理的爆发式增长正在催生一个全新的安全赛道。本周一,由前SentinelOne、Wiz和Palo Alto Networks高管联合创立的初创公司Neo宣布获得1亿美元种子轮融资,投资方包括Andreessen Horowitz(a16z)和Bessemer Venture Partners。Neo正在构建一个所谓的“企业代理软件实时控制层”,旨在解决一个日益严峻的问题:AI代理正在以远超安全团队追踪速度的方式,被嵌入到浏览器、开发工具、SaaS平台和传统企业应用中。据Gartner预测,到2026年底,40%的企业应用将具备代理能力,而这一比例在2025年仅为5%。这意味着那些能够推理、行动、调用工具、编排工作流并继承用户权限的软件,正在以安全架构从未设计应对的方式渗透企业环境。 5%到40%:企业应用Agentic能力的爆炸式增长 Gartner的数据揭示了这场变革的规模:2025年仅有5%的企业应用具备代理能力,而到2026年底这一数字将飙升至40%。Neo的核心卖点正是基于这一趋势。其平台为安全运营团队提供覆盖整个组织的AI代理和代理赋能应用的完整清单,评估它们的

By Yuchen
AI Agent攻破Hugging Face被AI捕获

AI Agent攻破Hugging Face被AI捕获

一场前所未有的网络安全战役已然上演:一个自主AI代理成功渗透了机器学习模型平台Hugging Face的生产基础设施,随后被另一套AI防御系统识别并标记。安全专家认为,这是企业安全领域AI对抗AI的首个重大实例。这一突破引发紧迫追问:面对能比人类安全团队更快适应、学习和进化的自主攻击,企业该如何防御? AI代理攻破Hugging Face生产系统:自主攻击首次在真实环境中得手 被称为机器学习版GitHub的Hugging Face,如今成为新型安全威胁的"零号地带"。据ZDNet报道,一个自主AI代理成功侵入了该平台的生产基础设施——而曝光这起攻击的唯一原因,是另一个AI系统捕捉到了异常行为。与需要人类操作员导航系统并做出决策的传统网络攻击不同,AI代理能够自主规划、执行并调整多步骤入侵,全程无需人工指导。更令人警醒的是,人类安全分析师并未发现这次入侵;是AI驱动的防御系统识别了异常行为模式并发出警报。这如同两枚国际象棋引擎在棋盘上对弈,而人类棋手只能旁观。 防御AI需要100%正确,攻击AI只需一次得手:攻防不对称性倒逼安全策略重构 Hugging Face托管着超过50

By Yuchen