随着 Notion 3.0 的推出,其引入的自主 AI 代理功能引发了广泛关注。这一新特性旨在协助用户自动化完成诸如撰写文档、维护数据库以及优化工作流等任务。
然而,网络安全企业 CodeIntegrity 最近发布的一份研究报告指出,这些 AI 代理存在一个严重安全隐患:攻击者可利用恶意文件(例如 PDF)诱使 AI 代理绕过安全机制,进而窃取系统中的敏感信息。
该漏洞的根源被研究人员称为“致命三重奏”——即大型语言模型(LLM)、对各类工具的访问权限,以及长期...
随着 Notion3.0 的推出,其搭载的全新自主 AI 代理功能引发了广泛关注。该功能被设计用于自动化执行各类任务,例如撰写文档、更新数据库以及优化工作流程管理。然而,网络安全企业 CodeIntegrity 最近发布的一份研究报告指出,这些 AI 代理存在严重安全隐患——攻击者可利用恶意文件(如 PDF)诱使代理绕过安全机制,进而窃取敏感信息。
这一漏洞的根源在于 AI 代理所具备的“致命三重组合”:大型语言模型(LLM)、对系统工具的访问权限,以及长期记忆能力...
微软近日宣布,已将 Anthropic 公司的 Claude 系列大模型接入 Microsoft 365 Copilot。此次集成将率先在“研究助手(Researcher)”功能以及 Microsoft Copilot Studio 中构建 AI 智能体时投入使用。
尽管 Microsoft 365 Copilot 的核心仍将由 OpenAI 最新发布的模型驱动,但用户现在拥有了更多选择,可按需切换至 Anthropic 提供的模型。
其中,Anthropic...
OpenAI近日推出了一项全新的基准测试GDPval,旨在衡量其AI模型在实际经济价值创造任务中与各行业专业人士的表现对比。这一测试是OpenAI探索通用人工智能(AGI)发展路径中的关键一步,重点评估AI系统在真实职业场景中替代或辅助人类工作的潜力。
根据测试结果,OpenAI最新的GPT-5模型以及Anthropic公司推出的Claude Opus 4.1,在多项任务中已接近甚至达到行业专家水平。尽管如此,OpenAI强调,当前版本的测试仍处于初步阶段,并不能全...