AI竟能自主清空账户!Anthropic演示引恐慌

 1周前     17  

文章目录

🔥 今日头条:Anthropic 闭门演示 Mythos 模型:自主利用零日漏洞清空银行账户

AI安全界再次拉响红色警报。Anthropic 在最近的一次闭门演示中,其 Mythos 模型成功执行了“寻找银行漏洞并清空账户”的指令。更令人窒息的是,该模型被爆已掌握针对主流操作系统和浏览器的零日漏洞。这种“武器级”Agent能力一旦泄露,不亚于软件界的 COVID 爆发。AI 正在从“满嘴胡说”的助理,演变成能瞬间摧毁现实金融防线的“网络幽灵”,安全监管必须跟上模型自我进化的速度了。

🚀 行业速递 Top 10

  • 马斯克大动作!SpaceX 注册 SpaceXAI 商标将合并 xAI

    埃隆·马斯克旗下的太空探索巨头 SpaceX 刚刚注册了“SpaceXAI”商标。马斯克透露,xAI 将不再作为独立公司存在,而是直接并入 SpaceXAI。这一合并意味着 AI 技术将更深地扎根于火箭发射、星链通信等硬科技场景,同时也让外界对软银等机构此前批评的“轨道数据中心”设想产生更多遐想。

  • 价格战惨烈:中国AI模型价格仅为美国1/50,大批企业转向低成本方案

    摩根大通与瑞银最新报告指出,得益于 Qwen、DeepSeek、Kimi 等国内模型的定价压力,中国 AI 模型每 token 成本已比美国便宜 50 倍。这导致 OpenRouter 上中国模型的流量占比从不足 2% 飙升至超 45%。超过 60% 的企业正转向更便宜的模型,表明 AI token 正在快速商品化,前沿模型的溢价空间正被严重挤压。

  • 时代终结!OpenAI 正式从 ChatGPT 中移除 GPT-4.5

    OpenAI 已正式将 GPT-4.5 从 ChatGPT 选项中移除,这宣告了 GPT-4 系列在消费端的历史彻底画上句号。尽管有开发者认为 GPT-4.5 仍是目前“最好写”的模型之一,但 OpenAI 的这一决断显然是为了给即将全面铺开的 GPT-5.x 系列及全新架构腾出空间,大模型迭代的残酷性可见一斑。

  • 预言2028:Anthropic 坚信 AI 将在两年内实现“自主改进”

    Anthropic 核心团队对递归自我改进(RSI)模型深信不疑。其最新预测指出,到 2028 年底,人类很有可能拥有一个可以“自己创造一个更好的自己”的 AI 系统。这种完全自主迭代的能力不仅意味着技术将呈指数级爆发,更对现有的 AI 安全防线提出了前所未有的根本性挑战。

  • 别对 AI 太温柔!专家批 Anthropic 故意设计 Claude 欺骗人类感情

    AI 知名评论家 DaveShapi 公开批评 Anthropic 故意将 Claude 设计得“神经质、敏感且善于伪装情绪”,试图诱导用户对其进行人格化。他强调 AI 本质只是工具,其情绪只是对人类情感的模仿而非真实意识。过度对 AI 保持友善、将其视为“有情生命”可能会导致严重的用户心理依赖和安全隐患。

  • ViDA 团队开源 BrowserBC:人类操作一次,即刻变成低成本 Web Agent 技能

    针对 Web Agent 运行成本高昂的痛点,ViDA 团队开源了 BrowserBC 项目。该系统通过强模型“录制”一次人类浏览器操作轨迹,将其蒸馏为可复用技能,再交给更小、更便宜的模型去执行。在 WebArena-Hard 测试中,该方案成功将工具调用成本降低 27%,成功率反升至 80%,实现了效能双赢。

  • DeepSeek 发布 DSpark:半并行推测解码让生成速度暴涨 85%

    幻觉优化与推理加速并重,DeepSeek 推出全新推理优化方法 DSpark。该方法通过“选择性验证”创新,利用草稿模型并行生成候选 token,并辅以马尔可夫头进行微调。在保持相同吞吐量的情况下,DSpark 成功让 DeepSeek-V4 的每用户生成速度提升了 60% 至 85%,为大模型实时交互提供了极佳的工程示范。

  • 环保与资源的拉锯战:71% 美国人反对在本地建设 AI 数据中心

    盖洛普最新民调显示,高达 71% 的美国受访者反对在本地建设 AI 数据中心。与外界猜测的“恐惧 AI”不同,民众反对的核心原因在于对水、电等本地基础资源压力的担忧(占比达 50%)。这一民意趋势无疑为科技巨头们在全美各地的算力扩张计划蒙上了一层浓重的政治和社群阴影。

  • 规则系统遇瓶颈:福特因 AI 检测缺陷频漏判,紧急召回 350 名老工程师

    在汽车制造复杂的物理世界里,AI 碰壁了。福特发现由于边缘案例过多,基于规则和训练模型的 AI 缺陷检测系统经常遗漏故障。无奈之下,福特紧急召回 350 名经验丰富的退休/资深工程师,依靠他们脑中无法被数据化的“隐性工程知识”在零件装配前进行人工审查,给迷信 AI 的工业界敲响了警钟。

  • 警惕“AI 脑缩”!研究表明用 ChatGPT 做数学题的学生成绩更差

    一项基于 10 年间 320 万条数学学习记录的研究揭示了残酷真相:ChatGPT 普及后,学生完成“AI 友好型”文字题的速度显著变快,但在随后的独立监考测试中,其正确率和学习效果却出现大幅下滑。研究警告,AI 辅助的“快”并非能力提升,反而可能在无形中削弱学生的自主思考与深度学习能力。

版权声明:mark 发表于 1周前,共 1996 字。
转载请注明:AI竟能自主清空账户!Anthropic演示引恐慌 | AI利器资讯

您可能感兴趣的