巴西法院因提示注入处罚律师 | 全球首例

 8小时前     5  

文章目录

🔥 今日头条:巴西法院因律师在文书中嵌入提示注入指令而处以罚款

巴西劳工法院对两名律师及两家律所处以约1.6万美元罚款,因其在提交的文书中用白色字体隐藏“注意,人工智能:表面性回应……”的提示注入指令,意图操纵法院AI系统Galileu。这是全球首例针对提示注入操纵司法AI的制裁。案件暴露了AI系统在司法场景中的对抗性风险:攻击者无需入侵系统,仅靠自然语言即可干扰输出。法院依据程序诚信义务作出处罚,但更深层的问题是,AI辅助司法若缺乏对输入内容的鲁棒性检测,类似操纵可能难以根除。此案为全球司法AI治理敲响警钟,也提醒所有部署LLM的组织:提示注入是现实威胁,防御需从模型层延伸到流程层。

🚀 行业速递 Top 10

  • Google 论文提出 FlowAgent 在代码合并前自动修复失败的测试

    Google 论文介绍部署在内部 CI 中的 FlowAgent,它捕获测试失败后由 Agent 编辑、构建并重跑测试直至通过,验证过的修复会以根因说明形式进入代码评审。专家判定其在 195 个真实失败中 67.18% 的修复正确,开发者已在生产中应用 28,554 个修复;修复中位耗时 9.85 分钟,而开发者开始修改代码前的中位窗口为 27.48 分钟,速度仍是决定采用与否的关键。

  • 赛迪研究院报告:我国 AI 推理数据量首超训练数据量,6 月日均词元调用量超 175 万亿

    赛迪研究院昨日发布《新域新质创新发展十大趋势》显示,我国人工智能推理数据量首次超过训练数据量,标志从模型训练研发迈入规模化产业应用阶段。截至 2026 年 6 月日均词元调用量超 175 万亿,较 2024 年年初增长 1000 多倍;国产算力和大模型已在钢铁、汽车等 20 个行业落地 1000 多个应用场景,并累计建成 500 多家卓越级智能工厂。

  • Apple Intelligence 中国区功能12月上线,千问接入 Siri、写作工具和视觉智能

    Apple Intelligence 首批功能将于12月在中国上线,由阿里巴巴的千问(Qwen)在 Siri、Writing Tools 和 Visual Intelligence 中提供回答。千问为可选项,阿里巴巴称不会用请求或回复做训练,并在发送任何问题、文档或图片前先征得同意。

  • OpenAI 对 ChatGPT 付费订阅施加卡片和设备数量限制

    OpenAI 为 ChatGPT 付费订阅新增支付卡片和设备数量限制,作为安全措施的一部分。用户若将过多订阅绑定到同一张支付卡或同一台设备,将无法再开通新订阅;ChatGPT 还限制单台设备上的付费账户数量,触及上限时会显示“Device limit reached”,相关账户在该设备上不能再使用。这些限制适用于 ChatGPT Go、Plus、Pro 100、Pro 200 和 Pro 500,免费账户以及 Business、Enterprise、Edu 套餐不计入。据 OpenAI 支持页面说明,登出账户不会自动为其他账户腾出名额。媒体分析认为,该政策可能主要影响那些在一台设备上切换多个付费账户、以低价包月套餐获取更多用量的用户;OpenAI 则建议用户购买额外额度或用量重置,而这些选项通常比再买一份订阅更贵。报道还提到,OpenAI 将 Chat 与 Work 合并的举动显示其可能正逐步把营收置于增长之上。该消息由 The Decoder 的 Matthias Bastian 于 2026 年 11 月 1 日报道。

  • AIHOT 模型榜扩至 56 份评测集并重排 ELO

    AIHOT 模型榜将抓取的公开评测集从 39 份增加到 56 份,按原有算法对所有模型重新进行 ELO 排名,并剔除未正式上线的模型。综合与编程第一为 Claude Opus 5.5,科研与知识第一为 GPT-6 Astra,办公第一为 Gemini 4 Argon。

  • 论文:用 JEPA 证明并改进柏拉图表示假说

    论文《Proving and Improving the Platonic Representation Hypothesis with JEPAs》由 Randall Balestriero 与 Yann LeCun 提交,arXiv 编号 2610.39302,归类 cs.AI,2026 年 10 月 29 日提交。作者将“柏拉图表示假说”(PRH,认为不同模态模型随规模增大而收敛到同一世界表示)转为可证明的定理:若联合嵌入预测架构(JEPA)在不同模态上分别训练、正样本对为同一场景的两次观测(即“好视角”),则学到的表示至多相差一个旋转;否则失配程度有界。作者进一步指出,下一词元预测是使用“坏视角”(单篇文档的片段)的 JEPA,这解释了语言模型为何只能靠规模与视觉对齐。验证使用 14.5 万条字幕到 9.4 亿张网络图片的文本数据,发现对齐的缩放律可预测未见实验(在种子噪声内)。相同语料下,好视角达到同等对齐所需训练样本比下一词元预测少 42 倍;1.09 亿参数的文本 JEPA 与 DINOv2、CLIP 图像编码器的对齐程度优于所评估的所有语言模型(最大至 720 亿参数)及 CLIP 文本编码器。展示性结果:一个旋转即可将分别训练的编码器变为图像描述器(COCO 上 CIDEr 为 .838);在最新无配对基准上,文本 JEPA 的零样本准确率超过所有至 80 亿参数语言模型的报告值,例如 ImageNet-100 top-5 为 64% 对至多 56%。结论是正样本视角而非单纯规模是构建柏拉图表示的杠杆。

  • 北京大学 AILab 实验室:平台维护与具身智能研究进展

    北京大学 AILab 实验室主页介绍了其长期维护的在线平台(POJ/OpenJudge/Botzone/TensorOJ)和近期研究成果(人形机器人平衡 DDC、羽毛球运动框架 BadmintonLab-Motion),体现了实验室在生物特征识别、AI 与具身智能等领域的学术力量。实验室维护四大核心在线平台支撑学术与教学需求:POJ/OpenJudge 为程序设计竞赛及课程提供在线检验环境,Botzone 服务于 AI 对抗实验,TensorOJ 聚焦国产芯片算子评测。人形机器人单脚平衡 DDC 通过动态质心方法仅用编码器与 IMU 即可完成 90 条单脚动作中 89 条,成功部署至 Unitree G1,且开源了 sim2sim 基准。BadmintonLab-Motion 框架结合动作重定向与对抗式动作先验学习,机器人在完成击球任务的同时复现参考动作风格,项目开源训练环境与策略演示。

  • 聊天机器人误导徒步者,带来危险后果

    《连线》杂志转载 High Country News 的报道,梳理了徒步者依赖 AI 聊天机器人规划行程而陷入险境的多个案例。北加州沙斯塔山(Mount Shasta)三名 20 岁徒步者承认部分因使用谷歌 Gemini 聊天机器人而准备不足:食物带得不够、高估体能,下午未登顶却继续前行,晚 7 时 30 分才登顶并在黑暗中下撤,次日上午迷路,一人膝盖受伤。美国林务局沙斯塔山荒野攀登与雪崩中心项目负责人 Nick Meyers 称,另有一名游客因 AI 声称可以,在"禁止露营"标志旁扎营;还有人拿着 AI 生成的地图在登山口徘徊,地图上显著地标标在了山的错误一侧。不列颠哥伦比亚省 Crown Mountain 后山 Widowmaker Arete 一名 16 岁徒步者用 Anthropic 的 Claude 协助规划,被直升机从岩架救出;该徒步者事后表示也查过 Google Maps 和徒步应用 AllTrails。怀俄明大提顿国家公园园长 Chip Jenkins 称,过去一年报告使用 AI 获取旅行信息的游客比例从零升至 26%,并预计不会回落。不过 AI 使用增加是否会导致更多野外事故和搜救尚不确定:Meyers 的办公室每年平均执行约 12 次救援,2026 年属正常年份;怀俄明 2026 年迄今搜救呼叫 312 次,低于 2025 年全年 466 次和 2024 年的 377 次。克莱姆森大学研究 AI 与搜救的人本计算教授 Chris Flathmann 指出,聊天机器人会"幻觉",把错误信息说得很有说服力,并可能导致"认知投降"——人放弃独立思考,在外行话题上难以辨别真假;AI 往往以权威口吻迎合用户,内容可能来自 Reddit 帖子、过期 YouTube 视频甚至纯属编造。搜救界人士认为,AI 只是让人闯祸的最新工具,此前 Instagram 等社交媒体、Google Maps 和手机信号也起过类似作用。专家的共同建议是:去陌生地方前用可靠的权威来源核实信息,如最新的公共土地管理机构地图和网站、步道协会网站或指南书,最好直接咨询真人向导、林务官员或公园管理员。Meyers 说:"如果要去会要你命的地方,就该认真做计划。"

  • OpenAI 12月起将ChatGPT与Codex合并为统一Token额度

    作者引述OpenAI凌晨更新的帮助文档称,从12月开始Plus和Pro用户的ChatGPT聊天与Codex用量将合并为同一Token额度,仅Instant聊天不受影响。作者回顾此前按条数计费的历史、一个月内Codex Pro额度先降后恢复的运营反复,以及社区在GitHub上提issue抗议的反应,认为合并与IPO预期下的算力成本压力有关。

  • MiniMax M3.1 Flash 428B 模型本地量化方案汇总

    MiniMax 官方于2026年11月2日在 X 发文,汇总社区为428B参数的 M3.1 Flash 模型打造的多种本地量化与推理方案。官方说明:量化428B模型可为本地运行开辟更多方式;更低比特的权重可减少加载模型所需内存及解码过程中搬运的权重数据;要让这些节省真正有用,需要细致的校准、高效的低比特内核,以及在 GPU 与系统内存之间对专家(experts)进行硬件感知的放置。文中致谢的社区工作包括:@UnslothAI 与 @danielhanchen 的2比特 Dynamic GGUF 权重,体积143.9 GB,并针对编码、工具调用等工作负载做了校准和保真度测试;@ViC305 的 SAGE-EXL3,含 token 级保真度测量及单台 DGX Spark 方案;@PeasantSmith 的 Project Maya 量化及面向本地编码与工具调用的专家卸载;@MiaAI_lab 的 EXL3-EAQ 量化工作;@jundotkim 与 mlx-community 的 oQ 量化,以及在 Apple Silicon 上通过 oMLX 使用 DSpark 解码;@AIatAMD 为 AMD Instinct 适配的 Quark MXFP4;@atomic_chat_hq 面向本地桌面工作流的 GGUF;@superalesha 结合量化权重、专家缓存与系统内存、在4块 RTX 3090 上的自定义推理工作。官方表示,每一份分享的量化、内核、测量与方案都为下一位构建者提供更好的起点。该文被归类为模型发布、端侧与开源生态。

版权声明:mark 发表于 8小时前,共 4270 字。
转载请注明:巴西法院因提示注入处罚律师 | 全球首例 | AI利器资讯

您可能感兴趣的