过去一个月,大模型还在比谁更聪明;这一周画风突变——当 AI 智能体真的准备替我们订机票、网购、管钱时,现实世界给它踩了刹车。一边是航空公司和电商平台接连说「不」,一边是三万多个应用被曝「裸奔」,而企业却抢着把智能体请进办公室。能力已经不是问题,信任、安全和规矩,成了 AI 走进生活的新考题。
航空公司说「不」:AI 能查票,不能买票
11 月 11 日,联合航空修改了运输合同,明确禁止第三方 AI 智能体代替乘客订票、改签或办理手续——即便有用户在旁边监督也不行,智能体只能帮忙搜索航班和票价。有意思的是,西南航空的做法相反,允许旅客通过 ChatGPT 搜索航班。电商那边也不客气:eBay 被曝封禁了第三方智能体(包括 Meta 的 Muse)浏览商品页面。
为什么 AI 刚要「接管」钱包就被拦?平台给出的理由很现实:数据泄露风险、意外下单、里程积分被滥用。说白了,AI 会干活,可一旦干砸了,责任算谁的?这个问题目前还没有答案。
三万多个应用「裸奔」:智能体的安全惊魂
比「被拒之门外」更让人捏把汗的,是安全。11 月 10 日,安全公司 Claroc 发现,约 35,578 个 Grok Build 生成的应用无需登录就能打开,其中估计有 650 到 800 个装着商业或个人数据,甚至包括与 SpaceX 相关的应用——分享链接其实并不「私密」。
研究人员还展示了一种更隐蔽的手法:微软团队发现,只要改动一个 AI 智能体不到 10 个「休眠神经元」,就能在隐藏触发词出现时让它听命于攻击者,而且不需要重新训练。通俗讲,就像在大脑里悄悄装了个开关,平时看不出来,一喊暗号就「变节」。这些发现提醒我们:智能体越能干,越需要上把锁。
另一边,企业正抢着把 AI 请进办公室
有意思的是,平台端在踩刹车,企业端却在猛踩油门。美国电信运营商 AT&T 披露,它每天要处理约 450 亿个 AI token,而一年前这个数字还只有 80 亿——客服、网络运维、反欺诈、内部流程全在用。为了控制成本,AT&T 把一部分活儿交给开源和微调的小模型,据称 AI 编码成本降了约 56%,质量只掉 2% 左右。
思科更直接,给每位员工都配了一个 AI 智能体,让它先去找最省钱的模型干活,而不是动用最贵的大模型。IBM 与微软也联手推出了面向企业的智能体平台。可见在内行眼里,智能体早就从「玩具」变成了实实在在的生产力工具。
给 AI 立规矩:从「能干」到「可信」
能力狂飙的同时,规矩也在补位。美国纽约州的 RAISE 法案开始生效,要求大型前沿 AI 开发者公开安全框架、在 72 小时内报告重大事故、定期发布透明度报告,违规最高可罚 100 万美元。模型厂商也在自我分级:谷歌称 Gemini 4 Carbon 对自适应「红队」攻击的拦截率达到 99%,Anthropic 则把模型分成面向大众的 Fable 和仅限审核机构的 Mythos 两档。
这些动作指向同一个趋势:AI 的考题,正在从「能不能做到」变成「该不该让它做、做错了谁负责」。
这一周的 AI 圈,没有惊天动地的新模型刷榜,却可能更值得普通人在意。因为智能体能不能真正走进我们的生活,决定的不只是技术有多强,还有规矩有多稳、底线有多牢。下一次当 AI 想替你按下「确认下单」时,你大概会希望——它既聪明,也靠谱。