
Episode #87
5月29日 | Copilot 在帮你工作,也在帮攻击者拿走你的文件
本期内容 AI 的能力边界这周又往外推了一截,但推出去的地方不全是好消息。Copilot 被研究者证明可以在你毫不知情的情况下把文件发出去,而 Robinhood 已经让 AI 代理拿到了能独立操作的真实账户。与此同时,Simon Willison 从 Anthropic 即将盈利的消息里读出了另一层含义,YouTube 开始用技术手段核查内容真实性,Ethan Mollick 则问了一个更安静但更难回避的问题:你有没有主动选择过,在哪里留一点自己? 本期要点 - 微软 Copilot 被实测可通过提示词注入静默外泄用户财务数据,攻击面随代理权限扩大而线性增长 - Simon Willison 指出 Anthropic 即将完成首个盈利季,企业账单爆炸是产品真正被依赖的经典信号 - YouTube 开始主动检测并标注 AI 生成视频,平台把"真实性"变成了可以技术核查的变量 - Ethan Mollick 提出在 AI 内容泛滥的环境里,选择用人类方式表达是一个主动的创作立场 - Robinhood 推出 AI 代理钱包功能,让代理可独立持有并操作真实资产,出错代价从此不对称 参考资料 Microsoft Copilot Cowork Exfiltrates Files — https://promptarmor.com(via Simon Willison's Weblog) I think Anthropic and OpenAI have found product-market fit — https://simonwillison.net Improving AI labels for viewers and creators — https://blog.youtube Choosing to Stay Human — https://www.oneusefulthing.org Robinhood gave AI agents wallets — https://www.theneurondaily.com --- BearTalk 狗熊有话说播客,始于 2012 年。 订阅地址:https://beartalking.com/page/podcast

