近期黑客正在积极利用 ChatGPT 和 Claude 等流行的人工智能工具进行钓鱼，黑客选择这些工具是因为搜索量高且可以通过插件或内容共享等方式复用官方域名，至少对大多数用户而言直接从Google搜索结果的置顶广告里看不出来这是钓鱼网站，因此黑客的钓鱼成功率要显著更高。
恶意利用插件功能进行钓鱼：
ChatGPT Canvas 功能可以用来创建类似网页的画布，在最新被发现的钓鱼活动中黑客就是利用这个功能创建仿冒的 ChatGPT 官方网站，在画布里黑客称当前访问量太高要求用户下载桌面版继续访问，而这个桌面版下载按钮其实指向黑客提供的恶意安装包。
这种钓鱼方式有多种显著特点：1. 黑客使用 ChatGPT 画布创建内容并分享，因此内容链接依然是 ChatGPT.com；2. 黑客在Google搜索里投放广告，广告显示的地址也是 ChatGPT.com，这可以降低用户的戒备心；3. 用户点击广告进入落地页后地址栏也依然显示的是 ChatGPT.com，而且这个网站是不会被安全软件拦截的。
对 OpenAI 来说也不太可能对用户创建的内容进行分享审核，所以未来此类钓鱼攻击应该会显著增加，对用户而言直接安装广告拦截扩展程序将Google搜索或其他搜索引擎的广告屏蔽可能是不错的选择。
Claude 中也有类似钓鱼案例：
此前已经有用户注意到 Claude 相关的钓鱼网站也出现在Google搜索广告里，其钓鱼手法与 ChatGPT 案例类似，也是利用 Claude.Ai 的内容分享功能，黑客首先利用 Claude 创建恶意对话，里面包含指向黑客控制的钓鱼网站或恶意软件下载链接，黑客提前制作针对多种热门软件的内容分享，例如当用户搜索 CPU-Z 时首页置顶广告就会引导用户跳转到 Claude.Ai 的分享内容，然后再诱导用户点击链接下载恶意软件。
Anthropic 显然也不会对用户分享的内容进行审核，所以这种钓鱼方式其实很难彻底斩断，这也是为什么说直接屏蔽各种搜索引擎广告可能是最佳做法的原因。
via Jan