提起「杀猪盘」,很多人都恨得牙痒痒。这是一种流行于网络上的电信诈骗方式。诈骗分子准备好人设、交友套路等「猪饲料」,将社交平台称为「猪圈」,在其中寻找被他们称为「猪」的诈骗对象,通过建立恋爱关系,即「养猪」。最后骗取钱财,即「杀猪」。
由于诈骗分子身处海外,这种诈骗案件通常很难破获,受害人的几十万甚至上百万钱财就这么打了水漂,心理也遭受重创。
B 站 up 主 @图灵的猫 表示,最近他也有几位朋友遭遇了杀猪盘。于是,他决定「用魔法打败魔法」:利用一个用 B 站评论训练出的 AI 和骗子聊天,看看 AI 如何与骗子斗智斗勇。最终,他不仅没有损失钱财,反而从骗子手里赚到了 520 块钱红包。
![](https://image.jiqizhixin.com/uploads/editor/1c668fcd-3e09-47c9-8f22-a07b5de40ab2/640.png)
视频地址:https://www.bilibili.com/video/BV1qD4y1h7io/
为了让骗子上钩,作者在多个社交平台注册了账号,并根据公安部和反诈中心发布的受害者画像,为账号定位了单身、多金、高学历乖乖女等身份标签。这样的人设让他收获了大量私信。
为了精准地识别出骗子,避免误伤普通人,只有满足以下条件的人才会进入与 AI 聊天的环节:
![](https://image.jiqizhixin.com/uploads/editor/62de181e-2d98-4d8b-971c-7d162320c579/640.png)
最终,有 5 位嫌疑人「脱颖而出」。作者展示了 AI 与其中一位嫌疑人的对话。
第一天的对话以「摸清家底」为主,嫌疑人和 AI 都向对方展示了自己的财力。其间,AI 爆梗频出,连「北京爷吉祥」、「师傅,你是做什么工作的」这种梗都知道。最后,嫌疑人玩了一招欲擒故纵,以「主持公司会议」为由结束了对话。
![](https://image.jiqizhixin.com/uploads/editor/1f8fd65b-ffbc-47ac-9887-ae2a0e3a6423/640.png)
第二天,嫌疑人开启了套近乎模式,利用从朋友圈找到的蛛丝马迹找共同话题,双方从养猫聊到《了不起的盖茨比》,又聊到哲学。
![](https://image.jiqizhixin.com/uploads/editor/118fe455-eaf0-429b-8376-9c83b6be9c64/640.png)
对于这些话题,AI 大部分都能接住,但偶尔也会露出马脚,比如在谈到《了不起的盖茨比》时会机械地给出百科信息。不过,嫌疑人似乎并没有深究这些破绽。
第四天,嫌疑人开始把话题往恋爱方向引,企图确立关系。这时,爆点来了:由于嫌疑人的一句话触发了关键词「只因」,AI 直接抛出了爆梗——「小黑子,露出鸡脚了吧」。
![](https://image.jiqizhixin.com/uploads/editor/4106dc4d-657b-41a8-8b49-5207cc8d1db2/640.png)
然而,嫌疑人还是没有怀疑……
![](https://image.jiqizhixin.com/uploads/editor/f0d853e8-aa5c-48bb-9144-62441ccd37de/640.png)
就这么聊了三周之后,嫌疑人放出了大招:给红包。对此,AI 欣然收下并客套了几句。
![](https://image.jiqizhixin.com/uploads/editor/b4c60ad7-9557-4c17-a20b-3db8f48cf9c4/640.png)
但当嫌疑人装可怜,想从 AI 这里得到些关心时,AI 的回应显得有些无厘头。
![](https://image.jiqizhixin.com/uploads/editor/07c96aca-cace-4c50-8335-d4377e7cdae0/640.png)
不过,嫌疑人还是没有起疑,而是继续秀人设,而 AI 则是继续用梗聊天。
![](https://image.jiqizhixin.com/uploads/editor/769bd6ce-4cb6-4e4b-b32e-84c43b27fa29/640.png)
最终,图穷匕见,嫌疑人开始假装困难,企图骗 AI 投钱。
![](https://image.jiqizhixin.com/uploads/editor/2c4076c6-18c0-4de1-a962-06f9c93326a2/640.png)
在 AI 坚持说自己没钱的过程中,嫌疑人还会使出各种手段。
![](https://image.jiqizhixin.com/uploads/editor/8b3d7bb0-4a3f-415b-bfc7-db11a5cc5c77/640.png)
在发现骗术无法得逞之后,嫌疑人还企图让 AI 删除聊天记录,以增加警察办案的难度。
![](https://image.jiqizhixin.com/uploads/editor/41493da1-f254-4776-9b64-1c52f10cbd5a/640.png)
最终,嫌疑人破防,拒收 AI 的所有信息,对话到此结束。
当然,这种用魔法打败魔法的事情之前也发生过。此前,小米手机上的小爱同学因为接诈骗电话上过热搜,在 MIUI 内置设有 AI 通话功能,在通话设置选项里开启防骚扰后,若骚扰电话被记录黄页且该骚扰电话打进来时,小爱同学会自动帮机主接听,有时候还能帮你跟骗子聊上好几分钟。
用 AI 接骚扰电话看起来就是此类问题的最终解决方法,只不过事物的发展讲究一个螺旋上升,后来骚扰电话一方也用上了 AI,变成了 AI 对打,再后来大模型来了,双方的互动变得更加精彩。这个爆梗频出的 AI,背后也是由大模型来支撑的。
与骗子斗智斗勇的 AI,背后是如何做到的?
该 AI 是基于源 1.0,其是浪潮人工智能研究院推出的一款中文巨量语言模型,具有 2457 亿参数,包含全球最大的中文数据集——5.02TB。源 1.0 可以完成多项任务,包括对话、续写故事,新闻生成…… 最主要的是,它是开源的。
![](https://image.jiqizhixin.com/uploads/editor/fb9225a0-0b25-4eda-9760-4bd77d72c5b5/640.png)
地址:https://air.inspur.com/
模型搞定了,图灵的猫又面临一个新问题。由于微信聊天是多轮对话形式,而对于 AI 来说,它们往往不记得自己或对方上一句说了什么,聊起天来前言不搭后语的,很容易让人怀疑对方是不是真人。
为了解决这一问题,图灵的猫表示他参考了序列模型中 LSTM 思想,为系统增加了记忆机制,这样一来 AI 能够实现简单的长短期对话记忆,比如昨天聊过的内容、上一轮聊过的内容,AI 都会进行参考。
![](https://image.jiqizhixin.com/uploads/editor/d1e38490-ab00-436c-a173-6096f2c1772a/640.png)
此外,为了让 AI 说出的话更像真人,图灵的猫还加入了一种基于 Prompt Example 的先验规则,引导 AI 来针对性地学习如何交流,尤其是在给定诈骗场景的任务下。
![](https://image.jiqizhixin.com/uploads/editor/45115f29-b555-4ec7-a068-fbd50ab3b7e0/640.png)
其中 example 语料主要抽取自 B 站和贴吧的热门评论,这样一来,AI 可以学习网友的金句和梗,使得在双方对话过程中没有那么生硬。
![](https://image.jiqizhixin.com/uploads/editor/fc2c44a6-c93c-4913-9637-b04a4df6d815/640.png)
最后,图灵的猫使用开源的 Wechaty 框架在云上搭建后端,基于本地的 python 脚本调用 puppet 服务,让 AI 无缝接入微信。只要登录预先注册好的微信号,AI 就可以回复任意私聊或群聊了。
![](https://image.jiqizhixin.com/uploads/editor/7ef84926-82f1-4a8d-8104-b427e6d30ee7/640.png)
在这当中,为了保证 AI 足够拟人,图灵的猫还是花了一点心思,做了很多小技巧。比如让这个 AI 发布以假乱真的朋友圈;对每条信息的回复设置一下间隔;模拟人类真实的打字速度;会用一些聊天表情替换文字(还不支持表情包);当对方一口气说了很多话时,AI 会进行连续语句拼接,读取成一句话,然后进行回复。一番优化下来,这个 AI 反手从骗子手里赚回 520 块钱。
![](https://image.jiqizhixin.com/uploads/editor/5b29d7ed-5877-4beb-a8f4-7daa1af754bd/640.png)
不过骗子转给 AI 的钱,图灵的猫已经捐了出去。
目前这套代码已开源:https://github.com/Turing-Project/AntiFraudChatBot
网友评论
对于这一 AI,网友表示:「感觉我要是在对面还真不一定反应得过来。」
![](https://image.jiqizhixin.com/uploads/editor/53281eaa-e700-4f75-b0ce-957e1483e78d/640.png)
还有网友建议,可以让这个 AI 去小红书、知乎还有微博上进行基本学习,这个 AI 的贴吧成分太过浓厚。
![](https://image.jiqizhixin.com/uploads/editor/fcf09ad6-7718-4539-b4db-846ff4f37c67/640.png)
对于骗子被骗这事,看过聊天过程的网友表示,假如这个 AI 和普通人聊天肯定会被认出来,但是对面杀猪盘管不了那么多,毕竟有业绩就行。
![](https://image.jiqizhixin.com/uploads/editor/8cd780af-d44b-4ed5-9dda-1b57f8a56751/640.png)
正如稚晖君所说的:「也许未来让骗子失业的正是 AI。」
![](https://image.jiqizhixin.com/uploads/editor/d555db78-a076-4790-a351-6109f7066679/640.png)
不管 AI 发展到何种程度,还是这句话:诈骗手段花样多,不听不信不转账!