Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

编辑张倩 陈萍

杀猪盘被AI大模型套路,倒贴520块钱,骗子破大防

一个爆梗频出的 AI,让骗子破了大防。

提起「杀猪盘」,很多人都恨得牙痒痒。这是一种流行于网络上的电信诈骗方式。诈骗分子准备好人设、交友套路等「猪饲料」,将社交平台称为「猪圈」,在其中寻找被他们称为「猪」的诈骗对象,通过建立恋爱关系,即「养猪」。最后骗取钱财,即「杀猪」。

由于诈骗分子身处海外,这种诈骗案件通常很难破获,受害人的几十万甚至上百万钱财就这么打了水漂,心理也遭受重创。

B 站 up 主 @图灵的猫 表示,最近他也有几位朋友遭遇了杀猪盘。于是,他决定「用魔法打败魔法」:利用一个用 B 站评论训练出的 AI 和骗子聊天,看看 AI 如何与骗子斗智斗勇。最终,他不仅没有损失钱财,反而从骗子手里赚到了 520 块钱红包。

视频地址:https://www.bilibili.com/video/BV1qD4y1h7io/

为了让骗子上钩,作者在多个社交平台注册了账号,并根据公安部和反诈中心发布的受害者画像,为账号定位了单身、多金、高学历乖乖女等身份标签。这样的人设让他收获了大量私信。

为了精准地识别出骗子,避免误伤普通人,只有满足以下条件的人才会进入与 AI 聊天的环节:

最终,有 5 位嫌疑人「脱颖而出」。作者展示了 AI 与其中一位嫌疑人的对话。

第一天的对话以「摸清家底」为主,嫌疑人和 AI 都向对方展示了自己的财力。其间,AI 爆梗频出,连「北京爷吉祥」、「师傅,你是做什么工作的」这种梗都知道。最后,嫌疑人玩了一招欲擒故纵,以「主持公司会议」为由结束了对话。

第二天,嫌疑人开启了套近乎模式,利用从朋友圈找到的蛛丝马迹找共同话题,双方从养猫聊到《了不起的盖茨比》,又聊到哲学。

对于这些话题,AI 大部分都能接住,但偶尔也会露出马脚,比如在谈到《了不起的盖茨比》时会机械地给出百科信息。不过,嫌疑人似乎并没有深究这些破绽。

第四天,嫌疑人开始把话题往恋爱方向引,企图确立关系。这时,爆点来了:由于嫌疑人的一句话触发了关键词「只因」,AI 直接抛出了爆梗——「小黑子,露出鸡脚了吧」。

然而,嫌疑人还是没有怀疑……

就这么聊了三周之后,嫌疑人放出了大招:给红包。对此,AI 欣然收下并客套了几句。

但当嫌疑人装可怜,想从 AI 这里得到些关心时,AI 的回应显得有些无厘头。

不过,嫌疑人还是没有起疑,而是继续秀人设,而 AI 则是继续用梗聊天。

最终,图穷匕见,嫌疑人开始假装困难,企图骗 AI 投钱。

在 AI 坚持说自己没钱的过程中,嫌疑人还会使出各种手段。

在发现骗术无法得逞之后,嫌疑人还企图让 AI 删除聊天记录,以增加警察办案的难度。

最终,嫌疑人破防,拒收 AI 的所有信息,对话到此结束。

当然,这种用魔法打败魔法的事情之前也发生过。此前,小米手机上的小爱同学因为接诈骗电话上过热搜,在 MIUI 内置设有 AI 通话功能,在通话设置选项里开启防骚扰后,若骚扰电话被记录黄页且该骚扰电话打进来时,小爱同学会自动帮机主接听,有时候还能帮你跟骗子聊上好几分钟。

用 AI 接骚扰电话看起来就是此类问题的最终解决方法,只不过事物的发展讲究一个螺旋上升,后来骚扰电话一方也用上了 AI,变成了 AI 对打,再后来大模型来了,双方的互动变得更加精彩。这个爆梗频出的 AI,背后也是由大模型来支撑的。

与骗子斗智斗勇的 AI,背后是如何做到的?

该 AI 是基于源 1.0,其是浪潮人工智能研究院推出的一款中文巨量语言模型,具有 2457 亿参数,包含全球最大的中文数据集——5.02TB。源 1.0 可以完成多项任务,包括对话、续写故事,新闻生成…… 最主要的是,它是开源的。

地址:https://air.inspur.com/

模型搞定了,图灵的猫又面临一个新问题。由于微信聊天是多轮对话形式,而对于 AI 来说,它们往往不记得自己或对方上一句说了什么,聊起天来前言不搭后语的,很容易让人怀疑对方是不是真人。

为了解决这一问题,图灵的猫表示他参考了序列模型中 LSTM 思想,为系统增加了记忆机制,这样一来 AI 能够实现简单的长短期对话记忆,比如昨天聊过的内容、上一轮聊过的内容,AI 都会进行参考。

此外,为了让 AI 说出的话更像真人,图灵的猫还加入了一种基于 Prompt Example 的先验规则,引导 AI 来针对性地学习如何交流,尤其是在给定诈骗场景的任务下。

其中 example 语料主要抽取自 B 站和贴吧的热门评论,这样一来,AI 可以学习网友的金句和梗,使得在双方对话过程中没有那么生硬。

最后,图灵的猫使用开源的 Wechaty 框架在云上搭建后端,基于本地的 python 脚本调用 puppet 服务,让 AI 无缝接入微信。只要登录预先注册好的微信号,AI 就可以回复任意私聊或群聊了。

在这当中,为了保证 AI 足够拟人,图灵的猫还是花了一点心思,做了很多小技巧。比如让这个 AI 发布以假乱真的朋友圈;对每条信息的回复设置一下间隔;模拟人类真实的打字速度;会用一些聊天表情替换文字(还不支持表情包);当对方一口气说了很多话时,AI 会进行连续语句拼接,读取成一句话,然后进行回复。一番优化下来,这个 AI 反手从骗子手里赚回 520 块钱。

不过骗子转给 AI 的钱,图灵的猫已经捐了出去。

目前这套代码已开源:https://github.com/Turing-Project/AntiFraudChatBot

网友评论

对于这一 AI,网友表示:「感觉我要是在对面还真不一定反应得过来。」

还有网友建议,可以让这个 AI 去小红书、知乎还有微博上进行基本学习,这个 AI 的贴吧成分太过浓厚。

对于骗子被骗这事,看过聊天过程的网友表示,假如这个 AI 和普通人聊天肯定会被认出来,但是对面杀猪盘管不了那么多,毕竟有业绩就行。

正如稚晖君所说的:「也许未来让骗子失业的正是 AI。」

不管 AI 发展到何种程度,还是这句话:诈骗手段花样多,不听不信不转账!

入门自然语言处理
暂无评论
暂无评论~