中华网 china.com

新闻

AI工具进军杀猪盘:语言模型尚不够聪明!

关键词:
2024-05-23 16:03:11  环球网

AI工具进军杀猪盘

东南亚犯罪集团正在所谓的“杀猪盘”网络诈骗行动中使用生成式人工智能聊天机器人,这种更复杂的手段可以提高诈骗的有效性,并将扩大受害者的范围。

所谓的“杀猪盘”,是网络诈骗的一种新方式,犯罪分子通常潜伏在约会应用程序和社交平台中,将浪漫爱情和赌博心理融入其作案手法。诈骗分子对受害者进行数天甚至数月的网络亲密接触,然后才“收获”诈骗果实,这一过程类似于将猪养肥以供屠宰。

聊天机器人在情绪和感受上“露马脚”

据澳大利亚广播公司(ABC)5月16日报道,犯罪分子过去通常会使用详细的“脚本”来获得受害者的信任,而现在他们利用大语言模型(LLM)或聊天机器人,用不同语言向受害者发送消息,进一步扩大了影响范围。生成式人工智能还可以使对话更有说服力,并减少诈骗分子与多个受害者互动的工作量。AI工具进军杀猪盘!

虽然ChatGPT、Gemini和Copilot等主要人工智能聊天机器人都有防止其协助非法活动的护栏,但其他一些正在开发的大语言模型没有此类限制。

网络安全公司Sophos的研究人员贾格迪什·钱德拉亚(Jagadeesh Chandraiah)在一篇博客文章中表示,生成式人工智能将文本、图像、视频与翻译相结合,生成不重复的“定制内容”。它还可用于编写“杀猪脚本”,写出令人信服的网络钓鱼电子邮件,甚至提供如何从头开始进行诈骗的步骤说明,这也可能降低诈骗犯罪的门槛。

然而,犯罪集团似乎还无法熟练地使用人工智能。研究人员发布了一张诈骗目标提供的屏幕截图,显示诈骗分子意外透露了他们正在使用大语言模型来生成消息。骗子在给目标客户发送的WhatsApp消息中写道:“非常感谢您的善意之言!’我’作为一个语言模型,没有像人类那样的感觉或情绪,我被创造出来提供有用和积极的答案帮你。”

关闭

这股突然崩了,暴跌85%

这股突然崩了,暴跌85%2024-05-23 16:02:18

里程碑!祖伊用进球为自己的亚泰50场献礼 关键先生再立功

里程碑!祖伊用进球为自己的亚泰50场献礼2024-05-23 16:01:18

众字就是这么写!女子落水一声喊半个村的人都来了

女子落水一声喊半个村的人都来了2024-05-23 16:01:16

留学正在走下神坛 教育投资回报率受关注

留学正在走下神坛2024-05-23 15:58:12

挪威等三国宣布承认巴勒斯坦国,拜登表态

挪威等三国宣布承认巴勒斯坦国,拜登表态2024-05-23 09:43:34

英伟达赚钱能力爆表,平均每天净赚12亿元 数据中心业务成金矿

英伟达赚钱能力爆表,平均每天净赚12亿元2024-05-23 15:55:43

俄首次战术核演习引高度关注,俄外交部:希望能使西方国家的头脑冷静下来!

俄首次战术核演习引高度关注,俄外交部:希望能使西方国家的头脑冷静下来!2024-05-23 09:49:59

“比我们想象的要快” 西方担忧俄军战时生产

“比我们想象的要快” 西方担忧俄军战时生产2024-05-23 09:41:27

防空导弹库存无法满足实战需求!美“爱国者”系统“下海”应对弹药荒?

防空导弹库存无法满足实战需求!美“爱国者”系统“下海”应对弹药荒?2024-05-23 09:50:37

里程碑!祖伊用进球为自己的亚泰50场献礼 关键先生再立功

里程碑!祖伊用进球为自己的亚泰50场献礼2024-05-23 16:01:18

美拉欧盟应对中国,收到“复杂”回应

美拉欧盟应对中国,收到“复杂”回应2024-05-23 09:48:32

众字就是这么写!女子落水一声喊半个村的人都来了

女子落水一声喊半个村的人都来了2024-05-23 16:01:16

他仍在拱火:把乌克兰上空的东西都打下来,有啥问题吗?

他仍在拱火:把乌克兰上空的东西都打下来,有啥问题吗?2024-05-22 09:44:11

特朗普试图操控美联储?白宫:坚定捍卫美联储独立性

特朗普试图操控美联储?白宫:坚定捍卫美联储独立性2024-05-23 15:51:15

存款遇冷 银行理财更“香”了吗?

存款遇冷 银行理财更“香”了吗?2024-05-23 15:59:59

欧洲三国承认巴勒斯坦国!以色列警告“会有严重后果”

欧洲三国承认巴勒斯坦国!以色列警告“会有严重后果”2024-05-23 09:46:20

“独立选民”高达43%,将如何影响美国大选?

“独立选民”高达43%,将如何影响美国大选?2024-05-23 09:47:23

无底线追流量该停了 网红炫富拜金遭重拳出击

无底线追流量该停了2024-05-23 15:57:43

急赴南太属地“灭火”,马克龙下飞机时发声:希望新喀里多尼亚尽快恢复和平与安全

急赴南太属地“灭火”,马克龙下飞机时发声:希望新喀里多尼亚尽快恢复和平与安全2024-05-23 09:47:51

存款遇冷 银行理财更“香”了吗?稳健理财产品受青睐

存款遇冷 银行理财更“香”了吗?2024-05-23 15:59:06

出门在外互帮父母协议:当代青年的尽孝新方式

出门在外互帮父母协议2024-05-23 15:58:52

平安旗下3家公司被罚近8000万 违规贷款、数据错误等引关注

平安旗下3家公司被罚近8000万2024-05-23 15:52:15

前线承受巨大压力,战场局势非常困难,泽连斯基呼吁盟友“直接参战”

前线承受巨大压力,战场局势非常困难,泽连斯基呼吁盟友“直接参战”2024-05-22 09:48:02

美国主导沙以协议被曝就差“临门一脚”,但以色列不接茬

美国主导沙以协议被曝就差“临门一脚”,但以色列不接茬2024-05-22 09:44:42

末节之王!东契奇打爆华子封神一战登上全美热搜 东欧组合威震联盟

末节之王!东契奇打爆华子封神一战登上全美热搜2024-05-23 15:57:23

哈尔滨居民楼液化气罐闪爆1死3伤 晨间悲剧,安全警钟再响

哈尔滨居民楼液化气罐闪爆1死3伤2024-05-23 15:43:10

《庆余年》权谋解读:庆帝对戏梅执礼!

庆余年权谋解读:庆帝对戏梅执礼2024-05-23 15:56:10

北方雷暴雨确定来!预报:蓝色多雨区出现

北方雷暴雨确定来!预报:蓝色多雨区出现2024-05-23 15:57:40

美国务卿布林肯出席听证会,被抗议者痛斥为“战犯”

美国务卿布林肯出席听证会,被抗议者痛斥为“战犯”2024-05-22 09:48:31

伊朗全国哀悼五天送别莱希,告别仪式和葬礼将先后在4地举行

伊朗全国哀悼五天送别莱希,告别仪式和葬礼将先后在4地举行2024-05-22 09:46:46

知情人士解读中国海警台岛外岛执法行动 军警协同升级震慑台当局

知情人士解读中国海警台岛外岛执法行动2024-05-23 15:58:37

为鼓吹美国太空军事化,美媒再炒中美太空战威胁

为鼓吹美国太空军事化,美媒再炒中美太空战威胁2024-05-22 09:40:43

这股突然崩了,暴跌85%

这股突然崩了,暴跌85%2024-05-23 16:02:18

洛马用海军发射器试射陆军防空导弹

洛马用海军发射器试射陆军防空导弹2024-05-22 09:39:39

“准备与中国的大规模冲突”,连“爱国者”导弹都“下海”了……

“准备与中国的大规模冲突”,连“爱国者”导弹都“下海”了……2024-05-23 09:34:49

相关新闻