欧洲刑警组织警告网络犯罪组织正在使用ChatGPT进行犯罪活动

欧洲刑警组织警告网络犯罪组织可以利用基于人工智能的系统，如ChatGPT。

欧盟警察机构欧洲刑警组织警告说，基于人工智能的系统（例如流行的聊天机器人ChatGPT）可能会被滥用于网络犯罪活动。网络犯罪集团可以在社交工程攻击、虚假信息活动和其他网络犯罪活动（例如开发恶意代码）中使用ChatGPT等聊天机器人。

OpenAI 的 ChatGPT 对正在评估如何使用其巨大功能的网络犯罪组织更具吸引力。

“随着ChatGPT等大型语言模型(LLM)的功能得到积极改进，犯罪分子对这类人工智能系统的潜在利用前景堪忧。”

以下三个犯罪领域是欧洲刑警组织专家确定的众多关注领域之一： 

• 欺诈和社会工程：  ChatGPT起草高度逼真的文本的能力使其成为用于网络钓鱼目的的有用工具。LLM重现语言模式的能力可用于模仿特定个人或群体的讲话风格。这种能力可能会被大规模滥用，以误导潜在受害者将他们的信任交给犯罪分子。
• 虚假信息：ChatGPT 擅长以速度和规模生成真实的发音文本。这使得该模型成为宣传和虚假信息目的的理想选择，因为它允许用户以相对较少的努力生成和传播反映特定叙述的消息。
• 网络犯罪：除了生成类人语言外，ChatGPT还能够生成多种不同编程语言的代码。对于缺乏技术知识的潜在犯罪分子来说，这是生成恶意代码的宝贵资源。 

根据欧洲刑警组织的说法，像ChatGPT这样的技术可以显着加快攻击链的每个阶段。

“因此，ChatGPT可用于在没有先验知识的情况下了解大量潜在的犯罪领域，从如何闯入家庭到恐怖主义、网络犯罪和儿童性虐待。”“欧洲刑警组织与其专家开展的研讨会中出现的已确定用例绝不是详尽无遗的。相反，目的是让人们了解诸如ChatGPT之类的LLM有多么多样化和潜在的危险可能会落入恶意行为者手中。”

聊天机器人也可能被技术知识很少或没有技术知识的威胁行为者滥用，以开展欺诈活动，例如开发恶意代码。

欧洲警方警告称，ChatGPT等生成模型的功能有望得到改善。最新发布的GPT-4相比之前的版本已经有了很大的改进，其能力可以为网络犯罪活动提供更有效的帮助。

“较新的模型更善于理解代码的上下文，以及更正错误消息和修复编程错误。对于缺乏技术知识的潜在罪犯来说，这是一种宝贵的资源。”“与此同时，更高级的用户可以利用这些改进的功能来进一步完善甚至自动化复杂的网络犯罪作案手法。”

该报告强调了让执法界准备好应对可能影响其日常业务的正面和负面人工智能应用的重要性。

本文来源于Lonely Blog -全球网络安全资讯平台, 转载请注明出处： https://blog.wuhao13.xin/5475.html