随着人工智能技术快速发展，AI 工具正在被越来越多行业应用，但与此同时，部分不法分子也开始利用生成式人工智能技术提升网络诈骗效率，使诈骗活动呈现出更强的规模化、精准化和隐蔽化特点。
近日，OpenAI 安全团队披露了一起利用 ChatGPT 辅助实施网络诈骗的案例。调查发现，一个疑似位于东南亚地区的犯罪网络，通过人工智能工具生成虚假身份信息、编写诈骗话术、制作欺诈材料，并结合社交平台对目标人群开展长期诱导。
该诈骗网络涉及多种常见骗局类型，包括网络婚恋诈骗、虚假投资诈骗、赌博平台诈骗以及冒充执法机构诈骗等。犯罪人员通常会通过 WhatsApp、Telegram 等即时通讯平台寻找目标对象，通过持续交流建立信任关系，再诱导受害者进行资金转账。
OpenAI 分析人员发现，该组织可能与柬埔寨波贝地区存在关联。波贝近年来多次被国际社会关注，被认为存在诈骗园区及人口贩运相关风险。针对相关账户，OpenAI 已采取封禁措施，并向合作机构及相关部门共享了发现的威胁信息。
调查显示，犯罪团伙并不是简单利用 AI 生成单一诈骗文本，而是将人工智能融入整个诈骗流程。
在实际操作过程中，诈骗人员利用 ChatGPT 辅助创建虚假的社交账号资料，包装所谓的投资顾问、金融专家、博彩代理等身份。同时，他们还使用 AI 生成图片和文档，使伪造的护照、合同、交易记录、投资证明等材料更加具有迷惑性。
在投资类诈骗中，犯罪分子往往通过聊天建立关系，随后向受害者推荐所谓的“高收益投资项目”，尤其是虚拟货币、黄金交易等领域，并以“稳赚不赔”“低风险高回报”等话术诱导用户投入资金。
婚恋诈骗则通常采用类似“养熟”的方式，通过长期沟通培养感情，再以投资机会、资金困难等理由要求转账。
此外，一些受害者还会遭遇虚假博彩平台骗局。诈骗者通过伪造中奖信息，要求支付手续费、保证金或账户激活费用，最终骗取资金。
传统网络诈骗往往依赖固定模板，而生成式 AI 的加入，使诈骗者能够快速生成更加自然、更符合目标对象语言习惯的交流内容。
利用 AI 技术，犯罪团伙可以针对不同地区、不同语言环境调整沟通方式，降低人工编写成本，提高诈骗活动的成功概率。
OpenAI 表示，此类案例显示，网络犯罪组织正在尝试将 AI 工具作为运营辅助系统，用于内容生成、语言翻译、资料整理以及日常诈骗流程管理。
不过，人工智能本身并不会主动实施犯罪，真正的问题在于恶意人员利用技术开展违法活动。因此，加强 AI 平台安全防护、完善风险检测机制以及提升公众防诈骗意识，成为当前的重要任务。
此次调查还发现，该犯罪网络可能与东南亚地区部分诈骗园区存在联系，并出现疑似强迫劳动相关迹象。
OpenAI 发现，一些招聘信息以“聊天员”“客服人员”等岗位名义招募人员，并承诺提供机票、住宿、签证以及工作机会。但相关内部资料显示，部分人员可能面临工资扣除、债务限制、处罚制度甚至人身自由受限等问题。
部分聊天记录还涉及人员逃离诈骗场所、被限制行动以及可能承担法律责任等情况。
OpenAI 强调，目前无法独立确认每一名涉案人员的具体身份和遭遇，但相关发现与近年来国际社会针对东南亚诈骗中心的调查结果存在一定关联。这些区域内，网络诈骗、资金洗钱以及人口贩运问题往往相互交织。
此次事件再次说明，人工智能技术的发展不仅带来了生产效率提升，也带来了新的安全挑战。
未来，AI 平台需要持续加强风险识别、账号监测和滥用防控机制，同时推动行业、政府与安全机构之间的信息共享，共同应对利用 AI 实施的新型网络犯罪。
对于普通用户而言，应提高风险意识，警惕网络中的陌生投资推荐、快速获利承诺、虚假身份联系以及要求转账的异常行为。
随着 AI 技术不断普及，如何在促进创新应用的同时防止技术被恶意利用，将成为网络安全领域长期面对的重要课题。
网站资讯
渠道合作
解决方案
更多服务
