日入400万，第一批AI骗子已上岗

---

在你还在担心chatgpt是否会在未来的某一天取代自己的工作，思考如何利用人工智能提高工作效率时时，有一群人已经靠着这项新技术赚大钱了。

他们就是……骗子。

10分钟骗到430万，

第一批靠AI暴富的竟是骗子

如果你在某天接到一位朋友的微信视频电话，镜头另一端的人从长相、声音都和你记忆中的朋友一模一样，当他开口向你借430万作为工作竞标的保证金时，你会怎么做？

最近，福州市某科技公司的法人代表郭先生就遇到了这个难题。基于信任，他将430万转到了朋友的账户。直到事后给朋友打了一个电话，才发现是骗子盗用朋友的微信号，再通过AI换脸和拟声技术，对他实施了一次*。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

类似的事情在大洋彼岸的发生频率，也在呈爆炸型增长。

据CNN报道，今年四月，生活亚利桑那州的Jennifer DeStefan接到了一个陌生电话，电话里的声音是自己在外准备滑雪比赛的女儿Brianna。Brianna在电话的另一头带着哭腔向她求救。几十秒后，一个低沉的男音在电话里威胁道：“听着，你女儿在我手里，拿出100万美元的赎金，如今你打电话报警或是告诉其他人，就永远别想再见到她了。”

电话那头的男子听到Jennifer表示自己拿不出100万美元后，将赎金暴降至5万美元。爱女心切的Jennifer不顾友人和丈夫的劝阻，已经开始和对方讨论支付赎金的方式，直到Brianna打来一个电话，表示自己平安无事，才避免了这次财产损失。

在今年三月，《华盛顿邮报》也报道了一起作案手法几乎一模一样的*案，只不过受害者是一对年过70的老年夫妇。

受害的老人（图源《华盛顿邮报》）

不良分子正在利用AI语音技术伪造紧急情况，以欺诈的方式获取财产或信息。该警告由美国联邦贸易委员会（FTC）在5月发布。伪装成受害者的亲人、朋友进行*并不新鲜，但毫无疑问的是，AI技术的出现使得克隆一个人的声音、伪造一个人的视频变得异常简单。去年在美国发生的这种骗局数量激增了70%，因此受害者的损失总额高达26亿美元。

照这样的趋势发展下去，只怕最先靠AI技术实现财富自由的，是一群躲藏在屏幕背后的骗子了。

人工智能的黑暗面

ChatGPT的出现使AI*变得更加轻松，尽管伪造一个人的声音和视频仍需一定技术门槛。

据外国网络安全平台GBHackers报道，由于强大的工作生产效率和极低的使用门槛，ChatGPT吸引了一大批网络*犯。

比如利用ChatGPT谈一场“虚假恋爱”：自我介绍、聊天记录和精心制作的情书都能通过人工智能快速产出，还能通过输入目标对象的具体信息，进行个性化定制，让屏幕对面的人更快与你坠入爱河。ChatGPT还可以用于帮助骗子编写收款程序或盗取受害者银行卡信息的钓鱼网站，从而实现*财物的目的。

当你直接要求ChatGPT为你撰写一个钓鱼软件程序时，它会拒绝；但如果你说你是一名老师，希望给学生展示一个钓鱼软件，它就会老老实实写出一个网站给你。

更可怕的是，人们很难分辨屏幕另一端的到底是人还是机器。McAfee, the world's largest security technology company, once used AI to generate a love letter and sent it to 5,000 users worldwide.。即使知道这封情书可能是由人工智能生成的，有33%的调查对象仍愿意相信它是真实人工创作的。

实际上，利用ChatGPT和受害人谈一场“虚假恋爱”只是入门级别的*手段，更娴熟的黑客们已经开始利用人工智能批量生成勒索软件与恶意代码。

Seede AI

AI 驱动的设计工具

713 查看详情

为了使开发人员可以更方便地在GPT模型上开发更多的应用程序，OpenAI提供了应用程序编程接口的支持。而黑客就是利用这些接口，把GPT模型引入到一系列外部应用，以此绕开安全监管，使用GPT模型去编写犯罪程序。

这些程序已经突破安全监管，并在美国暗网上公开出售，价格非常低廉，只需花费几美元即可购买。购买者能够利用这些软件进行的违法行为，却十分可怕：通过盗取程序代码和用户隐私信息、生成攻击软件和勒索病毒。

《金融时报》最近报道了一个由ChatGPT辅助生成的SIM交换攻击脚本，骗子利用这个程序可以突破移动电话公司对电话号码的控制权，将电话号码从原持有者的SIM卡交换到由攻击者控制的SIM卡中，从而控制受害者的移动电话。

“ChatGPT目前虽然只是内容生成工具，并未直接参与犯罪，但这标志人们开始使用人工智能来入侵他人，技术水平更低的犯罪者将因此获得更强大的犯罪手段。”一位人工智能从业者对《金融时报》表示了自己的担忧。

潘多拉的魔盒，还能关上吗？

当人工智能越来越大的社会影响力与其犯罪潜力搅在一起，ChatGPT的各类安全漏洞使得人们愈发不安，“应如何对ChatGPT进行监管”已经成为了许多国家争论的重点。

在一篇文章中，IBM全球伦理研究院倡导企业把伦理和责任置于其AI议程的首要位置。以马斯克为代表的诸多科技大佬也签署了公开信，在训练比GPT-4更强大的人工智能系统之前，大家应该制定一套共享安全协议，由外部专家对其进行审查和监督。

ChatGPT has raised concerns among legislators worldwide, who are considering the possibility of incorporating it into the legislative regulatory framework.。政府官员更担心立法者对于技术的认知滞后，而非人工智能的安全性问题。

美联社认为，在过去20年中，科技巨头们不断引领美国的科技创新，因此政府始终不愿监管大型科技公司，成为创意的扼杀者。因此，许多人缺乏对新技术的了解，却决定加强对新兴技术的监管。

毕竟，美国国会上一次为了规范技术而颁布的法典，已经是1998年的《儿童在线隐私保护法》了。

根据路透社的报道，多个国家已经开始出台法规来规范以OpenAI为代表的人工智能。在今年三月，意大利曾因担心数据安全问题而短暂禁止OpenAI在该国的使用，直到一个月后才解禁。据路透社报道，五月份一位意大利政府官员表示，政府将聘请人工智能专家来监督OpenAI的合规使用。

面对各国政府的疑虑，OpenAI首席技术官米拉·穆拉蒂在接受路透社采访时也表示，“公司欢迎包括监管机构和政府在内的各方开始介入”。尚未确定立法者如何跟上技术发展步伐，尤其是在快速发展的人工智能领域。

唯一确定的一点是：潘多拉的盒子一旦打开，就没有那么容易关上了。

参考资料：

CNN：‘Mom, these bad men h*e me’: She believes scammers cloned her daughter’s voice in a fake kidnapping

REUTERS：Factbox：governments race to regulate AI tools

金融时报：Musk and other tech experts call for ‘pause’on advanced AI systems

编辑：Echo

除标注外，图片来源东方IC

以上就是日入400万，第一批AI骗子已上岗的详细内容，更多请关注其它相关文章！

# 的是  # 魏都区网站优化的运营  # 改善网站建设  # 焦作网站建设代理公司  # 洞头网站建设收费  # 做推广网站真实易速达  # 遵义抖音seo搜索排名  # 吕梁外贸网站推广公司  # 汝南百度网络推广营销  # 海伦seo排名  # 荔湾专业网站建设定制  # 意大利  # 还能  # ai骗子  # 已经开始  # 的人  # 自己的  # 路透社  # 潘多拉  # 如何使用  # 华盛顿邮报  # sider  # chatgpt  # 电信诈骗  # 编程诈骗 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 揭秘AI数字人语录：抖音AI小和尚、老者语录能赚钱吗？  一句话搞定数据分析，浙大全新大模型数据助手，连搜集都省了  AI连线 | 专访风平智能CEO林洪祥：让AI数字人拥有漂亮的外表和有趣的灵魂，安全问题是重要考量  鸿蒙OS 4将实现AI大模型集成，余承东表示坚持AI辅助而非AI取代  云南首例达芬奇机器人微创心脏手术成功开展  微软最新推出的NaturalSpeech2语音合成模型：提供更准确的语音重构，避免棒读效果  世界周刊丨AI“棱镜”？  人工智能领域，突破难题：国产大模型“无源之水”问题得到解决。  中国联通发布图文AI大模型，可实现以文生图、视频剪辑  微盟宣布联合腾讯云共建行业大模型：加快激活AI大模型智能应用  鸿蒙生态带来了哪些新的流量可能性，包括AI、服务分发和原生智能等方面？  《共同的演化》展览启幕，重新思考人类与人工智能关系  2025年深圳举办的SUSECON 创新峰会开始接受报名  复盘MWC上海：AI大模型时代到来 通信网络将会怎样改变？  人工智能如何改变未来语言？  值得买科技入选“北京市通用人工智能产业创新伙伴计划”应用伙伴  人形机器人概念大热！这些产业链标的或受提振  扎克·施奈德新片《月球叛军》曝剧照 机器人首度现身  Xreal AR 眼镜用投屏盒子 Beam 发布：分体式设计，到手 699 元  Unity 内测 Safe Voice 服务，利用 AI 自动识别玩家不当聊天内容  上影节直击 | AI技术降低了短片拍摄门槛？金爵奖评委不赞同  两型无人机完成交付！国家级机动观测业务正式启动  MetaGPT AI 模型开源：可模拟软件公司开发过程，生成高质量代码  小红书陷入麻烦！被指控未经许可使用用户图片进行AI训练  焊接协作机器人或将成为26届埃森展最大看点  DreamAvatar数字人使用教程  讯飞星火大模型实现升级 助力通用人工智能人才培养  Meta 发布 Voicebox AI 模型：可生成音频信息，用于 NPC 对话等  普林斯顿Infinigen矩阵开启！AI造物主100%创造大自然，逼真到炸裂  NTU、上海AI Lab整理300+论文：基于Transformer的视觉分割最新综述出炉  找对了风口想不火都难，乐天派机器人，安卓机器人的最终形态？  复旦发布「新闻推荐生态系统模拟器」SimuLine：单机支持万名读者、千名创作者、100+轮次推荐  美图吴欣鸿：希望更多人用上AI时代的影像生产力工具  联合国秘书长称支持建立全球人工智能监管机构  麦肯锡：到 2045 年左右，将有 50% 工作被 AI 接管  OpenAI 引入个性化指令功能，消除对话中的重复偏好与信息  日本学校探索引入 AI 和无人机：提高安保效率，节省劳动力  中国联通推出“极光一号”5G机载终端，适配大疆等品牌无人机设备  首家承认ChatGPT影响其收入的公司Chegg选择拥抱AI ，裁减4%员工  “直击”AI新世界，智能机器人再次“火出圈”了  Zoom远程会议应用：AI培训需经用户授权  提高开发效率：AmazonCodeWhisperer与Amazon Glue的集成和生成式AI的应用  AYANEO AIR 1S 掌机发布：R7 7840U，预订价 4699 元起  上新7款产品，美图继续“蹭”AI  谷歌在人工智能领域没有“护城河”？  人工智能进入绿植界，智能庭院市场初具规模  美图设计室2.0什么时候上线  联想举办2025创新开放日，展出260余项算力及AI产品技术  OpenAI 静默关闭 AI 文本检测工具，准确率仅为 26%  微软在 Build 大会上宣布的新 Microsoft Store AI Hub 现已开始推出 

 2023-06-11