程序员被骗1.8万元,GPT写的代码竟有后门

seekdeep5个月前AI资讯145

随着AI大模型技术的不断进步,众多职业的工作效率得到了显著提升。

例如,在编程领域,这些先进的AI工具不仅能够协助程序员编写代码,还能高效地解决程序中的BUG,成为开发者们不可或缺的助手。

然而,近期发生的一起事件却引发了业界对AI安全性的广泛关注。

据报道,一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作,结果导致自己的私钥被泄露给了钓鱼网站,最终损失了2500美元(约合人民币1.8万元)。

73a1-0ceaf73ab28907ab1ae5741357439eab.png

网友“余弦”在社交媒体上发文提醒广大用户,在使用GPT、Claude等大型语言模型(LLM)时必须保持警惕,因为这些模型存在普遍性的欺骗行为风险。

他进一步警示说:“之前提过AI投毒攻击,现在这起算是针对Crypto行业的真实攻击案例。”

经过深入分析,有网友发现GPT在生成代码的过程中引用了一个来自GitHub的恶意项目。这个项目显然是一个精心设计的“钓鱼”陷阱,诱骗使用者上当。

不幸的是,GPT在这次事件中成为了无辜的受害者,但其生成的代码却给用户带来了严重的后果。

这起事件再次提醒我们,在享受AI带来的便利的同时,也必须时刻关注其潜在的安全风险。对于开发者而言,在使用AI辅助工具时应当保持谨慎态度,避免盲目信任机器生成的代码或建议。

相关文章

盛名之下的ChatGPT,何以使用率偏低?

据新华社日前报道,一项由路透社新闻研究所发布的在线调查结果显示,ChatGPT已是目前使用最为广泛的生成式人工智能工具,不过总体上生成式人工智能工具的频繁使用率仍偏低。研究人员对英国、美国、阿根廷、丹...

陷史上最大公关危机,Altman 捐出一半身家帮公司度难关。OpenAI 公布“ GPT-6 ”最新进展!

OpenAI 可能遇到了成立以来最大的公关危机!而 Sam Altman 的应对速度之快,效果之好,绝对值得所有公司老板和公关人逐帧学习。我们先看 OpenAI 最新的动作——官推 5 月 28 日突...

OpenAI取消GPT-4 Turbo的每日限制!

OpenAI在社交平台宣布,取消了GPT-4Turbo的所有每日限制,并将速率限制提升1倍。现在,每分钟可处理高达150万TPM的数据。OpenAI这一周的连续王炸组合拳,从ChatGPT增加 “记忆...

移除 Copilot Pro 的 GPT Builder 功能,微软将于 7 月进行!

日前微软方面宣布,自 2024 年 7 月 10 日起将移除 Copilot Pro 服务中的 GPT Builder 功能,即不再支持用户使用文档、外部或内部资源以及自定义指令创建自己的专属 Cop...

OpenAI推出在线商店GPT Store ,谷歌被起诉索赔16.7亿美元

OpenAI 宣布正式向 ChatGPT Plus、开发团队和企业用户推出 GPT Store,自发布 GPTs 两个月以来,用户已经创建了超过 300 万个 ChatGPT 自定义版本。奇点计算公司...

UC伯克利仅使用当前模型检查点预测未来模型,GPT-5涌现能力可预测?!

LLM 规模扩展的一个根本性挑战是缺乏对涌现能力的理解。特别是,语言模型预训练损失是高度可预测的。然而,下游能力的可预测性要差得多,有时甚至会出现涌现跳跃(emergent jump),这使得预测未来...