程序员被骗1.8万元,GPT写的代码竟有后门

seekdeep1年前AI资讯367

随着AI大模型技术的不断进步,众多职业的工作效率得到了显著提升。

例如,在编程领域,这些先进的AI工具不仅能够协助程序员编写代码,还能高效地解决程序中的BUG,成为开发者们不可或缺的助手。

然而,近期发生的一起事件却引发了业界对AI安全性的广泛关注。

据报道,一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作,结果导致自己的私钥被泄露给了钓鱼网站,最终损失了2500美元(约合人民币1.8万元)。

73a1-0ceaf73ab28907ab1ae5741357439eab.png

网友“余弦”在社交媒体上发文提醒广大用户,在使用GPT、Claude等大型语言模型(LLM)时必须保持警惕,因为这些模型存在普遍性的欺骗行为风险。

他进一步警示说:“之前提过AI投毒攻击,现在这起算是针对Crypto行业的真实攻击案例。”

经过深入分析,有网友发现GPT在生成代码的过程中引用了一个来自GitHub的恶意项目。这个项目显然是一个精心设计的“钓鱼”陷阱,诱骗使用者上当。

不幸的是,GPT在这次事件中成为了无辜的受害者,但其生成的代码却给用户带来了严重的后果。

这起事件再次提醒我们,在享受AI带来的便利的同时,也必须时刻关注其潜在的安全风险。对于开发者而言,在使用AI辅助工具时应当保持谨慎态度,避免盲目信任机器生成的代码或建议。

相关文章

ChatGPT:官方终于给出答案,神秘名字“David Mayer”搞崩的原因!

近日,聊天机器人 ChatGPT 在面对一个名字时出现了奇怪的故障,无论用户如何尝试,都无法让 ChatGPT 说出 "David Mayer" 这个名字。不管用户怎么修改提示词,...

是数据不够,还是能力太强?ChatGPT-5为何按下“暂停键”。

是数据不够,还是能力太强?ChatGPT-5为何按下“暂停键”。

关于ChatGPT-5的发布延迟,行业内外的猜测可谓五花八门。人们不仅期待新一代模型的问世,也在揣测它背后的迟滞原因。是数据量不足的技术困局,当前数据量的增长遇到了瓶颈?还是AGI(通用人工智能)的控...

80亿参数、前OpenAI人员经数年打造,机器人ChatGPT来了!

机器人 AI 公司 Covariant CEO Peter Chen坐在一个聊天机器人面前,界面和 ChatGPT 的很像。“给我看看你面前的运送箱,” 他输入一段文本。然后出现了一段视频,一个机械臂...

中国“AI教父”李一舟靠卖课年入5000万,“比肩”ChatGPT之父奥特曼!

什么样的人可以“比肩”ChatGPT之父山姆·奥特曼?他就是在国内被粉丝誉为“AI教父”的清华博士李一舟,当别人还在焦虑如用AI赚钱时,他已经在利用AI卖课年入千万了。“比肩”ChatGPT之父山姆·...

日耗电量高达50万度 ,GPT成“吃电狂魔”, 马斯克“电荒”预言成真?

最近一段时间,公众开始注意到,当前蓬勃发展的生成式AI技术需要耗费大量的电力。据《纽约客》当时时间9日报道,荷兰国家银行数据专家Alex de Vries估计,OpenAI旗下聊天机器人ChatGPT...

系统提示词塞满繁文缛节,ChatGPT更新引众怒!

ChatGPT变懒问题,再次引起众怒。AI与芯片行业分析师Dylan Patel引爆话题:最新版系统提示词添加太多垃圾,难怪与6个月前的表现没法比。根据他的测试,集成了各种工具的GPT-4系统提示词整...