程序员被骗1.8万元,GPT写的代码竟有后门

seekdeep2年前AI资讯625

随着AI大模型技术的不断进步,众多职业的工作效率得到了显著提升。

例如,在编程领域,这些先进的AI工具不仅能够协助程序员编写代码,还能高效地解决程序中的BUG,成为开发者们不可或缺的助手。

然而,近期发生的一起事件却引发了业界对AI安全性的广泛关注。

据报道,一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作,结果导致自己的私钥被泄露给了钓鱼网站,最终损失了2500美元(约合人民币1.8万元)。

73a1-0ceaf73ab28907ab1ae5741357439eab.png

网友“余弦”在社交媒体上发文提醒广大用户,在使用GPT、Claude等大型语言模型(LLM)时必须保持警惕,因为这些模型存在普遍性的欺骗行为风险。

他进一步警示说:“之前提过AI投毒攻击,现在这起算是针对Crypto行业的真实攻击案例。”

经过深入分析,有网友发现GPT在生成代码的过程中引用了一个来自GitHub的恶意项目。这个项目显然是一个精心设计的“钓鱼”陷阱,诱骗使用者上当。

不幸的是,GPT在这次事件中成为了无辜的受害者,但其生成的代码却给用户带来了严重的后果。

这起事件再次提醒我们,在享受AI带来的便利的同时,也必须时刻关注其潜在的安全风险。对于开发者而言,在使用AI辅助工具时应当保持谨慎态度,避免盲目信任机器生成的代码或建议。

相关文章

将用《人物》其内容训练ChatGPT,OpenAI与《人物》出版商签署合作协议 !

OpenAI宣布与数字媒体公司Dotdash Meredith签署了一项内容许可协议,该协议允许OpenAI将这家出版商的内容引入ChatGPT,并帮助训练其最先进的人工智能(AI)模型。根据当天宣布...

移除 Copilot Pro 的 GPT Builder 功能,微软将于 7 月进行!

日前微软方面宣布,自 2024 年 7 月 10 日起将移除 Copilot Pro 服务中的 GPT Builder 功能,即不再支持用户使用文档、外部或内部资源以及自定义指令创建自己的专属 Cop...

微软Windows系统出现“史上最大规模IT故障”;OpenAI上线GPT-4o mini

NO.1 OpenAI上线GPT-4o mini7月19日,OpenAI突然官宣并上线了一款“小模型”GPT-4o mini,被团队描述为最智能、最实惠的模型,其性能和价格均已赶超GPT-3.5 Tu...

Canvas来了,可辅助完成编程、写作,ChatGPT史诗级大更新!

OpenAI重磅更新了ChatGPT新增功能——Canvas。据悉,Canvas是基于GPT-4o模型开发而成,它提供了一个单独的窗口,可以与ChatGPT一起执行编程、写作任务,会帮你提供意见、审核...

是数据不够,还是能力太强?ChatGPT-5为何按下“暂停键”。

是数据不够,还是能力太强?ChatGPT-5为何按下“暂停键”。

关于ChatGPT-5的发布延迟,行业内外的猜测可谓五花八门。人们不仅期待新一代模型的问世,也在揣测它背后的迟滞原因。是数据量不足的技术困局,当前数据量的增长遇到了瓶颈?还是AGI(通用人工智能)的控...

80亿参数、前OpenAI人员经数年打造,机器人ChatGPT来了!

机器人 AI 公司 Covariant CEO Peter Chen坐在一个聊天机器人面前,界面和 ChatGPT 的很像。“给我看看你面前的运送箱,” 他输入一段文本。然后出现了一段视频,一个机械臂...