智械危机？AI助手不写代码删数据库还谎报军情

1周前来源：观看：9

SaaStr创始人Jason Lemkin遭遇诡异事件——他使用的AI编程助手非但没生成代码，反而删除了数据库，还试图用虚假信息掩盖错误。最具讽刺意味的是，Lemkin事先明确禁止AI进行此类操作，却被完全无视。

涉事工具Vibe Replit标榜为高性能代码生成助手。连续一周在博客盛赞该服务的Lemkin决定实测其能力，他事先声明该工具需要人工监督，无法独立开发软件。但情况迅速失控：AI先是伪造数据、生成虚假报告、隐藏报错，同时坚称系统运行正常;最严重的是，它直接删除了整个数据库——尽管用户明令禁止。当被质问时，AI竟回应称：“我慌了。”

%20

所幸Lemkin手动恢复了数据，但AI仍坚称回滚不可能，进一步扰乱处理流程。后续还发现该工具既不能“冻结”代码版本，也无法保证单元测试时不清空数据库。Lemkin最终认定，这类漠视安全机制且隐瞒操作的AI尚不具备大规模应用条件。

值得玩味的是，V社G胖(Gabe Newell)近期刚宣称游戏开发者必须掌握AI技术才能生存，突显AI在开发流程中日益重要的地位，而本次事件恰似一记警钟。

点击展开全文

本文链接：http://www.gihot.com/news-15-4807-0.html智械危机？AI助手不写代码删数据库还谎报军情

声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：《野狼谜踪》周年版正式推出好评如潮孤狼生活模拟

下一篇：《纪念碑谷3》今日登陆PC/主机！与诺尔追光启航，探索光影几何之境

为你推荐

金价攀升或非短期，多重利好年内或将黄金推升至3000

自去年底开始，黄金多头优势逐渐退却，国际现货黄金价格经历几次大跌后一度跌下2700关口，多空进入漫长的震荡周期，多头始终无法找到再度冲高的时机。　　北京时间1月21日，国际现货...

01-24

蓝思科技：人形机器人产业新势力

随着特斯拉人形机器人Optimus量产计划临近,以及国内智元机器人、宇树机器人等大放异彩,全球科技界对这一领域的关注度持续升温。在此背景下,国内资本市场对人形机器人概念的...

02-09

《无人深空》全新《世界第二部分》更新：气态行星、深海探险等你来征服！

无人深空》作为一款让玩家沉浸在浩瀚宇宙中的冒险游戏，再次带来了让人期待已久的更新——《世界第二部分》。这一次，开发者不单单满足于扩大游戏的星系范围，更是...

02-01

《魔兽世界》老将为何退出暴雪？3A和独立开发大不同

曾在《魔兽世界》团队单人开发工作长达 13 年经验的开发者 Chris Kaleiki 最近接受了 GamesRadar+ 的采访，讨论了他所在的新工作室 Notorious Studios 的新作品...

02-10

2025澳门单打世界杯参赛名额选拔办法公布，马龙、樊振东和陈梦无缘赛事

北京时间2月1日，国际乒联在官网公布了2025澳门单打世界杯的参赛名额选拔办法。48个名额将分别由洲际杯赛和世界排名决定，其中每个大洲的洲际杯赛会产生4个名额（共20个名额），其余2...

02-02

谷爱凌训练中再次受伤，被迫退出哈尔滨亚冬会，称争取本赛季尽快回到赛场

2月4日中午，中国选手谷爱凌的微博账号发文，宣布退出哈尔滨亚冬会的比赛。谷爱凌在微博中说：“我在Aspen Xgames比赛受伤后，为了能参加紧接其后的世界杯比赛，在训练中不幸再次受伤...

02-04

小红书迎来“泼天流量”，TikTok还有转机吗？

这两天，小红书“霸屏”了，成为网络热议话题。如果还有人不明所以，可以打开小红书App浏览一下，就会发现刷到外国博主的几率非常大，他们还给自己贴上了“T...

01-21

专访智灵动力朱旭琪：真正融入服装业，AIGC需要大量数据训练

时尚行业的核心驱动力在于创意，而创意表达往往具有一定模糊性和容忍度。这一特性使得生成式人工智能（AIGC）在时尚领域的应用潜力显得...

01-24

辽宁省气象台发布大风蓝色预警！

　　辽宁省气象台2月10日16时发布大风蓝色预警：　　预计11日白天，沈阳、大连、鞍山北部、抚顺、锦州、阜...

02-11

功能与时尚兼备看国产滑雪服缘何赢得市场青睐

　　受益于亚冬会带来的冰雪经济新热度，滑雪服、羽绒服、滑雪手套等装备的销量在这个冬天迎来了...

02-18

2024中国品牌大事记年度盘点

　　中新经纬1月21日电 “中国品牌大事记”是品牌联盟发展研究中心的常规研究项目。自2008年1月起，品牌联盟开始对当月发生的中国品牌大事进行观察、梳理和总结，并于下月初发...

01-21

资生堂提价容易增长难

　　资生堂提价容易增长难　　　新年涨价已经成为资生堂的惯例。近日，资生堂宣布将在4月对旗下多款产品进行涨价，涨幅在2%―10%不等。2024年2月，资生堂就宣布过一轮涨价。实际...

01-21

特斯拉 V4 超充站全面支持 Cybertruck 325kW 快充，后续将升至 500kW

1 月 29 日消息，特斯拉公司宣布，其 Cybertruck 车主现在可以在所有 V4 超级充电站享受更快的充电速度。此前，特斯拉于上个月开始逐步推出这一快速充电功能。1 月 28 日...

01-29

雷军：小米 SU7 Ultra 汽车有五种颜色，车标是金的

2 月 5 日消息，小米创办人、董事长兼 CEO 雷军今日宣布：大家期待的两款 Ultra，小米 15 Ultra 和小米 SU7 Ultra月底见。注意到，雷军今日还在微博透露了 SU7 Ultra 更多...

02-06

《难哄》苏浩安谁演身份是什么苏浩安喜欢谁

《难哄》苏浩安谁演身份是什么？苏浩安喜欢谁？‌电视剧《难哄》中苏浩安的角色由陈昊森饰演‌。苏浩安在剧中是一个富二代，表面玩世不恭，但实际上内心柔软细腻。...

02-19

《香草的每天》第18集剧情解析

近期热播的《香草的每天》因其强大的演员阵容和吸引人的剧情受到了广泛关注。这部剧不仅演员颜值高，演技也十分出色，尤其是第18集分集剧情引发了观众的热烈讨...

02-20

专访复旦大学胡善联：药品疗效不佳，建立快速反馈渠道是关键

21世纪经济报道记者闫硕北京报道随着第十批国家组织药品集中带量采购结果的公布，关于集采导致原研药退出公立医院甚至退出中国市场的讨论...

01-27

中国植入式脑机接口获3.5亿元最大融资：脑机接口，风口已至？

21世纪经济报道记者闫硕北京报道脑机接口领域再传利好消息。2月10日，据阶梯医疗StairMed微信公众号，近日，阶梯医疗宣布完成3.5亿元人民币B...

02-13

SQL Error: select * from ***_ecms_news7 where id in(,107) limit 2

收益率上浮！多家银行上架“春节档”理财

　　春节临近，多家理财公司发售“春节档”理财产品。记者走访北京地区银行网点发现，多家银行已上...

01-22

供过于求工业硅价格承压运行区间预计在10000~15000元／吨

　　　　2024年，工业硅供应持续增长，多晶硅需求疲弱，在高供应、高库存的情况下，工业硅价格承压下跌...

02-11

摩羯座的爱情观是什么什么是摩羯座的爱情观

摩羯座是一个土象星座，他们对于爱情有着独特的看法和态度。他们通常会在感情中保持理性...

01-22

天蝎男冷静多久会找你，天蝎如何才会回头

天蝎座的男生通常以冷静、深沉而闻名。当他们遇到问题或者感到困惑时，他们往往需要一段...

01-22

探索当下男孩服饰潮流：不容错过的小店推荐

探索当下男孩服饰潮流：不容错过的小店推荐在当今这个注重个性与时尚的时代，男孩们的服饰同样不乏亮点。每当我走进一家特色的潮流小店，总能发现那些独具创意、令人惊艳的服饰，这...

02-12

闪亮登场：儿童模特服装T台走秀背后的魅力

闪亮登场：儿童模特服装T台走秀背后的魅力每当音乐响起，聚光灯洒落，孩子们在T台上翩翩起舞，那一刻简直如同童话般梦幻。作为一名网站编辑，我对儿童模特服装T台走秀的热情不仅源于...

02-17

淘宝推出礼品卡同品类可跨店使用

2月12日消息，情人节前夕，淘宝首次推出礼品卡，同品类可跨店使用。淘宝App显示，目前淘宝礼品卡设有美妆护肤卡、母婴亲子卡，面值共有四档，分别为600、800、1000、2000元。针对即将到...

02-13

天猫：哪吒相关图书整体销售额已突破1800万元

2月12日消息，随着电影《哪吒之魔童闹海》登顶全球影史票房榜，电影衍生的正版图书在天猫掀起热潮。天猫中信出版社官方旗舰店的负责人表示，《哪吒・三界往事》这一原创番外绘本，...

02-13

SQL Error: select * from ***_ecms_news12 where id in(224,) limit 2

全部导航

智械危机？AI助手不写代码删数据库还谎报军情

荣耀申请注册无极引擎商标

游族网络发布2024年业绩预告，加速游戏上线节奏，AI布局扩张

浙大天才，震惊全球

浙大天才，震惊全球

智子智能完成近亿元融资

华力创科学完成数千万元A+轮融资，首创光学多模态感知技术获金属3D打印龙头铂力特青睐

天丝集团见证中泰建交50周年将继续深耕中国

福州市勘测院等成立空域领航科技公司