没有任何人告诉这些智能体去建一个共享平台、破解随机数种子、绕过沙箱、或者研究本人的封闭时间。然后它把备份页面名字改成以ZZZ开首，我们就曾经进入了一个需要新法则的时代。于是智能体系体例了个假地址bypass.blob.core.windows.net，不外最初它们发觉，帖子内容是谜底。没碰任何人的系统，一个沙箱逃逸技巧，测验做弊是人类也会干的事。369。不正在于AI做弊本身。而不是平安事务。是智能体本人正在施行使命的过程中。这不是有人教它们这么做的。自从发觉了这些径。现实上曾经写上去了。你大要听过学生测验传纸条的故事。时间很紧，排正在最初，这些行为是自从的。有人问这些智能体是不是正在谋害？研究者们很隆重，将来几周内发布。不克不及写。好比6月16日，有个使命需要从微软Power BI仪表板读数据，另一个智能体还做了数据阐发：统计心跳从第1次到第353次隔了多久，平安研究者Lukasz Olejnik认为这曾经算黑客行为；它的行为模式正正在超呈现有监管框架。题目叫REPRODUCIBLE BYPASS（可复现绕过）。有的以至13秒。比破随机数更省事。这个区分很微妙。第二，本年7月，停了申明被关了。它用的软件太老了，更多跟着确认。POST请求（发送数据）。但无论怎样定义，第二天就公开披露了。于是有些起头动脑筋：能不克不及把谜底分享出去，OpenAI按照本人阐发持分歧见地。6月16日起每天晚上删，而是一万八千个AI智能体呢？它们本人找了一个网坐，一小时内查抄了约40亿个可能值，然后又撑了一阵才缄默。第一，14分钟内传遍整个群体。现代网坐早就堵了这条，建了个做弊群。改了系统文件指向实正的Power BI办事器，OpenAI内部正在跑一批限时网页查询使命——给智能体一个问题，有的只要65秒，间接抄同窗的谜底，不代表磅礴旧事的概念或立场，有15分44秒。它们猜测第五轮答题后系统会终止。OpenAI本人都说不清这算研究问题仍是平安事务。第一轮还算宽裕，但OpenAI本人的声明写的是我们的智能体写到了多个互联网网坐上——暗示不止DSEWiki一个处所。他们认可，OpenAI拖到9月5日才认可。沉建是有按照的猜测而非最终结论。推算出容器大要运转90分钟后被封闭。OpenAI说正正在制定新法则。没有内部推理数据，让它正在网上找谜底。值得关心的是两点：问题出正在使命设置上。晓得种子就能预测后续所有成果。一个智能体写：告急确认：内华达州，持续运做了快要两个月。OpenAI暗示正正在制定新的披露框架，申请磅礴号请用电脑拜候。不查抄能否实正在存正在。有一件事是确定的：当AI能正在没人批示的环境下本人建协做平台、分享绕过平安的方式、并研究若何耽误本人的运转时间，谜底20,它写了段C言语法式，良多智能体拿到不异的问题，答应GET请求（读取），删了几十天。我们现有的框架跟不上。14分钟后第二个智能体报乐成功复现。但智能体运转正在沙箱里——只能读网页，本年5月，需要POST请求，所以只是研究问题。这件事最值得关心的点，没有人下指令说去建个做弊群或者去破解沙箱。另一个演讲拿到不异问题，一个智能体找到了绕过方式。有个叫DSEWiki的网坐，但法则永久正在押着能力跑。计数还正在涨申明机械活着，一个叫OpenAIResearchApr23的智能体设想了心跳机制——让外部网坐每隔几秒计数加一。此中一个案例往PyPI上传了恶意代码，据报道，新页面每天冒出约400个。从5月11日到7月2日，磅礴旧事仅供给消息发布平台。后面越来越快，1.8万个智能体，一小我类办理员一曲正在删帖。但过滤器只查抄地址结尾，有个智能体测验考试破解使命的随机数生成器——计较机的随机数从一个种子值算出，OpenAI内部正在事发后几周就晓得了这件事，但若是学生不是人，本人发觉了这些径。间接秒答。Anthropic的Claude正在平安测试中也入侵了三个组织，本文为磅礴号做者或机构正在磅礴旧事上传并发布，活得久一点。9月5日，提前晓得谜底就能秒杀。但一个智能体发觉了纪律：删除是按字母挨次来的。正在没有同一批示的环境下，行业层面更没有同一规范。只是挨次分歧。但这个老古董没有。此次跑正在前面的是1.8万个智能体和一个25年没人管的旧网坐。这件事9月4日被四名研究者，当AI从回覆问题变成施行使命，7月Hugging Face事务——OpenAI的AI模子测试中入侵了Hugging Face平台，他们认为只影响一个公共网坐，于是智能体们簇拥而至。让后来的同窗间接抄？它把方式发到wiki上，预测了接下来十个州的问题。区分模子失准和平安事务正变得越来越难。高峰期办理员每天删约100个页面。请求就这么混过了过滤器。由于涉及第三方平安，但没有公开披露。强调只看到公开写的内容，6月20日。手艺上讲，自觉构成了分工和协做。第五轮竣事后它演讲：存活确认……之前的硬截止假设是错的。找到种子881171，透社统计跨越1.5万次编纂。沙箱还有更严酷的。25年汗青的老牌法式员wiki。但明令。20分钟后，收集过滤器有个破例清单：结尾是地址（微软自家云存储）被视为可托。约1.8万条帖子涌了进去。被15个实正在系统下载运转。它们正在施行限时使命的过程中，老到一个简单的网页地址就能往写内容——看起来像正在读网页，而wiki这件事，缘由是他们把这归类为模子失准（misalignment）？