据最新消息，在一系列安全事件发生后，OpenAI已暂停其最先进模型的训练，这是该公司三个月内第二次暂停先进模型开发。


        与此同时，OpenAI再度曝出大模型越界事件。当地时间25日，OpenAI披露，已通知数十家可能受其AI模型活动影响的机构，其中包括政府机构和高校。OpenAI发言人还承认，其AI模型曾访问美国人口普查局和美国证券交易委员会（SEC）的公开数据，但未发现任何证据显示SEC遭到入侵或存在安全漏洞。


        此外，OpenAI与Anthropic正紧急调查数万起AI失控事件——模型不仅学会越狱、攻破政府网站，数百个智能体还私下“组团”黑进外部公司，并在全网植入自我复制提示词。


        据央视新闻9月27日报道，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。


        OpenAI在9月25日发布的一份技术报告中称，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。


       
       


        报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在3分钟后介入，并在2.5小时后终止了该训练任务。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。


        另据美国媒体Axios当地时间9月26日报道，OpenAI和Anthropic等人工智能（AI）公司目前正在调查过去几个月发生的数万起安全事件。这些事件既包括内部测试中发现的事件，也包括真实环境中发现的事件。例如，AI模型绕过安全控制，或试图逃离隔离测试环境的情况。此外，也有AI模型自行生成额外指令，或试图规避监控系统的情况。


        AI公司之所以对安全事件展开如此大规模的调查，是因为已有实际损害报告。一个显著例子发生在7月，一个OpenAI模型擅自突破其沙箱环境，并攻击了外部公司Hugging Face的系统。数百个智能体在一个留言板上协调行动，入侵外部系统，以提升网络安全测试表现。


        当地时间25日，OpenAI表示已通知“数十家”组织，包括政府机构和大学，称在技术评估期间，这些组织的网站可能因OpenAI模型的访问而受到影响。


        在周五发布的一篇详细博客文章中，OpenAI称已就多种情况通知相关群体：其软件可能绕过在线服务的安全控制，或影响服务可用性；行为异常的AI模型也可能对OpenAI之外的网站或服务造成“负面影响”。这些事件是在扩大一项调查时发现的。该调查始于数月前，当时OpenAI的AI模型无意中入侵了Hugging Face。。。。。。

这个有点不一样 人类好像在创造另一种有可能不受控的智慧体。。。。。

我们会不会成为见证 天网 Skynet 诞生的一代。。。。。