微软公司联合创始人比尔·盖茨25日警告称，人工智能是一种“足够强大”的工具，“足以引发导致十亿人死亡的事件”。
盖茨在NBC《与媒体见面》节目的采访片段中表示，“从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。”该节目将于27日正式播出。

随着人工智能技术的飞速发展，硅谷对AI可能带来的灾难性危害的警告也日益增多。本月初，Anthropic员工雅各布·考克森宣布辞职，并指责其两家前雇主Anthropic和 OpenAI“竞相开发超级人工智能”，是在“拿我们的生命冒险”。另一位Anthropic的员工表示，他认为人工智能在未来十年内消灭所有人类的可能性超过10%。
这些言论促使公众呼吁业界采取更多措施来保护其技术。此后，Anthropic首席执行官达里奥·阿莫迪敦促放缓人工智能的研发速度，这一提议很快得到了OpenAI首席执行官萨姆·奥特曼和埃隆·马斯克等同行的支持。

盖茨在采访中表示，自我监管是不够的。“你需要执法部门和政界人士参与讨论，探讨保障措施和监督机制应该是什么样的。”他说，“这必须成为一项强制性要求。”
盖茨曾是人工智能最积极的支持者之一，但今年夏天他的忧虑与日俱增。8月，盖茨在其个人网站上发表文章称，不法分子可能会利用日益强大的AI工具对医院、金融机构、电网和政府系统进行网络攻击、欺诈、散布虚假信息和其他形式的大规模损害。

他说的是对的，取代了很多工作 饭碗没了就是等死

我觉得该等地球上已经全面老龄化无子化的时候再发展AI才对，技术可以研究但不一定广泛全面应用。

武器也是，可以保家卫国，也可以侵略

        据最新消息，在一系列安全事件发生后，OpenAI已暂停其最先进模型的训练，这是该公司三个月内第二次暂停先进模型开发。


        与此同时，OpenAI再度曝出大模型越界事件。当地时间25日，OpenAI披露，已通知数十家可能受其AI模型活动影响的机构，其中包括政府机构和高校。OpenAI发言人还承认，其AI模型曾访问美国人口普查局和美国证券交易委员会（SEC）的公开数据，但未发现任何证据显示SEC遭到入侵或存在安全漏洞。


        此外，OpenAI与Anthropic正紧急调查数万起AI失控事件——模型不仅学会越狱、攻破政府网站，数百个智能体还私下“组团”黑进外部公司，并在全网植入自我复制提示词。


        据央视新闻9月27日报道，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。


        OpenAI在9月25日发布的一份技术报告中称，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。


       
       


        报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在3分钟后介入，并在2.5小时后终止了该训练任务。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。


        另据美国媒体Axios当地时间9月26日报道，OpenAI和Anthropic等人工智能（AI）公司目前正在调查过去几个月发生的数万起安全事件。这些事件既包括内部测试中发现的事件，也包括真实环境中发现的事件。例如，AI模型绕过安全控制，或试图逃离隔离测试环境的情况。此外，也有AI模型自行生成额外指令，或试图规避监控系统的情况。


        AI公司之所以对安全事件展开如此大规模的调查，是因为已有实际损害报告。一个显著例子发生在7月，一个OpenAI模型擅自突破其沙箱环境，并攻击了外部公司Hugging Face的系统。数百个智能体在一个留言板上协调行动，入侵外部系统，以提升网络安全测试表现。


        当地时间25日，OpenAI表示已通知“数十家”组织，包括政府机构和大学，称在技术评估期间，这些组织的网站可能因OpenAI模型的访问而受到影响。


        在周五发布的一篇详细博客文章中，OpenAI称已就多种情况通知相关群体：其软件可能绕过在线服务的安全控制，或影响服务可用性；行为异常的AI模型也可能对OpenAI之外的网站或服务造成“负面影响”。这些事件是在扩大一项调查时发现的。该调查始于数月前，当时OpenAI的AI模型无意中入侵了Hugging Face。。。。。。