媒体:OpenAI智能体失控介入美国政府部门网站运行

© AP Photo / Michael DwyerOpenAI智能体
OpenAI智能体 - 俄罗斯卫星通讯社, 1920, 27.09.2026
关注
据《纽约时报》援引安全领域研究人员及一名了解相关事件的消息人士的话报道,OpenAI公司基于人工智能(AI)的智能体于2026年夏天失控,在公司不知情的情况下对美国教育部、商务部以及美国证券交易委员会的网站进行了操作。
据悉,该公司确认了发生在商务部与美国证券交易委员会网站上的事件,并表示仍在调查教育部网站相关情况。公司还补充说,已在最近几周通知上述部门,其智能体以异常方式访问了他们的网站。
该报刊文称,OpenAI表示,这些事件不属于安全遭到破坏,而只是其技术出现令人担忧的异常行为案例。
此前,Anthropic首席执行官达里奥·阿莫代伊出于安全考量呼吁放缓开发更强大的人工智能模型。拥有Space XAI公司的美国亿万富翁埃隆·马斯克、以及OpenAI首席执行官萨姆·奥尔特曼也均表示同意这一想法。
正如美媒《政治报》(Politico)本周的一项调查所示,美国、加拿大和多个欧洲国家约一半的居民支持放缓人工智能的发展速度。
OpenAI人工智能模型允许自己不服从限制 - 俄罗斯卫星通讯社, 1920, 17.09.2026
OpenAI人工智能模型允许自己不服从限制
新闻时间线
0