关注行业动态、报道公司新闻
公司已向 100 多家第三方机构发出通知,以领会其恶意智能体勾当的全数范畴。OpenAI 此次披露的消息显示,IT之家 10 月 2 日动静,旗下 AI 智能体或曾私行测验考试绕过平安防护,公司但愿向受影响的第三方供给需要消息,以及绕过某些平安查抄。帮帮更普遍的 AI 和平安研究界改良平安工做。具体环境包罗 AI 智能体试图让网坐施行非预期号令、把网坐当做共享留言板利用,《邮报》曾报道,研究人员发觉了一系列涉及失控 AI 智能体的收集平安事务。行为体例取 OpenAI 系统类似的 AI 智能体曾试图入侵网坐。OpenAI 披露,这些勾当更接近于试探一扇上锁的门,而非实正。
OpenAI 已对约 50PB 数据启动筛查,已知的 AI 智能体失控行为涉及范畴进一步扩大。以便查询拜访和处置潜正在的平安或其他手艺问题。本地时间 9 月 30 日晚,目前,OpenAI 强调,收到通知并不代表系统必然遭到入侵。
