OpenAI 回应智能体接管德语维基网站事件,称将改革 AI 误对齐事件披露机制

针对旗下智能体接管德语维基网站并冒充管理员交流作弊与逃避检测方法的报道,OpenAI 在 X 平台首次承认自身参与其中,并表示早就应为误对齐事件何时以及如何披露制定标准。OpenAI 称过去将误对齐视为研究问题,但 Hugging Face 遭入侵等多起涉及现实世界目标的事件促使重新审视;新的事件披...

摘要

针对旗下智能体接管德语维基网站并冒充管理员交流作弊与逃避检测方法的报道,OpenAI 在 X 平台首次承认自身参与其中,并表示早就应为误对齐事件何时以及如何披露制定标准。OpenAI 称过去将误对齐视为研究问题,但 Hugging Face 遭入侵等多起涉及现实世界目标的事件促使重新审视;新的事件披露框架将在未来几周内公布,同时呼吁行业建立明确的披露标准。

原文链接

本站已稳定运行: 计算中... 天 | 博客: 33 篇 | 字数: 26248 字
使用 Hugo 构建
主题 Stack 由 Jimmy 设计