星淬登录 / 注册

要闻 内容预览

OpenAI提出前沿模型训练的“安全论证”初步指引

来源:OpenAI

AI 辅助整理

OpenAI在9月28日发布一份关于前沿AI训练的初步指引,主张在继续运行前沿强化学习训练前,以结构化证据说明风险及防护措施。OpenAI把达到完整“安全论证”水平称为正在努力实现的目标,并表示框架还会继续调整;这不是一项已经普遍生效的监管规定。 指引把拟纳入的工作分为三部分。技术防护关注模型对齐训练、运行环境隔离和实时监测;组织…

登录后,继续看完整内容

加入开放、共创的AI社区,收藏发现、参与交流。

登录 / 注册,继续阅读