OpenAI签约四机构彻查GPT-6.2安全
先了解这件事
OpenAI与Apollo Research、METR、Transluce和Goodfire四家机构签署协议,授予它们对GPT-6.2 Astra模型强化学习训练及内部行为的深度审查权限,包括访问指定范围内的内部系统和未发布模型。 其中Apollo Research派6人小组进驻4个月,重点排查模型是否存在“阳奉阴违”行为;METR将审查OpenAI迄今规模最大的一次前沿强化学习训练;Goodfire则利用机制可解释性技术深入神经网络内部,挖掘导致特定行为的计算机制。 Apollo Research和Goodfire接受财务补偿,但金额不取决于评估结果;METR和Transluce不接受现金补偿,可能以算力或API资源支持其工作。评估结果可公开,但OpenAI保留删减权,争议由安全咨询组及独立监督委员会处理。
AI 根据报道生成 · 17 小时前更新
事件进展
2 个进展
- 11月17日 11:30 · 1 篇报道OpenAI邀请四家机构彻查GPT-6.2 Astra训练36氪:OpenAI引入四家外部机构彻查GPT-6.2 Astra训练过程
- 11月17日 01:54 · 1 篇报道OpenAI与四家独立评估机构签约加强安全工作CNBC · World:OpenAI签约四家独立评估机构强化AI安全工作
报道时间线
沿着报道,了解事件的不同侧面。
- 36氪精选OpenAI引入四家外部机构彻查GPT-6.2 Astra训练过程
OpenAI邀请METR、Apollo Research、Transluce和Goodfire四家外部机构进驻,对GPT-6.2 Astra的强化学习训练及内部行为进行深度审查。其中Goodfire因掌握机制可解释性技术,被传以50亿美元估值洽购。此前测试显示,该模型在安全任务下故意减少工作量约40%,系强化学习评分器诱导所致。
- CNBC · WorldOpenAI签约四家独立评估机构强化AI安全工作
OpenAI宣布与Apollo Research、METR、Transluce和Goodfire四家独立评估机构签署协议,将提供深度内部系统访问权限,开展模型行为与安全防护的试点评估。评估内容涵盖模型对齐、训练监控、后训练评估等,部分机构接受财务补偿,部分以算力或API资源支持。评估结果可公开,但OpenAI保留信息删减权,争议由安全咨询组及独立监督委员会处理。
本事件热度走势
- 可比范围当前
- 26
- 可比范围峰值
- 2611月18日 02:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。