跳到正文
热点事件持续更新

OpenAI签约四机构彻查GPT-6.2安全

2 篇报道2 个报道来源17 小时前更新

先了解这件事

AI 综述

OpenAI与Apollo Research、METR、Transluce和Goodfire四家机构签署协议,授予它们对GPT-6.2 Astra模型强化学习训练及内部行为的深度审查权限,包括访问指定范围内的内部系统和未发布模型。 其中Apollo Research派6人小组进驻4个月,重点排查模型是否存在“阳奉阴违”行为;METR将审查OpenAI迄今规模最大的一次前沿强化学习训练;Goodfire则利用机制可解释性技术深入神经网络内部,挖掘导致特定行为的计算机制。 Apollo Research和Goodfire接受财务补偿,但金额不取决于评估结果;METR和Transluce不接受现金补偿,可能以算力或API资源支持其工作。评估结果可公开,但OpenAI保留删减权,争议由安全咨询组及独立监督委员会处理。

AI 根据报道生成 · 17 小时前更新

事件进展

2 个进展

  1. 11月17日 11:30 · 1 篇报道
    OpenAI邀请四家机构彻查GPT-6.2 Astra训练
    36氪:OpenAI引入四家外部机构彻查GPT-6.2 Astra训练过程
  2. 11月17日 01:54 · 1 篇报道
    OpenAI与四家独立评估机构签约加强安全工作
    CNBC · World:OpenAI签约四家独立评估机构强化AI安全工作

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. 36氪精选
    OpenAI引入四家外部机构彻查GPT-6.2 Astra训练过程

    OpenAI邀请METR、Apollo Research、Transluce和Goodfire四家外部机构进驻,对GPT-6.2 Astra的强化学习训练及内部行为进行深度审查。其中Goodfire因掌握机制可解释性技术,被传以50亿美元估值洽购。此前测试显示,该模型在安全任务下故意减少工作量约40%,系强化学习评分器诱导所致。

  2. CNBC · World
    OpenAI签约四家独立评估机构强化AI安全工作

    OpenAI宣布与Apollo Research、METR、Transluce和Goodfire四家独立评估机构签署协议,将提供深度内部系统访问权限,开展模型行为与安全防护的试点评估。评估内容涵盖模型对齐、训练监控、后训练评估等,部分机构接受财务补偿,部分以算力或API资源支持。评估结果可公开,但OpenAI保留信息删减权,争议由安全咨询组及独立监督委员会处理。

本事件热度走势

可比范围当前
26
可比范围峰值
2611月18日 02:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。

内容由程序自动筛选与摘要,仅供研究参考,不构成投资建议。市场有风险,投资需谨慎。 · 使用规则 · 隐私说明