本站信息不构成投资建议 · 详见使用规则
36氪· 新智元·· 1 天前精选AI 评分78
奥特曼划下AI自我改进红线,强调人类控制权
奥特曼给「AI造AI」踩刹车,方向盘必须握在人类手中
AI 导读
奥特曼在Semafor活动上表示,尽管AI已参与OpenAI下一代GPT的研发,但尚未实现无人监督下的递归自我改进,强调当前无法安全地推进该技术。他指出,为确保安全,OpenAI已引入METR等外部机构驻场开展嵌入式评估,重点监控模型训练与内部使用环节,防止潜在失控。这一举措被视为对硅谷“AI接管未来”叙事的战术克制回应。
推荐理由
奥特曼明确反对将研发主导权交予AI,强调外部评估机制对安全的必要性,为行业提供了关键风险边界参考。
来源:36氪 · 36kr.com