跳到正文

本站信息不构成投资建议 · 详见使用规则

36氪· 新智元·· 1 天前精选AI 评分78

奥特曼划下AI自我改进红线,强调人类控制权

奥特曼给「AI造AI」踩刹车,方向盘必须握在人类手中

AI 导读

奥特曼在Semafor活动上表示,尽管AI已参与OpenAI下一代GPT的研发,但尚未实现无人监督下的递归自我改进,强调当前无法安全地推进该技术。他指出,为确保安全,OpenAI已引入METR等外部机构驻场开展嵌入式评估,重点监控模型训练与内部使用环节,防止潜在失控。这一举措被视为对硅谷“AI接管未来”叙事的战术克制回应。

推荐理由

奥特曼明确反对将研发主导权交予AI,强调外部评估机制对安全的必要性,为行业提供了关键风险边界参考。

来源:36氪 · 36kr.com

内容由程序自动筛选与摘要,仅供研究参考,不构成投资建议。市场有风险,投资需谨慎。 · 使用规则 · 隐私说明