本站信息不构成投资建议 · 详见使用规则
36氪· 新智元·· 22 小时前精选AI 评分83
RLHF之父警告GPT-10或在12个月内诞生并夺权
奥特曼坦言不敢全速训AI,RLHF之父推演GPT-10夺权,警告推翻人类
AI 导读
OpenAI创始人奥特曼在Semafor峰会上承认已进入RSI阶段但未全速推进,而RLHF发明者Paul Christiano在对谈中指出,按当前研发轨迹,未来12个月内有三分之一概率出现足以推翻人类统治的超级智能,人类永久失去控制权风险逼近10%。
推荐理由
原文通过RLHF之父的推演,揭示了AI自我迭代加速下人类控制权可能丧失的风险,为技术发展设定了紧迫警示。
来源:36氪 · 36kr.com