OpenAI高管震荡内幕:CEO无视安全仓促上马4o,员工每天干20小时赶进度,追名逐利不再理想主义

动荡内幕终于曝光——
OpenAI CTO Mira Murati的离开,与GPT-4o、Her息息相关!
简单来说,就是今年春天OpenAI为了大抢谷歌开发者大会的风头,紧急推出GPT-4o。
时间真的是非、常、紧、张,以至于安全团队只能在极短的时间内(9天,拿不到更多时间了)完成安全测试评估。


时间紧,任务重,即便007式工作,每天工作20小时,测试数据还是不足。
结果大家也看到了,4o发布后才爆出该模型存在安全问题。
总的来说,OpenAI好像有点变形了:压榨员工、轻视安全,在市场上大出风头比安全可靠更重要。
之前奥特曼被开除时诟病的问题,特别是对安全的漠视,实实在在被证明了。比起AI技术的安全可靠,他更在乎竞争上的赢。

很多员工和高管都超不满的。
当初4o发布第二天,沉寂许久的OpenAI灵魂人物Ilya就宣布了自己的离开。
现在,4o全量上线的第二天,Mira也走了。
还带着研究主管Bob McGrew和研究副总裁Barret Zoph一起跑路。
(真不知道是说这些元老们太顾念公司,还是说OpenAI真是营销天才。)
说来说去,他们告别OpenAI都围绕一个原因,那就是“公司对安全重视程度不足”。
OpenAI,真的不要安全了??!

试图抢救“安全性”的Mira

我们再来展开说说4o上线的火急火燎程度。
今年5月14日,OpenAI发布GPT-4o;5月15日,Google发布名为Project Astra的AI助手,同日OpenAI首席科学家Ilya官宣离职。
一切的发生,早“有预谋”。
据透露,挑在14日发布,完全因为OpenAI想抢Google的风头。
为此,OpenAI安全团队仅得到了9天的时间,来做安全检测。
就,时间真的不够啊!
9天时间里,安全团队成员们007式工作,每天不分白天黑夜,拼死拼活干20个小时,还是没做完安全测试。
即便如此,GPT-4o还是如期发布了。
然后就果然被发现GPT-4o有安全问题,它的“劝说”“诱导”性非常强,具备创建能够说服人们改变信念并参与潜在危险或非法行为的内容的能力。
很容易引导人误入歧途,干些不好的事,说些不对的话。
一些OpenAI内部员工也表示,仓促发布G…



感谢阅读!如果您对AI的更多资讯感兴趣,可以查看更多AI文章:GPTNB

OpenAI高管震荡内幕:CEO无视安全仓促上马4o,员工每天干20小时赶进度,追名逐利不再理想主义

https://www.gptnb.com/2024/10/01/2024-09-30-auto4-Bxm5ts/

作者

ByteAILab

发布于

2024-10-01

更新于

2025-03-21

许可协议