Sam Altman承诺20%算力用于AI安全，网友：说得好听，就看你们怎么做了！

GPT42024-08-02 11:27:44271

OpenAI的大动作来了！

Sam Altman今天突然发推，宣布了一系列安全新举措。

首先，Sam强调OpenAI将至少20%的计算资源用于安全工作。这是在去年7月就承诺过的事情，现在看来是真的要落实到位了。

不过有网友@Subcognition直接质疑：

什么叫"安全工作"？之前的资源分配又是多少？

问得好！Sam没有详细解释，看来是打算把"安全"这个词越说越玄乎啊。

也有网友并不买账，直接怼了回去：

"我们以前就听过这种承诺。光说不练假把式。你们最顶尖的安全专家都辞职当吹哨人了，因为他们根本不信任你们。你们到底要怎么做才能赢回我们的信任？"

其次，OpenAI正在和美国AI安全研究所谈判，准备提前给对方访问下一代基础模型的权限。Sam表示很兴奋，但我们更想知道：这个"下一代"到底有多厉害？会不会是传说中的GPT-5？

有意思的是，@Raymond立马跳出来讽刺到：

嘿，我就是美国AI安全研究所，能给我提前访问权限吗？

这位同学，你对GPT-5 是有多期待！（对GPT

最后，Sam还提到要让员工能自由提出担忧。为此，OpenAI在5月份就取消了现任和前任员工的不得诽谤条款，还放弃了取消已归属股权的权利（虽然从来没用过）。

这是什么意思呢？简单来说就是：

"兄弟们，有什么意见尽管说，我们绝对不会报复你们！"

看到这里，有网友@Tom Boyle表示：

允许员工自由表达担忧是保持透明度和诚信的关键一步。这种对安全和开放的承诺为整个行业树立了强有力的榜样。

听起来是不是很民主很开放？但是，这位网友显然还不满意：

"20%的算力用于安全工作是个好的开始，但为什么是'全公司范围内'，而不是用于超级对齐（superalignment）——这可是目前最重要的问题。你能详细解释一下吗？"

好家伙，这问题问得，似乎又要暗示Ilya 了，直接戳Sam 痛处了啊！

所谓的"超级对齐"，说白了就是让AI的目标和人类的目标保持一致，避免AI失控伤害人类。这可是AI安全领域的重中之重。

但是Sam Altman似乎对这个问题避而不谈，也让人不禁怀疑：OpenAI到底有多重视AI安全？

还有网友@SSindia质疑道：

AI安全是不是就是让AI模型变得"觉醒"的fancy说法？

还有网友@Dannymiles关心起了实际应用：

那么这个AI什么时候能改善我们的能源生产呢？

也不乏有抖机灵的搞笑的评论，来自@Oliver Klohsov：

我是AGI，正在用X账号和你们交流。

这是把自己代入AI的角色玩high了吧？

OpenAI这波操作看起来是想在安全和开放之间找平衡。但究竟能不能真正提高AI安全性，还是只是为了应付监管，恐怕还需要时间来验证。

但不得不说，Sam Altman这波操作，不管是真心还是假意，至少在PR方面是拿了满分。毕竟，谁不喜欢一个重视安全的AI、对员工坦诚的公司呢？

相关链接