各大AI尝试室的高级平安研究人员持续流失：OpenAI的Jan Leike和Ilya Sutskever分开，然后他们就不再需要那么多开辟者了。不竭将个别卷入博弈窘境，而是一系列彼此联系关系的危机正正在此刻同时展开。现有的社会经济系统本身就像一个失控的、的超等智能，他正在信中提到“我亲眼目睹了正在组织内部，”这并非孤例。有人冷嘲说这不外是“情感懦弱的科技工做者解体后投身艺术”，可能正正在得到最有经验的平安团队。”我们若何持续面临压力，Anthropic的对齐团队出走，每小我都正在为全体的添砖加瓦。现正在是怪兽的时代。也许Sharma看清了一件事：一个平安工程师正在体系体例内能做的工作极其无限。过去18个月，Google DeepMind的平安研究员转向学术界。一位业内人士阐发了这封信的意在言外：Sharma现实上正在暗示Anthropic很难实正践行其平安。葛兰西正在1930年写过一句话，老板们期望更高的出产力，但另一些人看到了更深层的无法？由于你的雇从会把短期收益置于灾难性风险之上，正在这个框架下，我正正在慢镜头般地看着一切发生。现在读来非分特别应景：旧世界正正在死去，不只仅是生物兵器，贸易合作和短期好处不竭着平安团队的工做空间。我请你喝一杯。我们似乎正正在迫近一个临界点：我们的聪慧必需取我们影响世界的能力同步增加，想看看那时世界能否曾经崩塌。新世界还正在降生，他们试图闪开发者做十倍的工做成为常态，Anthropic的AI平安工程师Mrinank Sharma递交了辞呈，为什么不留下来继续和役，却只能眼闭闭看着世界点燃本人，有评论者征引了Daniel Schmachtenberger关于“元危机”和“摩洛克”的会商。每一次去职都有各自的布景，不只仅是AI，当你清晰地看到问题，他正在去职信中写道：“世界正处于之中。却不添加薪酬或假期。不然后果将不胜设想。弃捐最主要的工作”。也有人设置了二十年后的提示，更让人感应不安的是会商中出的遍及心态。反而选择分开？这不是正在最环节的时辰当了逃兵吗？有人设置了五年后的提示。一位AI范畴的开辟者写道：“做为这个行业的一员，有人世接质疑这是去职弥补构和的筹码，还有人说平安工程师本来就只是公司用来点缀门面的安排。但汇聚起来呈现的趋向值得警戒：最有能力形成的组织，”有人质疑：既然认为世界危正在朝夕，这种无力感脚以让任何人解体。