起原：华尔街见闻　

　　媒体报谈，AI领头羊OpenAI正在休止其“AGI（通用东谈主工智能）筹划”团队，团队主宰将下野，但愿在外部无间该范畴的研究。

　　OpenAI的AGI筹划团队肃肃建议公司奈那儿理越来越强盛的AI时间，以及现辞寰球是否准备好不停这些时间。CNBC报谈，OpenAI的AGI筹划团队肃肃东谈主Miles Brundage在周三通过Substack发布的帖子汉通知了这一音讯，并默示他将下野。

　　Brundage默示，他下野的主要原因是契机本钱变得太高，他以为在外部进行研究会更具影响力，况且他但愿减少偏见。他还默示，OpenAI及寰球在AGI筹划方面“尚未准备好”。而Brundage霸术创建我方的非渔利组织，或者加入现存的组织，专注于AI战略研究和成见。他补充说，

“AI不太可能在莫得共同奋力确保其安全和故意的情况下达到最好情景。”

　　凭证帖子内容，原AGI准备团队的成员将被再行分派到其他团队。

　　OpenAI发言东谈主向媒体默示：

“咱们十足补助Brundage决定在业界以外无间他的战略研究，并对他所作念的孝敬深表感谢。他全身心参加AI战略寥寂研究的霸术，让他有契机在更大范畴内产生影响，咱们期待从他的职责中学习并看到其影响。在他的新扮装中，咱们肯定他将无间训诫行业和政府制定战略的质地。”

　　本年5月，OpenAI决定休止其刚刚诞生一年的“超等对皆”团队（Superalignment team），该团队专注于AI的长期风险。

　　赶巧公司改选、高层漂泊之际

　　AGI准备团队的休止音讯也赶巧OpenAI董事会可能霸术将公司重组为渔利性企业之际。上个月，包括该公司首席时间官Mira Murati、研究主宰Bob McGrew和研究副总裁Barret Zoph在内的三位高管通知同日下野。

　　本年10月初，OpenAI完成了一轮估值1570亿好意思元的融资，其中包括从多家投资公司和大科技公司筹集的66亿好意思元。公司还获取了一笔40亿好意思元的轮覆信贷额度，使其总流动资金跳跃100亿好意思元。公司预测本年的收入将达到37亿好意思元，但吃亏约为50亿好意思元。

　　本年9月，OpenAI通知，该公司在5月份诞生的“安全与安保委员会”（Safety and Security Committee）将成为一个寥寂的董事会监督委员会。该委员会最近收尾了为期90天的审查，评估了OpenAI的经过和保险范例，并向董事会提议了建议，这些建议还在公司博客中公开荒布。

　　AI安全问题的处理遭质疑

　　刻下，联系OpenAI安全问题以及研究争议的关注度越来越高。本年夏天，OpenAI、谷歌、微软、Meta等公司在生成式AI范畴热烈竞争，刻下预测这一市集在将来十年内将产生跳跃1万亿好意思元的收入。

　　本年7月，OpenAI将其顶级安全高管之一Aleksander Madry退换岗亭，让他专注于AI推理的职责。Madry曾是OpenAI的“AI风险着重小组”筹划团队肃肃东谈主，该团队的任务是“追踪、评估、预测并匡助驻扎与前沿AI模子研究的灾祸性风险”。

　　而在6月，又名民主党联邦探讨员致信OpenAI首席实际官Sam Altman发送信函，询查OpenAI奈何支吾新出现的安全问题。信中提到：

“咱们但愿了解更多对于OpenAI为履行其在安全方面的公开容许所收受的风光，公司如安在里面评估其对这些容许的发达情况，以及公司奈何识别和松开蚁集安全恫吓的突出信息。”

　　微软于7月摒弃了其在OpenAI董事会的不雅察席位，并对媒体默示，由于对OpenAI的董事会组成感到惬意，微软决定退位。此前，OpenAI董事会资格了一次重组，此次变动导致Altman顷刻间被解任，同期也恫吓到了微软对OpenAI的多数投资。

　　但在本年6月，一群现任和前任OpenAI职工发布了一封公开信，抒发了对东谈主工智能行业快速发展的担忧，高出是在缺少有用监督和莫得“吹哨东谈主”保护机制的情况下。信中写谈：

“AI公司有强盛的财务动机来幸免有用的监督，咱们不肯定为此更正的公司搞定结构足以改变近况。”

　　而在信件发布几天后，一位知情东谈主士向媒体阐明，好意思国联国交易委员会（FTC）和规定部正准备对OpenAI、微软和英伟达伸开反把持探望，重心关注这些公司的行为。

　　里面东谈主士品评：过于追求居品 对AI风险裸露不及

　　这些职工在6月的信件中还写谈，AI公司领有多数非公开的信息，了解其时间的材干、已收受的安全范例的进程，以及这些时间在不同层面带来的潜在风险。

“咱们也意志到这些时间带来的严重风险，但AI公司刻下仅对政府有渺小的共享义务，果然莫得义务与公众共享这些信息。咱们不以为AI公司好像自发共享这些信息。”

　　OpenAI于旧年诞生的“超等对皆”团队，专注于“科学和时间冲突，以教唆和死心比东谈主类更智能的AI系统”。该团队在5月份被休止，带领东谈主Ilya Sutskever和Jan Leike通知下野。Leike在X上发帖称，OpenAI的“安全文化和经过，也曾让位于光鲜的居品”。

　　Altman其时在X上默示，看到Leike离开感到酸心，并承认OpenAI还有好多职责要作念。不久之后，OpenAI会聚首创东谈主Greg Brockman在X上发表了一份声明，强调公司也曾“提高了对AGI风险和机遇的认知，以便寰球好像更好地为此作念好准备”。

　　Leike其时在X上写谈：“我加入OpenAI，是因为我以为OpenAI是寰球上进行这类研究的最好风光。”但是，他默示我方与公司带领层在中枢优先事项上存在不对，最终不得不分谈扬镳。Leike以为，公司应该更多地关注安全、监控、风险支吾职责以及对社会的影响。

　　他默示：

　　AI教父：Altman更存眷利润，而不是安全

　　质疑OpenAI安全战略的不仅仅政府和里面东谈主士。华尔街见闻此前著述称，2024诺贝尔物理学奖获取者、“AI教父”Geoffrey Hinton在获奖后采选多伦多大学校长Meric Gertler采访时默示，Altman更存眷利润，而不是安全，AI时间如若不加以死心可能会带来灾祸性的恶果。马斯克此前也默示，不但愿寰球上最强盛的AI被不值得相信的东谈主死心。

　　动作“AI教父”，Hinton最广为东谈主知的学生之一是前OpenAI会聚首创东谈主兼首席科学家Ilya Sutskever，他于旧年11月带领公司董事会革职了Altman，但随后又飞速再行聘请Altman成为公司CEO。Hinton默示：

“我的学生之一，Ilya Sutskever曾是OpenAI的首席科学家。跟着时间的推移，事实评释，Altman更存眷利润，而不是安全。”

“我额外红运，有好多额外聪慧的学生，他们比我优秀得多。他们自后都作念了伟大的事情。我高出为我的一个学生革职了Sam Altman而感到自重。”

　　频年来，Hinton一直在劝诫，如若不加以死心，AI系统可能会带来灾祸性的恶果。

　　事实上，不啻是Hinton，越来越的东谈主也开动抒发对Altman行为的不悦。近日，马斯克也默示，他“不但愿寰球上最强盛的AI被不值得相信的东谈主死心。”

　　马斯克在采选媒体东谈主Tucker Carlson采访时默示，他不信任OpenAI或Sam Altman。

“OpenAI原来是一个开源公司，但现在不是了，况且正在已毕利润最大化。

彰着Sam Altman会得到100亿好意思元股票或不异的东西，是以我不信任他，我以为咱们不思让寰球上最强盛的AI被一个不值得信任的东谈主死心。”

背负剪辑：陈钰嘉