泉源：网易新闻校园春色

媒体报说念，AI领头羊OpenAI正在完毕其“AGI（通用东说念主工智能）酌量”团队，团队专揽将下野，但愿在外部不绝该边界的延续。

OpenAI的AGI酌量团队认真建议公司若那处理越来越纷乱的AI技艺，以及现时宇宙是否准备平允理这些技艺。CNBC报说念，OpenAI的AGI酌量团队认真东说念主Miles Brundage在周三通过Substack发布的帖子中文告了这一音信，并示意他将下野。

Brundage示意，他下野的主要原因是契机资本变得太高，他以为在外部进行延续会更具影响力，况兼他但愿减少偏见。他还示意，OpenAI及宇宙在AGI酌量方面“尚未准备好”。而Brundage计较创建我方的非渔利组织，或者加入现存的组织，专注于AI计谋延续和观念。他补充说，

字据帖子施行，原AGI准备团队的成员将被从头分拨到其他团队。

OpenAI发言东说念主向媒体示意：

本年5月，OpenAI决定完毕其刚刚开辟一年的“超等对都”团队（Superalignment team），该团队专注于AI的永恒风险。

恰恰公司改选、高层荡漾之际校园春色

AGI准备团队的完毕音信也恰恰OpenAI董事会可能计较将公司重组为渔利性企业之际。上个月，包括该公司首席技艺官Mira Murati、延续专揽Bob McGrew和延续副总裁Barret Zoph在内的三位高管文告同日下野。

本年10月初，OpenAI完成了一轮估值1570亿好意思元的融资，其中包括从多家投资公司和大科技公司筹集的66亿好意思元。公司还取得了一笔40亿好意思元的轮答信贷额度，使其总流动资金进步100亿好意思元。公司预测本年的收入将达到37亿好意思元，但亏欠约为50亿好意思元。

本年9月，OpenAI文告，该公司在5月份开辟的“安全与安保委员会”（Safety and Security Committee）将成为一个零丁的董事会监督委员会。该委员会最近已毕了为期90天的审查，评估了OpenAI的历程和保险法子，并向董事会提议了建议，这些建议还在公司博客中公开辟布。

AI安全问题的处理遭质疑

现时，相关OpenAI安全问题以及相关争议的关心度越来越高。本年夏天，OpenAI、谷歌、微软、Meta等公司在生成式AI边界浓烈竞争，现时预测这一商场在改日十年内将产生进步1万亿好意思元的收入。

本年7月，OpenAI将其顶级安全高管之一Aleksander Madry转化岗亭，让他专注于AI推理的责任。Madry曾是OpenAI的“AI风险看重小组”酌量团队认真东说念主，该团队的任务是“追踪、评估、预测并匡助小心与前沿AI模子相关的凄惨性风险”。

而在6月，又名民主党联邦商榷员致信OpenAI首席引申官Sam Altman发送信函，询查OpenAI怎么应付新出现的安全问题。信中提到：

微软于7月撤消了其在OpenAI董事会的不雅察席位，并对媒体示意，由于对OpenAI的董事会组成感到知足，微软决定退位。此前，OpenAI董事会阅历了一次重组，此次变动导致Altman顷刻被罢职，同期也威迫到了微软对OpenAI的宽广投资。

但在本年6月，一群现任和前任OpenAI职工发布了一封公开信，抒发了对东说念主工智能行业快速发展的担忧，相配是在穷乏有用监督和莫得“吹哨东说念主”保护机制的情况下。信中写说念：

而在信件发布几天后，一位知情东说念主士向媒体阐明，好意思国联邦生意委员会（FTC）和法则部正准备对OpenAI、微软和英伟达伸开反把持探访，重心关心这些公司的举止。

里面东说念主士品评：过于追求家具 对AI风险涌现不及

这些职工在6月的信件中还写说念，AI公司领有宽广非公开的信息，了解其技艺的才气、已接受的安全法子的进度，以及这些技艺在不同层面带来的潜在风险。

在线播放

OpenAI于旧年开辟的“超等对都”团队，专注于“科学和技艺打破，以带领和收尾比东说念主类更智能的AI系统”。该团队在5月份被完毕，带领东说念主Ilya Sutskever和Jan Leike文告下野。Leike在X上发帖称，OpenAI的“安全文化和历程，也曾让位于光鲜的家具”。

Altman其时在X上示意校园春色，看到Leike离开感到酸心，并承认OpenAI还有好多责任要作念。不久之后，OpenAI集结创举东说念主Greg Brockman在X上发表了一份声明，强调公司也曾“提升了对AGI风险和机遇的意志，以便宇宙大概更好地为此作念好准备”。

Leike团队OpenAIMadry微软发布于：北京市声明：该文不雅点仅代表作家本东说念主，搜狐号系信息发布平台，搜狐仅提供信息存储空间工作。