全文1049字,阅读约需3分钟,帮我划重点
划重点
01OpenAI首席实行官Sam Altman将脱离负责监视关键安全决议的内部委员会。
02由卡内基梅隆大学传授Zico Kolter担当主席的新安全委员会将独立监视OpenAI的模子发布。
03安全委员会对OpenAI的最新AI模子o1举行了安全检察,只管Altman仍到场此中。
04由于安全题目,OpenAI将继承定期担当安全团队简报,并保存推迟发布的权利,直到题目得到办理。
05只管Altman去职,险些没有迹象表明安全委员会会做出严峻影响OpenAI贸易门路图的艰巨决定。
以上内容由腾讯混元大模子天生,仅供参考
鞭牛士报道,9月17日消息,据外电报道,OpenAI 首席实行官 Sam Altman 将脱离 OpenAI 于 5 月建立的内部委员会,该委员会负责监视与公司项目和运营相干的关键安全决议。
OpenAI在本日的一篇博文中表现,安全与保障委员会将成为由卡内基梅隆大学传授Zico Kolter担当主席的独立董事会监视小组,成员包罗 Quora 首席实行官 Adam D'Angelo、美国退役陆军将军 Paul Nakasone 和前索尼实行副总裁 Nicole Seligman。
他们都是 OpenAI 董事会的现任成员。
OpenAI 在帖子中指出,委员会对OpenAI 的最新 AI 模子o1举行了安全检察——只管 Altman 仍到场此中。该公司表现,该小组将继承定期担当 OpenAI 安全团队的简报,并保存推迟发布的权利,直到安全题目得到办理。
OpenAI 在帖子中写道:作为其工作的一部门,安全委员会将继承定期收到有关当前和将来模子的技能评估陈诉,以及连续发布后监测陈诉。昨们正在基于昨们的模子发布流程和实践,创建一个综合的安全框架,明白界说模子发布的乐成尺度。
Altman 脱离安全与保障委员会之前,五名美国参议员在本年炎天致 Altman 的一封信中对 OpenAI 的政策提出了质疑。
OpenAI 曾经专注于人工智能恒久风险的员工中,近一半已经去职,前 OpenAI 研究职员责怪Altman 反对真正的人工智能羁系,而倾向于推进 OpenAI 企业目的的政策。
正如他们所说,OpenAI 大幅 增长了 在联邦游说方面的付出,2024 年前六个月的预算为 80 万美元,而客岁整年的预算为 26 万美元。
本年春天早些时间,Altman 还参加了美国国土安全部的人工智能安全与安保委员会,该委员会为美国关键底子办法中人工智能的开辟和摆设提供发起。
纵然 Altman 被革职,也险些没有迹象表明安全委员会会做出严峻影响 OpenAI 贸易门路图的艰巨决定。
值得留意的是,OpenAI 在 5 月份表现,它将寻求通过委员会办理对其工作的有用品评——固然,有用品评取决于观看者的见解。
5 月份,OpenAI 前董事会成员海伦·托纳 (Helen Toner) 和塔莎·麦考利 (Tasha McCauley)在《经济学人》的 一篇专栏文章中表现,他们以为现在的 OpenAI 不值得信托,无法负担责任。
他们写道:根据昨们的履历,昨们以为自治无法可靠地蒙受利润鼓励的压力。
而OpenAI的红利鼓励还在不停增长。
据传,该公司正在筹集65 亿美元以上的资金,这将使 OpenAI 的估值凌驾 1500 亿美元。为了告竣这笔生意业务,OpenAI 大概会放弃其混淆非营利性公司布局,该布局旨在限定投资者的回报,部门缘故原由是确保 OpenAI 与其首创任务保持同等:开辟造福全人类的通用人工智能。 |
|