用户名:  密码:   
网站首页即时通讯活动公告最新消息科技前沿学人动向两岸三地人在海外历届活动关于我们联系我们申请加入
栏目导航 — 美国华裔教授专家网科技动向科技前沿
关键字  范围   
 
OpenAI前首席科学家Ilya创立新公司,瞄准超越AGI的“超级人工智能”和绝对的AI安全
作者:李然然 | 2024/6/21 15:38:59 | 浏览:418 | 评论:0

前OpenAI首席科学家Ilya终于官宣了自己的新动向——成立一家致力于追求人工智能安全的新公司:Safe Superintelligence Inc.(SSI)。

OpenAI前首席科学家Ilya创立新公司,瞄准超越AGI的“超级人工智能”和绝对的AI安全

彭博社报道截图

今天Ilya在X上转发了三位SSI联合创始人的公开信,正式开启招聘。

超级智能触手可及

构建安全的超级智能(SSl)是我们这个时代最重要的技术问题。

我们已经启动了世界上第一个直指超级智能安全实验室,目标和产品只有一个:安全的超级智能。

我们把它命名为安全超级智能公司。

SSl是我们的使命、名称和整个产品路线图,因为它是我们唯一的关注点。

我们将安全和能力视为需要通过革命性的工程和科学突破来解决的技术问题。我们计划在确保安全始终领先的同时,尽可能快地提高AI能力。

这样,我们就能专心地扩大规模。

我们的专注意味着不会受到管理费用或产品周期的干扰,我们的业务模式意味着安全、保障和进步都不会受到短期商业压力的影响。

我们是一家美国公司,在帕洛阿尔托和特拉维夫设有办事处,在那里我们根基深厚,有能力招募顶尖技术人才。

我们正在组建一支由世界上最优秀的工程师和研究人员组成的精干、严谨的团队,专注于超级人工智能的安全。

如果你是这样的人,我们将为你提供一个完成这项毕生事业的机会,帮助你解决我们这个时代最重要的技术挑战。

现在正是时候了,请加入我们。

最终,OpenAI的元老创始团队“一气化三清”,为世界贡献了3股力量——OpenAI,Anthropic,SSI,分头追求AGI和超越AGI的超级人工智能。

而且值得注意的是,Ilya在接受彭博社的专访中专门提到:

OpenAI前首席科学家Ilya创立新公司,瞄准超越AGI的“超级人工智能”和绝对的AI安全

来源:X

大模型将会在未来新的AI系统中扮演关键得角色,但新的系统将会更加强大。现在的大模型本质的能力就是对话,但是未来他们做出的AI系统将会有更加通用的能力以及更强的规模化能力。类似于一个可以自主研发新技术的超级数据中心。

OpenAI前首席科学家Ilya创立新公司,瞄准超越AGI的“超级人工智能”和绝对的AI安全

来源:X

SSI到底能够实现什么级别的AI,非常令人期待。

OpenAI宫斗大结局
而我们把时间线慢慢往回拨,捋一捋Ilya的出走过程。

5月15日,因为OpenAI宫斗被雪藏快半年的Ilya,终于正式官宣,离开它一手参与打造的OpenAI。当时他没有明确提出去向,只是说“会进行下一个对于他个人来说非常有意义的项目”。

OpenAI前首席科学家Ilya创立新公司,瞄准超越AGI的“超级人工智能”和绝对的AI安全

来源:网络

现在看来,对于Ilya来说,唯一有意义的事就是AI安全。

OpenAI前首席科学家Ilya创立新公司,瞄准超越AGI的“超级人工智能”和绝对的AI安全

来源:X

而从Ilya在公开信中的措辞,以及他对AI安全事业的坚持,我们也能看出,去年11月份,OpenAI突发的“宫斗”事件,不仅仅是普通的权力和政治斗争,而是OpenAI内部对于前进线路产生重大分歧后的矛盾爆发。

是否将产品发布和性能提升置于AI安全之上,Ilya和Sam Altman一定是有不同意见的。但是看着自己亲手创建的OpenAI正在分崩离析,他最后也选择在联名信上签名,挽回Sam Altman,即使他知道这样做的代价是自己将离开OpenAI。

OpenAI前首席科学家Ilya创立新公司,瞄准超越AGI的“超级人工智能”和绝对的AI安全

来源:Linkedin

现在回过头来看Ilya在宫斗事件后发的道歉推文:要在世人面前公开承认自己因为追求毕生理想而做的选择(放逐Altman)是“错误”的,还要因为维护OpenAI的完整性和声誉不得不离开自己曾经战斗过而现在也还深爱着的地方,是需要多么宽广的胸怀啊。

而最终,请回Sam Altman之后,OpenAI董事会改组。“AI安全派”董事被新的外部董事代替,最高权力机构中的制衡不复存在,OpenAI成了Sam Altman的OpenAI。

另外两位创始人介绍
再让我们看看,到底什么样背景的人,能够成为Ilya新公司的联合创始人。

Daniel Gross

OpenAI前首席科学家Ilya创立新公司,瞄准超越AGI的“超级人工智能”和绝对的AI安全
来源:个人网站

Daniel Gross,出生于以色列,是一名企业家和投资者,以其对创新技术和早期创业项目的深刻洞察而闻名。他在美国接受教育,开展职业生涯,曾在耶鲁大学专攻计算机科学,并在此期间开始了他的技术创业之旅。Gross 的职业生涯跨越了技术创新、风险投资和人工智能等多个领域。

职业经历:

OpenAI前首席科学家Ilya创立新公司,瞄准超越AGI的“超级人工智能”和绝对的AI安全

△Cue 会智能地将人们最常使用的帐户(包括电子邮件、联系人和日历)中的有用信息整合在一起并在合适的时间显示出来。人们可以一目了然地查看一整天的信息,也可以使用 Cue 同时搜索所有帐户。图源:Y Combinator

 

Daniel Gross 在大学期间作为联合创始人创立了 Cue(一款可以整合电子邮件、联系信息和社交网络数据的搜索引擎)。2013年,Cue 被苹果公司以高达4000万美元的价格收购。这次收购不仅为 Gross 提供了资金,也为他后续的事业打下了坚实的基础。

OpenAI前首席科学家Ilya创立新公司,瞄准超越AGI的“超级人工智能”和绝对的AI安全

我们是一个小团队,致力于寻找和资助世界上富有创造力和雄心勃勃的局外人——这些人可以创建伟大的公司,但可能没有资源或机会。图源:Pioneer官网

Cue 会智能地将人们最常使用的帐户(包括电子邮件、联系人和日历)中的有用信息整合在一起并在合适的时间显示出来。人们可以一目了然地查看一整天的信息,也可以使用 Cue 同时搜索所有帐户。图源:Y Combinator

2013-2017年,Gross 加入苹果公司,负责了多个与人工智能和搜索技术相关的项目,增强了他在 AI 领域的专业知识和经验。

离开苹果后,Gross 于2017年初加入 Y Combinator(著名的创业孵化器和风险投资公司)担任合伙人。在 Y Combinator,他在 AI 领域对众多初创企业进行了筛选和指导,提供了大量帮助。

2018年,Daniel Gross 创立了 Pioneer,这是一个通过在线竞赛来发现和支持全球创新、创业人才的平台。参与者需要提交他们的项目想法,并通过一系列的挑战和任务来展示他们的创新能力和执行力。这些任务大多模拟创业过程中的各种挑战,从而测试参与者的问题解决能力和持久性。

 

Daniel Levy

OpenAI前首席科学家Ilya创立新公司,瞄准超越AGI的“超级人工智能”和绝对的AI安全
来源:个人Linkedin

Daniel Levy在2022年加入OpenAI,担任优化团队(Optimization team)负责人。

他于2015年,在巴黎综合理工学院(Ecole Polytechnique)获得理学学士,专业为应用数学(Applied Mathmetics)。2018年,获得计算机科学(Computer Science)硕士学位,导师为斯蒂法诺·埃尔蒙(Stefano Ermon),硕士阶段主要研究概率模型和强化学习(probabilistic models and reinforcement learning)。2021年,继续在斯坦福大学攻读并获得计算机科学(Computer Science)博士学位,导师为约翰·杜奇(John Duchi),斯坦福大学统计和电子工程副教授。攻读博士期间经过导师指导,研究领域是机器学习、优化和隐私保护(machine learning, optimization, and privacy)的前沿技术。

职业经历:
2016年,曾在Facebook应用机器学习部门实习。

2017年,曾在Google Brain实习,期间与Jascha Sohl-Dickstein和Matt Hoffman共事。

2020年,曾在Google Research实习,期间与Ananda Theertha Suresh、Satyen Kale和Mehryar Mohri共事。




相关栏目:『科技前沿
如何绘制Nature漂亮的机制示意图? 2024-06-29 [276]
加州大学颠覆性大模型架构,FPGA重回AI舞台? 2024-06-29 [316]
2024年最新影响因子(完整版)已更新!2024年最新影响因子(完整版)已更新! 2024-06-21 [504]
苹果AI一夜颠覆所有!Siri史诗级进化,内挂ChatGPT-4o,奥特曼来了,马斯克怒了 2024-06-13 [617]
Transformer结合U-Net登上Nature子刊!最新成果让精度和效率都很美丽 2024-06-13 [621]
大撕裂理论:220亿年后宇宙终结,地球将在宇宙终结前几分钟毁灭 2024-06-08 [767]
我们看见暗物质了吗? 2024-06-07 [705]
如果不流浪地球,能直接住在流浪行星上吗? 2024-06-07 [685]
宇宙大爆炸并不存在?量子模型预测宇宙无始无终 2024-06-04 [819]
人类夜视力大突破?澳洲发明超薄薄膜,贴眼镜上昼夜视物两不误! 2024-06-04 [830]
相关栏目更多文章
最新图文:
游天龙:《唐人街》是如何炼成的:UCLA社会学教授周敏的学术之路 :“为什么海外华人那么爱国,但是让他回国却不愿意?...“ :学术出版巨头Elsevier 彻查433名审稿人“强迫引用”黑幕 :中国336个国家重点实验室布局 :中澳政府联合出手打击洗钱和逃税漏税 大量中国居民海外账户遭冻结 :摄影师苏唐诗与寂寞百年的故宫对话6年,3万张照片美伦美奂 :大数据分析图解:2019中国企业500强 张梦然:英国惠康桑格研究所:人体内的微生物与出生方式有关
更多最新图文
更多《即时通讯》>>
 
打印本文章
 
您的名字:
电子邮件:
留言内容:
注意: 留言内容不要超过4000字,否则会被截断。
未 审 核:  是
  
关于我们联系我们申请加入后台管理设为主页加入收藏
美国华裔教授专家网版权所有,谢绝拷贝。如欲选登或发表,请与美国华裔教授专家网联系。
Copyright © 2024 ScholarsUpdate.com. All Rights Reserved.