-
Kris:马斯克大战奥特曼,竟然是个硅谷宗教故事?
奥特曼还爆料说,马斯克老在开源上做文章,说OpenAI起这个名字就是要open source,让大家技术共享。但其实OpenAI的首席科学家苏茨克维早就跟你说过,开源这条路不可行,太不安全,研究成果可以公开让大家免费用,但模型背后的科学原理不能开源,否则天下大乱,不知几人称帝几人称王,而这是你马斯克在邮件里明确承认的,怎么今天在大众面前装糊涂呢?唉,一个当初我们敬重的人,激励我们奋斗的人,如今看到我们取得一点点成绩,就来背刺,真是可悲啊。
马斯克发推文声称:“OpenAI最初是作为一个开源非盈利机构来抗衡谷歌,我才将其命名为‘Open’AI,但现在他们却变成了一家封闭的、追求最大利润的、被微软有效控制的企业。这完全和我的初衷相悖。”(图片来源:推特截图)
马斯克离开之后,另立门户搞了个xAI,做的聊天机器人叫GrokAI,成了OpenAI的竞争对手,还宣布自己反正会开源,把压力给到奥特曼这边。他想让OpenAI开放前面提到的Q*。Q*是OpenAI取得的重大突破,他们内部邮件里承认它是超越人类的自主系统,但多的没说。外界只能根据各种蛛丝马迹猜测,它结合了搜索寻路的A*和强化学习的Q-learning,可以快速求解,省掉大量被浪费的算力,也就更接近AGI,而这个125万亿参数的模型,可能是一只耗电量超过小城镇的怪兽。
马斯克最头疼的,无疑是这样的技术,可能最终落在微软手里。微软何许人也,市值3万亿美元的头号资本巨兽,是谷歌的1.8倍,特斯拉的5倍,他家现金奶牛就算挤爆了,也就只够洒洒水。所以他当然希望逼OpenAI开放Q*,总之不能落在微软手里。所以他的诉讼看似针对奥特曼,其实是跟微软过不去。
怎么阻击微软呢?前面说了,微软入局时签了份协议,一旦OpenAI董事会认为自己开发出了AGI,那么就要给微软技术断供,直到董事会重新商议决定。如果AI真的像马斯克、奥特曼等人当初说的那样,会对人类存在构成根本性威胁,那么OpenAI的董事会可以说掌握着人类命运的钥匙。
好,那OpenAI的董事会干了什么呢?如果你关注AI,一定记得去年年底的大新闻,OpenAI的宫廷政变。董事会突然宣布解雇CEO奥特曼,结果员工造反了,联名写公开信,要求解散董事会,让奥特曼回归,重组新董事会,否则将跟奥特曼一起集体跳槽去微软。诉求如此具体,背后谁在推动,用脚也能想出来。后来的事大家也知道,奥特曼如闪电般归来,给董事会大换血。
开除奥特曼的董事会有六个人,除了创始人奥特曼和布洛克曼,另外几个应该是逼宫的执行者,AI智库研究员海伦·透纳、兰德公司科学家塔莎·麦考利,Quora创始人亚当·德安吉罗,以及整件事核心,OpenAI的灵魂人物、首席科学家苏茨克维。奥特曼回归后,旧董事会被砍到只剩德安吉罗,他应该是个摇摆票。奥特曼引入了另外两人,一个是业内人士布雷特·泰勒,这是应员工要求,另一个就奇怪了,是美国前财长、哈佛前校长、众多企业的董事和顾问拉里·萨默斯。然后今年三八节董事会又引入三位女性,再加奥特曼自己,扩容到七位。
旧董事会和新董事会比较,最明显的区别是,旧董事会有很深的非营利色彩,意识形态方面属于有效利他主义,以其道德原则来指导非营利组织的运作;而新董事会成员高度精英化,几乎全都有很深的政商背景,看他们的关联人物都是一个个熟悉的姓名,什么盖茨夫妇、克林顿夫妇、爱泼斯坦。
其中尤其萨默斯的争议最大,08年金融危机的锅很大一部分得他来背,美国现在这个舆论氛围,顶级公共知识分子最遭人唾弃。有网友毒舌评论,萨默斯是那种坚定不移站在人民对立面的精英,AI落到这种人手上基本完蛋,不过还好他只是第二糟糕的选择,因为最糟糕的人选基辛格已经死了。为什么OpenAI找这帮人呢?我个人的理解是OpenAI想打通节点,获得资源,快速前进,就要摆脱一切拖后腿的因素,甚至忽略某些安全风险。
美国前财政部长萨默斯(图片来源:IC photo)
其实直到现在,OpenAI宫斗的缘由仍然秘而不宣。表面的理由是旧董事会认为奥特曼不坦诚。不坦诚可大可小,到底啥意思?《纽约时报》最近引用匿名消息源,有人认为就是透纳和麦考利,说奥特曼的领导风格有问题,太爱玩弄权术,喜欢PUA,操控欲太强,导致高层集体反感。真的吗?这么多年都共事下来了,咋突然就忍不了了呢?是不是还有其他事不坦诚?
确实,他以个人名义瞒着董事会跟微软合伙搞了个风投基金,叫OpenAI Statup fund,名字虽然这么起,但架构跟OpenAI毫无关系。为什么要跟微软搞暧昧?我倾向于猜测,OpenAI的旧董事会在某种新技术的认定上产生了分歧,涉及到内部表决要不要继续跟微软合作。奥特曼应该是希望继续的一派,另一派可能希望停下来,微软当然支持奥特曼,于是帮他复辟。
这种猜测是有迹可循的,就在政变前夕,OpenAI的研究人员向董事会发出警示,说发现了可能威胁人类的AI,对它的威力苏茨克维有深刻的认识,这恐怕才是他率领董事会解雇奥特曼的真实原因。苏茨克维作为神经网络专家,他和他的老师深度学习之父杰弗里·辛顿近年来都不断强调AI安全风险,可能不受人类控制,导致利益冲突,所以他特别提倡超级对齐,就是确保AI必须遵照人类的价值观和目标来行动。他到底看到了什么技术突破,又认为这项意味着什么,为什么不安全呢?现在没人知道,因为苏茨克维神秘消失了。
外界只能猜,也许这个东西就是Q*。
标签-
本文仅代表作者个人观点。
- 责任编辑: 德力格尔
-
1谁在阻碍中国人了解印度的饮食评论 84 赞 2
2拼低工资?我认识好几个造船厂的管理者,太了解造船了评论 81 赞 53
3粤语童谣纳入了人教版音乐课,让外省孩子们多学方言,这是文化自信的表现评论 57 赞 5
4胡塞武装势如破竹!美国力不从心,沙特危矣评论 40 赞 38
5张雪称儿子考60分就很好,并劝年轻人努力搬砖,如何看待他的观点?评论 32 赞 3
6中东战争给美国亚太盟友上了一堂地缘课评论 27 赞 5
7初中没上完的发小相信大明统治了全世界评论 27 赞 0
8暴雨夜,两个壮汉当街拖走一个18岁女孩,谁在给“卖女儿”开绿灯?评论 23 赞 23
9一次打坏12架战机!美空军基地遭伊朗导弹重击,伊朗导弹越打越准!评论 23 赞 19
10全世界把英语纳入基础教育的确实很普遍评论 20 赞 12最新闻 Hot-
“胡塞主动联系,希望美国‘不要介入’”
-
36年来首次!智利政府不举行阿连德纪念仪式
-
“瑞典民主党若首次入阁,将进一步呼应欧洲极右翼”
-
欧洲央行行长:当前通胀冲击将持续更长时间
-
“特朗普说给美国选民听的”
-
“小博索纳罗有份反华文件,背后藏着万斯的影子”
-
沙特关键输油管道遇袭,“预防性关闭”
-
乌方放风:正准备于10月恢复谈判,三方一起谈
-
法拉奇不到24小时吸金7200万英镑,“远超英国两大党”
-
“我乐见爱尔兰统一”,英国:???
-
俄罗斯警告:在切尔诺贝利禁区,乌军有大动作
-
离谱!特朗普:人类灭绝?我就担心中国…
-
“这是一次又一次的背叛”
-
911纪念仪式,穆斯林市长还是去了
-
“瑞典不得不服软,中国太硬”
-
日本前外相岩屋毅等将访华,“感谢中方接受”
-

观察员









上海市互联网违法与不良信息举报中心