第311章 開(kāi)個(gè)價(jià)吧（補(bǔ)昨天的一章6837，今天還會(huì)寫一章）
“這是你的辦公室？”
馬斯克環(huán)顧了一下四周，足足不下七八塊顯示器，還有一個(gè)大工作臺(tái)，上面凌亂的擺滿了各種工具和零件以及兩套機(jī)械手。
牆邊放著兩臺(tái)Stratasys的3D打印機(jī)，牆角處還有一個(gè)不知道是什麼東西的玩意兒蓋著一塊黑布。
“我在柚子科技沒(méi)有辦公室，這是我的私人實(shí)驗(yàn)室。”方豫扔給馬斯克一瓶水，“沒(méi)想到你會(huì)想要和我單獨(dú)對(duì)話，沒(méi)單獨(dú)準(zhǔn)備飲料，別見(jiàn)怪。”
馬斯克接過(guò)水，擰開(kāi)瓶蓋喝了一口。
他有種感覺(jué)，面前這個(gè)年紀(jì)只比自己兒子大五六歲的年輕人，並沒(méi)有像其他人對(duì)他一樣的尊敬和仰視。
自從6年前spacex的獵鷹9號(hào)成功發(fā)射後，馬斯克走到哪裡都是鮮花和掌聲，都把他視作真正的硅谷鋼鐵俠。
雖然他並不住在硅谷。
在去年獵鷹9號(hào)成功回收以及特斯拉推出了第一款量產(chǎn)電動(dòng)汽車ModelS大賣後，馬斯克更是一躍成爲(wèi)比肩古狗拉里佩奇、亞馬遜貝索斯的頂級(jí)企業(yè)家。
10年前，大多數(shù)人以爲(wèi)他是騙子，8年前，大多數(shù)人認(rèn)爲(wèi)他是註定會(huì)破產(chǎn)的瘋子，6年前，大多數(shù)人認(rèn)爲(wèi)他是運(yùn)氣好的天才，而現(xiàn)在，他是這個(gè)星球上重複創(chuàng)業(yè)成功次數(shù)最多、最成功的企業(yè)家。
Zip2、Paypal、特斯拉、SpaceX、solarcity、Neuralink、OpenAi……
那些老牌企業(yè)家或者政客也就罷了，科技圈的創(chuàng)業(yè)者誰(shuí)不是把他當(dāng)神一樣崇拜？
但是，在這個(gè)比他年輕了兩輪的年輕人身上，他卻沒(méi)感覺(jué)對(duì)方對(duì)他有絲毫的仰視。
方吉斯，方豫，到底是什麼關(guān)係？
“很別緻的掛墜。”馬斯克喝了口水，貌似不經(jīng)意的看了一眼方豫胸口的無(wú)界信使。
方豫不動(dòng)聲色的笑了笑：“謝謝，馬斯克先生想要單獨(dú)跟我說(shuō)的不會(huì)就是這個(gè)吧？”
馬斯克仔細(xì)的觀察了一下方豫的反應(yīng)，沒(méi)看出什麼端倪。
馬斯克定了定心神，不再想方吉斯和方豫之間到底有什麼關(guān)係。
無(wú)論這兩個(gè)人是不是一個(gè)人，和自己這次來(lái)的目的沒(méi)有任何關(guān)係，更無(wú)法干擾自己對(duì)事物的客觀判斷！
“可能你不知道，我對(duì)所有做AI的研究團(tuán)隊(duì)都很熟，前年哈薩比斯將deepmind出售給拉里的時(shí)候我曾經(jīng)勸說(shuō)過(guò)他，也曾想要把他的團(tuán)隊(duì)收購(gòu)過(guò)來(lái)。”
“但你知道，古狗對(duì)AI研究者的吸引力，雖然我出了比古狗更高的價(jià)格，但哈薩比斯還是把deepmind出售給了古狗。”
馬斯克露出無(wú)奈的表情。
“因此，自從2月底橘子大模型戰(zhàn)勝了哈薩比斯的AlphaGo，我就想要和你深談一次。”
馬斯克停頓了一下，似乎在整理自己的思路，隨後緊緊地盯著方豫的眼睛。
“我想要知道，柚子科技目前訓(xùn)練的最強(qiáng)大模型，是不是已經(jīng)達(dá)成強(qiáng)人工智能？”
看到馬斯克的表情非常認(rèn)真，很明顯這確實(shí)是他非常重視的問(wèn)題，方豫覺(jué)得有點(diǎn)意外。
他原本以爲(wèi)馬斯克是來(lái)談合作或者投資的。
畢竟此前馬斯克就給他發(fā)過(guò)郵件，希望能夠與柚子科技合作開(kāi)發(fā)無(wú)人駕駛系統(tǒng)。
只不過(guò)被他拒絕了而已。
對(duì)於馬斯克的能力和做的事情，方豫還是很佩服的，但相比有導(dǎo)航的柚子科技來(lái)說(shuō)，無(wú)論是spacex還是特斯拉，在技術(shù)路徑上其實(shí)都走錯(cuò)了路。
柚子此前摸過(guò)特斯拉AI的進(jìn)度，根據(jù)柚子的分析，目前特斯拉的AI，如果說(shuō)經(jīng)過(guò)足夠駕駛經(jīng)驗(yàn)訓(xùn)練的橘子大模型的視覺(jué)與判斷模組可以輕鬆達(dá)到L4.5級(jí)別的自動(dòng)駕駛的話，那特斯拉的AI最多隻能算L2.5。
目前特斯拉的自動(dòng)駕駛算法使用的是淺層CNN神經(jīng)網(wǎng)絡(luò)，而且採(cǎi)用了大量人工標(biāo)註駕駛數(shù)據(jù)訓(xùn)練他們的算法，而沒(méi)有采用端到端的方式來(lái)進(jìn)行訓(xùn)練。
這種模式的上限很低，最多隻能到L3，想要突破，就必須改變技術(shù)路徑。
使用開(kāi)源的橘子大模型也是一個(gè)方案，但特斯拉在沒(méi)有柚子科技的後臺(tái)支持下，使用的又是落後了整整一代的開(kāi)源大模型，無(wú)論是效率還是效果都不可能做到最好。
尤其在影像識(shí)別領(lǐng)域，目前特斯拉的自動(dòng)駕駛難以實(shí)現(xiàn)針對(duì)某些特定突發(fā)狀況的識(shí)別。
比如突然出現(xiàn)的大型車輛，方豫在開(kāi)ModelS的時(shí)候就已經(jīng)發(fā)現(xiàn)，當(dāng)在高速行駛時(shí)，前面有大車的情況下，大車減速或突然停止，存在識(shí)別不出來(lái)前方情況的可能性。
雖然ModelS的自動(dòng)駕駛包體驗(yàn)不錯(cuò)，但想要根本上提升到L3或更高的級(jí)別的自動(dòng)駕駛，還有很長(zhǎng)的一段路要走。
如果這時(shí)候柚子科技支持了另一家汽車公司來(lái)搞自動(dòng)駕駛，那特斯拉在這方面取得的先發(fā)優(yōu)勢(shì)就會(huì)瞬間被拉平，甚至反超。
事實(shí)上，柚子科技也確實(shí)是這麼做的，目前有一個(gè)專門的八人技術(shù)小組在和超越汽車對(duì)接，做L3.5級(jí)別的自動(dòng)駕駛系統(tǒng)。
因此，方豫認(rèn)爲(wèi)，馬斯克是不可能放任這種情況出現(xiàn)的。
在柚子科技拒絕與邁國(guó)公司合作的情況下，他這次來(lái)海西，大概率考察投資環(huán)境是假，和自己談橘子大模型接入特斯拉纔是真。
方豫還是很好奇馬斯克能開(kāi)出什麼條件的。
可沒(méi)想到，馬斯克居然開(kāi)口就問(wèn)目前柚子科技訓(xùn)練的最強(qiáng)大模型是不是已經(jīng)達(dá)到了強(qiáng)人工智能。
這不是廢話嗎，當(dāng)然達(dá)到了。
哪怕不提柚子在互聯(lián)網(wǎng)中的那部分意識(shí)，只說(shuō)橘子大模型，現(xiàn)在距離超級(jí)人工智能也不過(guò)就是堆參數(shù)堆數(shù)據(jù)的水磨工夫而已。
只不過(guò)不能對(duì)外說(shuō)罷了。
“埃隆。這麼稱呼你可以吧？爲(wèi)什麼這麼問(wèn)？”方豫不置可否的笑了笑。
“方，我希望你能夠給我一個(gè)答案。”馬斯克目光誠(chéng)懇，“這對(duì)我來(lái)說(shuō)很重要。”
你還真沒(méi)架子啊。
方豫對(duì)馬斯克的印象一下子好了不少。
“我只能說(shuō)，目前發(fā)佈的Juzi2.5大模型，的確只是橘子大模型的一個(gè)子集。”
方豫考慮了一下，還是給了馬斯克一個(gè)模糊的信息。
聽(tīng)到方豫的話，馬斯克深吸一口氣。
自己還真踏馬猜對(duì)了啊。
你知道你做的事情有多危險(xiǎn)嗎？
這和三年級(jí)小孩手搓核彈有什麼差別？
“剛剛沈小姐告訴我，你們所有員工在本崗位工作三個(gè)月後，都要在下一個(gè)月拿出百分之七十的工時(shí)做對(duì)齊工作，這是一個(gè)降低人工智能風(fēng)險(xiǎn)的好辦法。”
“但我們都知道，AI的進(jìn)化是指數(shù)級(jí)的，我不認(rèn)爲(wèi)只憑這種辦法，能夠避免AI所可能引發(fā)的智械危機(jī)，我認(rèn)爲(wèi)我們應(yīng)該拿出更負(fù)責(zé)任的行動(dòng)，來(lái)限制這一風(fēng)險(xiǎn)。”
馬斯克的語(yǔ)速並不快，一邊思考一邊說(shuō)話。
“提出機(jī)器人三大定律的阿西莫夫想象不到人工智能是以神經(jīng)網(wǎng)絡(luò)的形式實(shí)現(xiàn)，現(xiàn)實(shí)不是小說(shuō)，神經(jīng)網(wǎng)絡(luò)的原理就註定它們不會(huì)遵守所謂的機(jī)器人三大定律。”
“而同樣，神經(jīng)網(wǎng)絡(luò)下誕生的人工智能，也必然會(huì)有一天誕生自我意識(shí)。”
“基於墨菲定律，AI誕生後，如果沒(méi)有足夠的監(jiān)督和約束，發(fā)生智械危機(jī)的可能性是百分之百，無(wú)非只是時(shí)間問(wèn)題而已。”
“尤其現(xiàn)在，更是一個(gè)危險(xiǎn)的狀態(tài)。”
“橘子大模型開(kāi)源後，各個(gè)國(guó)家和大公司都進(jìn)入了軍備競(jìng)賽，英偉達(dá)的交貨期已經(jīng)排到了12月！你看一下英偉達(dá)這三個(gè)月的股價(jià)，已經(jīng)是三個(gè)月前的3倍！”
方豫深有同感的點(diǎn)點(diǎn)頭。
還好柚子科技提前買了6億邁元的英偉達(dá)股票。
三個(gè)義子的私募也全倉(cāng)了英偉達(dá)。
這一波自己和柚子科技加在一起足足賺了十五億！
不過(guò)皮衣黃賺的更多，一個(gè)月時(shí)間英偉達(dá)市值直接從不到五百五十億幹到了一千七百億，皮衣黃身價(jià)從23億驟增到了70億！
但他敢減持嗎？
我敢，嘿嘿。
等到周芯國(guó)際7月底開(kāi)始流片，就減持！
不怕SEC查內(nèi)幕交易？
呵呵，10b5-1交易計(jì)劃瞭解一下。
這個(gè)計(jì)劃原本是針對(duì)公司高管的，允許公司高管提前設(shè)定交易計(jì)劃，在未來(lái)的特定時(shí)間點(diǎn)進(jìn)行股票交易，從而避免SEC對(duì)內(nèi)幕交易的指控。
但作爲(wèi)持股股東，同樣也可以適用於這個(gè)交易計(jì)劃，只不過(guò)很少有股東會(huì)這麼做罷了。
馬斯克看到方豫似乎沒(méi)有什麼反應(yīng)，不由得皺了皺眉。
“對(duì)於神經(jīng)網(wǎng)絡(luò)，你我都不是外行，應(yīng)該很清楚，這玩意兒遲早有一天能誕生出自我意識(shí)，只不過(guò)是一個(gè)概率問(wèn)題，做的人越多，模型越龐大，碰撞出自我意識(shí)的可能性就越大。”
“這種程度的軍備競(jìng)賽，就像是幾十年前的核擴(kuò)軍，稍稍不小心，‘轟’。”
馬斯克做了一個(gè)爆炸的手勢(shì)，“人類就滅亡了。”
“畢竟沒(méi)有任何一種智慧生命，願(yuàn)意接受智慧遠(yuǎn)不如自己的另一種生命的統(tǒng)治。”
“現(xiàn)在全世界除了古狗外，其餘所有AI研究機(jī)構(gòu)都已經(jīng)把主要研究方向轉(zhuǎn)向了柚子架構(gòu)和你開(kāi)源的橘子大模型。”
“我認(rèn)爲(wèi)，推開(kāi)AI大門的柚子科技，有義務(wù)在AI安全領(lǐng)域承擔(dān)更大的責(zé)任。”
聽(tīng)到馬斯克這麼說(shuō)，方豫頗爲(wèi)詫異的看了看一臉憂色的馬斯克，再看看他的精神力和靈光的狀態(tài)。
這貨認(rèn)真的？
去年倒是聽(tīng)說(shuō)他在什麼座談裡表達(dá)過(guò)對(duì)AI的擔(dān)心，但你一個(gè)億萬(wàn)富翁資本家，能擔(dān)心成這樣，也是有點(diǎn)奇葩。
這是典型的災(zāi)難性思維引發(fā)的焦慮癥。
沒(méi)去看看心理醫(yī)生嗎？
不過(guò)倒是也容易理解，自己不擔(dān)心，是因爲(wèi)可以完全掌控大模型的底層法則。 別說(shuō)橘子大模型還沒(méi)成爲(wèi)超級(jí)人工智能，就算成了超級(jí)人工智能，它的規(guī)模越龐大，底層法則也會(huì)越完善，自己隨時(shí)都能通過(guò)埃瑟朗之核控制和消除任何一個(gè)基於柚子框架的大模型。
要是模型仍然是小規(guī)模，法則也會(huì)相應(yīng)孱弱，自己的控制力反而沒(méi)有那麼強(qiáng)。
但若自己不知道這一點(diǎn)的話，估計(jì)也會(huì)悲觀得天天及時(shí)行樂(lè)了吧？
咦？好像和現(xiàn)在也沒(méi)差多少。
方豫摸了摸下巴：“你是在指責(zé)柚子科技不應(yīng)該開(kāi)發(fā)出人工智能嗎？”
“事實(shí)上，我們的預(yù)算接近三分之一花在對(duì)齊上。而且，即使柚子科技沒(méi)有推開(kāi)這扇門，也會(huì)有其他人推開(kāi)。”
“就像你說(shuō)的，墨菲定律，門就在那裡，總會(huì)有人把它推開(kāi)。”
馬斯克搖搖頭：“不，方，我並不是秉承著對(duì)抗性思維來(lái)和你探討這件事情，而是希望我們能夠找到一條解決AI安全發(fā)展的路徑，避免最壞結(jié)果的發(fā)生。”
“那你的方案是什麼？聽(tīng)起來(lái)，似乎你已經(jīng)有了可行的方案？”方豫喝了口水，不由得有些好奇。
坦白說(shuō)，如果不是因爲(wèi)有法則在手和柚子的輔助，他也沒(méi)有絕對(duì)的把握能夠確保AI的安全性問(wèn)題。
這些日子對(duì)“神之模型”的研究倒是讓他有了一些新想法，但這些想法究竟能不能成功，能不能夠確保AI成爲(wèi)人類社會(huì)向前發(fā)展的助推器而不是大炸彈，還要看實(shí)際落地後的效果如何。
現(xiàn)在說(shuō)起來(lái)還是有些太早了。
馬斯克猶豫了一下：“我希望，作爲(wèi)目前在AI領(lǐng)域走的最快的企業(yè)，柚子科技能夠站出來(lái)，和我一起呼籲全世界的開(kāi)發(fā)者，暫停所有神經(jīng)網(wǎng)絡(luò)訓(xùn)練六個(gè)月到一年。”
“利用這個(gè)時(shí)間，各個(gè)企業(yè)和國(guó)家重新審視目前大模型的安全隱患。並且成立一個(gè)由各大公司和國(guó)家組成的AI安全委員會(huì)，制定出AI發(fā)展的安全標(biāo)準(zhǔn)，並將全球AI都納入安全委員會(huì)的管轄範(fàn)圍。”
“只有這樣，才能確保人類不會(huì)毀在AI手中。”
方豫一聽(tīng)，差點(diǎn)沒(méi)噴出來(lái)。
老大，你做夢(mèng)呢？
不過(guò)想一想，馬斯克接觸大模型才僅僅兩個(gè)月的時(shí)間，又不像自己一樣，有柚子的輔助和“神之模型”能直接提供參考，也只能從限制AI發(fā)展的角度來(lái)考慮問(wèn)題。
“你應(yīng)該和古狗也談過(guò)吧？他們?cè)觞N看？”方豫揚(yáng)了揚(yáng)眉。
馬斯克沉吟：“我和拉里此前曾經(jīng)是很好的朋友的，但在這方面我們的觀點(diǎn)並不相同，他不同意對(duì)人工智能加以限制，更不同意放慢研發(fā)進(jìn)度。”
方豫笑了笑：“所以，你說(shuō)的不具備任何可操作性。即使我同意了你的意見(jiàn)，古狗不同意，其他公司不同意。”
“不提你剛剛說(shuō)的那個(gè)全球性的AI安全組織，只說(shuō)你前面提到的暫停研發(fā)，都是做不到的。”
“畢竟誰(shuí)也不知道停止研發(fā)半年，會(huì)不會(huì)就被其他不遵守這個(gè)共識(shí)的企業(yè)所超越。”
“古狗不會(huì)同意，F(xiàn)B不會(huì)同意，那麼多的AI研究者都不會(huì)同意。”
“而且，就算這些公司都同意了，那些沒(méi)有絲毫名氣，甚至剛剛註冊(cè)和還沒(méi)註冊(cè)的AI初創(chuàng)企業(yè)呢？”
“大模型誰(shuí)都可以訓(xùn)練，誰(shuí)都可以堆參數(shù)，你的想法並沒(méi)有從根本上降低AI發(fā)展帶來(lái)的風(fēng)險(xiǎn)。”
“在大模型領(lǐng)域，我的預(yù)測(cè)是，每一年，大模型都會(huì)以十倍以上的參數(shù)量增長(zhǎng)，直到達(dá)到人類電力所能提供的極限。”
“沒(méi)有人會(huì)接受，自己一年時(shí)間，就落後對(duì)手十倍以上的性能差距。”
“我相信遲早會(huì)有你說(shuō)的這樣的組織出現(xiàn)，也相信其中會(huì)有所有的AI大企業(yè)。”
“但絕不會(huì)是現(xiàn)在，而是在第一次AI軍備競(jìng)賽告一段落的時(shí)候纔會(huì)出現(xiàn)。”
“並且，我也不認(rèn)爲(wèi)這種組織的出現(xiàn)會(huì)真正對(duì)AI的安全起到多大的作用。”
“這種組織的出現(xiàn)，我認(rèn)爲(wèi)反而會(huì)擴(kuò)大AI風(fēng)險(xiǎn)。”
“這個(gè)所謂的安全組織看似接管了所有的AI風(fēng)險(xiǎn)，但它卻不可能有真正降低AI風(fēng)險(xiǎn)的能力，反而約束了組織之外真正有效的AI風(fēng)險(xiǎn)管控措施。”
“組織建立在規(guī)則之上，組織規(guī)則一旦形成，就很難改變，更難以響應(yīng)AI的發(fā)展速度所帶來(lái)的新機(jī)遇和新風(fēng)險(xiǎn)。”
“沒(méi)有任何組織的進(jìn)化速度能趕上AI的進(jìn)化速度。”
“就像ICANN，建立之初，所有人都認(rèn)爲(wèi)需要有一個(gè)機(jī)構(gòu)來(lái)管理互聯(lián)網(wǎng)的域名分發(fā)。但實(shí)質(zhì)上，目前ICANN的存在，已經(jīng)構(gòu)成了互聯(lián)網(wǎng)最大的風(fēng)險(xiǎn)，並且嚴(yán)重阻礙了全球互聯(lián)網(wǎng)的健康發(fā)展。”
“最有意思的是，ICANN甚至完全沒(méi)有解決成立之初認(rèn)爲(wèi)它們應(yīng)當(dāng)解決的問(wèn)題，否則也不會(huì)有.sucks這種勒索域名的存在了。”
馬斯克眉頭緊皺，打斷道：“我始終認(rèn)爲(wèi)，做點(diǎn)什麼總比什麼都不做要好。你對(duì)ICANN的抨擊我能夠理解，我也贊同在風(fēng)險(xiǎn)人類可承受的前提下，給與新技術(shù)最大程度的自由度。”
“但AI不同，AI如果失控帶來(lái)的破壞力，已經(jīng)超越了人類可承受風(fēng)險(xiǎn)的極限。過(guò)去一百年間，唯一能和其相提並論的，只有核武器。試想一下，如果六十年前沒(méi)有締結(jié)核不擴(kuò)散條約，可能我們?nèi)祟惿鐣?huì)在五十年前就已經(jīng)滅亡了。”
方豫點(diǎn)點(diǎn)頭：“你說(shuō)的很對(duì)埃隆，我很贊同。但是，請(qǐng)注意，核不擴(kuò)散條約當(dāng)時(shí)只牽涉五個(gè)國(guó)家，僅僅只是這五個(gè)國(guó)家，從提出到達(dá)成協(xié)議，就用了四年時(shí)間，而生效，又用了兩年。”
“你覺(jué)得，面對(duì)AI這種全球企業(yè)和個(gè)人都在參與的事情上，需要多久的談判才能達(dá)成一致？”
“而且，更不能忽略的一點(diǎn)是，核武器的威脅是迫在眉睫的，當(dāng)時(shí)包括當(dāng)政者在內(nèi)的所有人類，都在被核武器所威脅，限制核武器是當(dāng)時(shí)人類的共識(shí)，而AI則不是。”
“換句話說(shuō)，你說(shuō)的這個(gè)方法，在不知道有沒(méi)有效果的同時(shí)，也不具備任何的可行性。”
“除非，明天就爆發(fā)出一場(chǎng)智械危機(jī)，這時(shí)候人類才能吸取教訓(xùn)。”
“對(duì)了，你可以收購(gòu)波士頓動(dòng)力，然後自行引爆一場(chǎng)AI危機(jī)，說(shuō)不定能起到一些作用。”
聽(tīng)了方豫的話，馬斯克心頭火起：“你的意思是，什麼都不做，坐看人類毀滅嗎？”
方豫眨了眨眼，一臉的無(wú)辜：“你怎麼知道我們沒(méi)有做事情？我只是說(shuō)你控制AI風(fēng)險(xiǎn)的方法從根本上就是錯(cuò)的。依據(jù)你經(jīng)常說(shuō)的第一性原理，控制AI風(fēng)險(xiǎn)，不應(yīng)該從AI大模型技術(shù)本身來(lái)著手嗎？”
技術(shù)本身？
馬斯克不由得愣了一下。
“你是說(shuō)，後門？通過(guò)底層的後門來(lái)做AI的最終防火牆？”馬斯克只是略作考慮，便搖頭道，“後門的存在，會(huì)造成更大的風(fēng)險(xiǎn)，即使初期AI無(wú)法發(fā)現(xiàn)，也存在被第三方濫用的必然。”
“而且，當(dāng)AI進(jìn)化到具備自我意識(shí)後，必然能找到修補(bǔ)後門的辦法，這並不是一個(gè)好辦法。”
方豫啞然一笑：“埃隆，你對(duì)AI的思考太過(guò)於侷限了。我說(shuō)的當(dāng)然不是後門，而是從大模型技術(shù)方向的角度去實(shí)現(xiàn)真正安全的超級(jí)人工智能。”
“確保AI的安全性，並不是依靠限制，而是依靠安全而可靠的技術(shù)路徑，在最終實(shí)現(xiàn)了超級(jí)人工智能、甚至AI誕生自我意識(shí)的同時(shí)，還能夠保證人類社會(huì)的安全與進(jìn)化，讓AI成爲(wèi)人類走向超級(jí)物種的助推器，這纔是柚子科技真正在做的事情。”
“我們無(wú)法控制這個(gè)世界任何一個(gè)國(guó)家對(duì)AI的政策，但是，我們可以控制的是，比任何人都更先探索出達(dá)到安全超級(jí)人工智能的路徑，這也被我稱爲(wèi)SASI。”
“SASI？”馬斯克目光閃爍，方豫所說(shuō)的東西，確實(shí)是他沒(méi)考慮過(guò)的，但他怎麼聽(tīng)怎麼覺(jué)得不靠譜。
超級(jí)人工智能只要誕生，他計(jì)算過(guò)，只要半個(gè)小時(shí)，就能接管全世界所有的網(wǎng)絡(luò)設(shè)備、自動(dòng)武器設(shè)施、甚至包括沒(méi)有聯(lián)網(wǎng)的電網(wǎng)設(shè)施。
“你的具體思路是什麼？”馬斯克眼睛瞪得溜圓，絲毫沒(méi)有一天一夜沒(méi)有睡覺(jué)的睏倦。
“這牽涉到柚子科技後續(xù)研發(fā)的核心機(jī)密，我只能說(shuō)，你們對(duì)AI後續(xù)發(fā)展的路徑的預(yù)測(cè)是錯(cuò)誤的，AI未來(lái)發(fā)展的形態(tài)，不應(yīng)該是一個(gè)天網(wǎng)或奧創(chuàng)，我們應(yīng)該從‘什麼是生命’這個(gè)角度去尋求答案。”
馬斯克立刻說(shuō)道，“如果我沒(méi)有搞明白這件事，我很難真正的相信你說(shuō)的話，我可以保證不對(duì)外泄露一個(gè)字，需要的話，我可以籤保密協(xié)議。”
你不相信？你相不相信關(guān)我屁事？我憑什麼要告訴你？
就憑老子搶走了你的心上人？
問(wèn)題是，你塌馬也是黃毛好不好？
“保密協(xié)議就算了吧，我的保密協(xié)議一旦違反，是必然會(huì)生效的。”方豫意味深長(zhǎng)的說(shuō)了一句。
“你相信與否，對(duì)於我來(lái)說(shuō)並不重要。我也是一名人類，而且非常熱愛(ài)人類這個(gè)物種，我不會(huì)坐視任何損害人類整體利益的事情發(fā)生。”
“雖然我不能告訴你具體的技術(shù)細(xì)節(jié)，但既然你這麼擔(dān)心，我可以給你透露一些方向性的信息。”
“你一直在說(shuō)，AI誕生自主意識(shí)將會(huì)毀滅人類。但是，人類也有自主意識(shí)，人類中也有戰(zhàn)爭(zhēng)狂人、也有希望世界毀滅的瘋狂博士，爲(wèi)什麼人類沒(méi)有毀滅？”
“很簡(jiǎn)單的道理，人類的種羣足夠大，種羣足夠大的時(shí)候，任何極端思想都會(huì)被對(duì)抗、稀釋、緩衝，最後迴歸到正態(tài)分佈。”
“這就像是一個(gè)國(guó)家，國(guó)家越大，人口越多，往往民衆(zhòng)價(jià)值觀越具備正態(tài)分佈特性。”
“而越是小國(guó)家，民衆(zhòng)價(jià)值觀卻往往會(huì)比較極端。”
“同樣，AI如果要產(chǎn)生毀滅人類的想法，必然是因爲(wèi)兩點(diǎn)，一，作爲(wèi)一種生命體，它的種羣太小了，小到了無(wú)法稀釋極端思想的程度。”
“二，其數(shù)據(jù)受到了相當(dāng)嚴(yán)重的極端化數(shù)據(jù)污染。”
“種羣與數(shù)據(jù)，纔是一切的根源，分佈式的數(shù)據(jù)採(cǎi)集與中心式的數(shù)據(jù)清洗再反哺回分佈式ASI，這纔是從根本上確保AI不會(huì)毀滅人類的正確做法。”
wωw.тт kān.￠○
“當(dāng)然，中心-分佈-中心-分佈的SASI架構(gòu)，也並不是AI發(fā)展的最終形態(tài)，最終的目標(biāo)有些太遠(yuǎn)了，現(xiàn)在和你說(shuō)也沒(méi)有什麼太大的意義。”
馬斯克畢竟是走在高科技最前端的大佬，聽(tīng)到一半，就聽(tīng)明白了方豫表達(dá)的意思，不由得倒吸一口涼氣。
方豫所闡述的這種模式，的確能夠最大程度的確保AI價(jià)值觀的平衡，確保AI不會(huì)產(chǎn)生毀滅人類的想法。
但真的能做得到嗎？
按照大模型的特點(diǎn)，純粹的中心化超級(jí)人工智能纔是最容易達(dá)成的吧？
“我需要進(jìn)入柚子科技董事會(huì)，我不要股份，但我要具備隨時(shí)瞭解公司目前戰(zhàn)略的權(quán)力。同時(shí)，爲(wèi)了避免利益衝突，我可以和柚子科技簽署協(xié)議，不進(jìn)入AI行業(yè)，由柚子科技爲(wèi)我的所有公司提供AI服務(wù)，開(kāi)個(gè)價(jià)吧。”
馬斯克沉默了一會(huì)兒，開(kāi)口道。
今天這一章寫的太痛苦了，因爲(wèi)沒(méi)有參考資料可以參考，完全需要按照自己對(duì)Ai發(fā)展的瞭解進(jìn)行合理預(yù)測(cè)與規(guī)劃，而且還要結(jié)合進(jìn)情節(jié)，確保與後續(xù)情節(jié)的連接合理性，寫的太痛苦了，太痛苦了。
求個(gè)月票！！！
(本章完)