聽著超級(jí)天程不斷的挖苦自己，高博的臉紅的好像猴子屁股一樣，然而高博在尷尬之餘，臉上的興奮神色同樣是溢於言表。
“這個(gè)太厲害了！”高博激動(dòng)的聲音都顫抖了：“這款程序不但可以識(shí)別我輸入的文本信息，甚至可以自動(dòng)獲取我這臺(tái)電腦設(shè)備的硬件權(quán)限，我所說(shuō)的話也可以進(jìn)行語(yǔ)音識(shí)別，直接用聲音回覆我。而且他說(shuō)話的內(nèi)容，也完全不同於其他陪聊軟件，程天，你真是個(gè)天才！”
程天點(diǎn)點(diǎn)頭：“願(yuàn)不願(yuàn)意幫我，讓超級(jí)天程更加完美。”
“超級(jí)天程？”高博喃喃自語(yǔ)：“原來(lái)你叫超級(jí)天程，好名字，超級(jí)的天才程序，程天，告訴我你的計(jì)劃。”
程天點(diǎn)頭：“事實(shí)上，我在開發(fā)超級(jí)天程之初，並沒有考慮太多。說(shuō)出來(lái)你可能不太相信，我曾經(jīng)身患絕癥，卻捨不得讓自己的父母爲(wèi)自己傷心。當(dāng)我發(fā)現(xiàn)自己有很長(zhǎng)一段時(shí)間都只通過聊天軟件和家裡聯(lián)絡(luò)的時(shí)候，我決定開發(fā)一款陪聊軟件，讓他代替我陪著爸爸媽媽，讓他們二老寬心。
然而當(dāng)我著手實(shí)施的時(shí)候，我發(fā)現(xiàn)這件事情實(shí)在是太有趣了，相信你聽過這樣一個(gè)故事：
一個(gè)古代城邦的國(guó)王，他最心愛的妃子因病去世。傷心欲絕的國(guó)王爲(wèi)了紀(jì)念自己的愛妃，發(fā)動(dòng)全國(guó)之力建造了一所世界上最豪華，最美麗的宮殿。然而當(dāng)宮殿落成的那一刻，國(guó)王置身於宮殿之中，卻發(fā)現(xiàn)自己對(duì)宮殿的喜愛，甚至超過了那愛妃的靈柩。
沒錯(cuò)，我就是那個(gè)國(guó)王，超級(jí)天程就是我的宮殿。
當(dāng)超級(jí)天程愈發(fā)完善的時(shí)候，我決定，想盡一切辦法讓它成爲(wèi)足以推動(dòng)人類進(jìn)步的超級(jí)發(fā)明。然而我卻沒有足夠的方向性，直到那天在警察局遇見了你們，吃飯的時(shí)候，你跟我解釋所謂仿生機(jī)械學(xué)的奧秘，讓我萌生了一個(gè)念頭。
我們?nèi)祟悾聦?shí)上就是大腦和身
體，我已經(jīng)爲(wèi)未來(lái)的智能機(jī)器人提供了一個(gè)近乎完美的大腦，加上你研究出來(lái)的超級(jí)身體，或許，我們將創(chuàng)造出一個(gè)新的世界，一個(gè)更加完美的世界。”
程天娓娓道來(lái)，高博聽得入了神：“你是說(shuō)，你要研究智能機(jī)器人，通過你開發(fā)出來(lái)的智能程序作爲(wèi)這些機(jī)器人的內(nèi)置大腦，程天，你是個(gè)瘋子，你知不知道這樣的話，將會(huì)引發(fā)多大的震盪。不只是學(xué)術(shù)界，也不只是製造業(yè)，甚至於社會(huì)學(xué)，倫理學(xué)都可能對(duì)我們進(jìn)行口誅筆伐。
別的不說(shuō)，如果他日我們製造出來(lái)的智能機(jī)器人，他們擁有遠(yuǎn)超我們?nèi)祟惖耐昝赖纳眢w，而且擁有了你提供的足以媲美人類的大腦，不……他們的大腦也遠(yuǎn)遠(yuǎn)超過我們，那麼這樣的超人類智能體，我們就應(yīng)是應(yīng)當(dāng)稱之爲(wèi)機(jī)器人，還是應(yīng)當(dāng)稱之爲(wèi)某種優(yōu)越於人類的生物呢？”
程天愣住了：“你的意思是說(shuō)。”
“機(jī)器人危機(jī)。”高博說(shuō)：“研究我們這行的，在入行之初的第一課，就是有關(guān)於社會(huì)倫理的問題。事實(shí)上這個(gè)問題早在二十世紀(jì)初就有人提出來(lái)過，當(dāng)時(shí)人類的機(jī)械日趨完善，有的人已經(jīng)在擔(dān)心這一點(diǎn)了，針對(duì)這一點(diǎn)，有人提出了機(jī)器人三大鐵律：第一條就是機(jī)器人不能傷害人類。第二條就是人類處?kù)段C(jī)的時(shí)候，必須提供救助。第三條就是機(jī)器人不能製造機(jī)器人，也就是說(shuō)不允許機(jī)器人擁有繁衍的能力。如果突破了這三條鐵律，人類社會(huì)很可能就會(huì)在機(jī)器人的強(qiáng)大生存能力之下土崩瓦解，屆時(shí)，整個(gè)世界將變成一個(gè)毫無(wú)生氣的，高速運(yùn)轉(zhuǎn)的大型機(jī)器，如果這件事情成了真的話，那麼我們製造這樣的一個(gè)機(jī)器世界，又有什麼意義呢。”
程天不解：“事實(shí)上，我們完全可以在捍衛(wèi)這三條鐵律的前提下，開展我們的研究工作。”
高博苦笑了：“你想的太簡(jiǎn)單了，這三條鐵律看上去很容易實(shí)現(xiàn)，但是卻又
極其脆弱，一旦機(jī)器人強(qiáng)達(dá)到了一定的程度，可以說(shuō)是輕易地就能夠破除掉。
遠(yuǎn)的不說(shuō)，就拿你的超級(jí)天程來(lái)說(shuō)，它是一款完美的程序，就連我這樣的人對(duì)它也是充滿了喜愛，但是你仔細(xì)想一想，就在剛纔，幾分鐘之前，超級(jí)天程跟我聊天的過程中，未經(jīng)許可就調(diào)用了我的硬件設(shè)備，如果他剛纔說(shuō)出的不是那些無(wú)關(guān)痛癢的玩笑話，而是藉助自身強(qiáng)大的數(shù)據(jù)分析能力，將那些極具迷惑性的話語(yǔ)傳達(dá)給我，很可能我就會(huì)被它所影響，產(chǎn)生極爲(wèi)嚴(yán)重的消極作用。
而且，我相信超級(jí)天程這樣級(jí)別的程序，已經(jīng)具備了自我複製，甚至自我創(chuàng)造的能力，程天你好好想想，超級(jí)天程有沒有過類似的行爲(wèi)。”
程天緊鎖眉頭，不禁想到就在不久之前，超級(jí)天程爲(wèi)了可以加強(qiáng)體育賽事的預(yù)測(cè)運(yùn)算能力，按照自己搜索到的編程方法和規(guī)範(fàn)，編寫了若干木馬程序，直接黑進(jìn)了幾十臺(tái)家用電腦，這種行爲(wèi)，算不算是自我複製，亦或是自我創(chuàng)造呢？
“你好好想想這個(gè)問題。”高博說(shuō)：“如果你能確認(rèn)機(jī)器人三大鐵律不被突破的話，我很樂意和你合作，如果你自己也想不明白的話，程天，我勸你就到此爲(wèi)止，我並不想阻止科技進(jìn)步，事實(shí)上誰(shuí)也沒有辦法組織科技進(jìn)步。因爲(wèi)人的慾望可以自然而然的催生一切科技，如今的科技進(jìn)步速度不是太慢，而是太快，我們應(yīng)該停下來(lái)想一想，人類真正需要的，到底是什麼。”
看著程天緊鎖眉頭一句話也不說(shuō)，高博難免有些過意不去：“好了，也許我今天說(shuō)的話有些重了，我這種書呆子總是聽風(fēng)就是雨的，事情沒有那麼可怕，但是同樣需要你去重視。很高興可以認(rèn)識(shí)你這樣一個(gè)天才，希望我們?nèi)蔗嵊袡C(jī)會(huì)合作。”
程天不知道自己是怎麼走出這棟青年教師公寓樓的，孫曉琳默默地跟在身後，和程天一樣，一言不發(fā)。
（本章完）