另一方面，大多數(shù)誕生初期閃爍偉大光芒的技術(shù)理念逐漸淡出人們的視野。少數(shù)不幸的理念產(chǎn)生了巨大問題——完全不同於發(fā)明者當(dāng)初的設(shè)想。鎮(zhèn)靜劑對(duì)孕婦來說是偉大發(fā)明，但對(duì)還未出生的孩子則是可怕的事物。內(nèi)燃機(jī)非常有助於機(jī)動(dòng)性，而對(duì)呼吸則會(huì)造成極大危害。氟利昂具有冷凍效果，價(jià)格低廉，但卻破壞地球外圍保護(hù)性的紫外線過濾層。在某些情形中，效用變化導(dǎo)致的純粹是發(fā)明者不希望看到的副效用；在大量例子中，最終的功能與初始時(shí)大相徑庭。
公正地評(píng)價(jià)各類技術(shù)，每一項(xiàng)都既有優(yōu)點(diǎn)，又有缺陷。沒有不包含缺點(diǎn)、不偏不倚的技術(shù)。一項(xiàng)技術(shù)的結(jié)果隨它的本質(zhì)變化而擴(kuò)展。影響力大的技術(shù)同時(shí)在兩個(gè)方向發(fā)揮影響力——好的方向和壞的方向。沒有隻具備高度建設(shè)性的技術(shù)，相反也沒有隻具備高度破壞性的技術(shù)，就像不可能造成巨大危害的偉大理念是不存在的。畢竟，人類心靈是最美麗的，但也能產(chǎn)生殘暴的思想。事實(shí)上，除非一種發(fā)明或理念能夠被無所顧忌地濫用，否則就稱不上絕佳。這應(yīng)該是技術(shù)預(yù)期的第一法則：新技術(shù)前景越光明，潛在危害性也就越大。對(duì)於互聯(lián)網(wǎng)搜索引擎、超文本和網(wǎng)絡(luò)這樣受到喜愛的新技術(shù)，這條法則也適用。這些極其強(qiáng)大的發(fā)明釋放出自文藝復(fù)興以來未曾見過的創(chuàng)造力，可是當(dāng)（不是假設(shè)，而是事實(shí)）它們被濫用時(shí)，它們追蹤和預(yù)期個(gè)人行爲(wèi)的能力將是可怕的。如果說新技術(shù)可能創(chuàng)造前所未有的收益，也就有可能製造前所未見的麻煩。
要擺脫這種顯而易見的困境，方法就是考慮最壞的結(jié)果。這就是所謂“預(yù)防原則”——廣泛使用的新技術(shù)評(píng)估方法——得出的結(jié)論。
1992年世界首腦會(huì)議第一次提出預(yù)防原則，作爲(wèi)《里約宣言》的一部分。在原始版本中，它建議“不得以缺乏科學(xué)充分確定證據(jù)爲(wèi)理由，延遲採取符合成本效益的措施防止環(huán)境惡化”。換句話說，即使不能科學(xué)地證明某種危害將要發(fā)生，這種不確定性也不應(yīng)該阻止人們採取措施防止可疑危害。自那以後預(yù)防原則被多次修改，經(jīng)歷多個(gè)版本，越來越像是禁令。最新的版本稱：“具有造成重大危害之不確定可能性的活動(dòng)應(yīng)被禁止，除非該活動(dòng)支持者證明不存在造成危害的巨大風(fēng)險(xiǎn)。”
還有一個(gè)版本——或者說預(yù)防原則的另一種說明——應(yīng)用於歐盟的法規(guī)（《馬斯特裡赫特條約》規(guī)定的內(nèi)容）以及《聯(lián)合國氣候變化框架公約》。美國環(huán)境保護(hù)局和《空氣清潔法》（CleanAirAct）採用的方法是建立污染控制等級(jí)制。預(yù)防原則也被寫入波特蘭、舊金山和俄勒岡州的綠色城市的市政法規(guī)中。生命倫理學(xué)家和反對(duì)迅速推廣技術(shù)的人最喜歡這條標(biāo)準(zhǔn)。
預(yù)防原則的所有版本都包含了下面的公理：人們?cè)诮邮芤豁?xiàng)技術(shù)之前必須證明它完全無害。它必須被證明是安全的，才能推廣。如果不能，應(yīng)被禁止、限制、修改、丟棄或者忽視。換句話說，對(duì)新理念的第一反應(yīng)應(yīng)該是不作爲(wèi)，直到其安全性得以確定。當(dāng)新事物出現(xiàn)時(shí)，我們應(yīng)當(dāng)暫停下一步行動(dòng)。只有在新技術(shù)被科學(xué)證明無害後，我們才應(yīng)該嘗試使用它。
表面上看，這種方法似乎讓人感覺理性謹(jǐn)慎。我們必須預(yù)計(jì)和防止危害。事先預(yù)防總要好於事後遺憾。不幸的是，預(yù)防原則的理論不錯(cuò)，可實(shí)踐起來卻有問題。“預(yù)防原則對(duì)一件事來說非常有效，即停止科技進(jìn)步。”哲學(xué)家和諮詢顧問馬克斯·莫爾說。卡斯·R·桑斯坦寫書揭露該原則的真相：“我們必須對(duì)預(yù)防原則提出質(zhì)疑，不是因爲(wèi)它引導(dǎo)我們走向錯(cuò)誤方向，而是因爲(wèi)它的全部?jī)r(jià)值就是讓我們?cè)夭粍?dòng)。”
所有的優(yōu)點(diǎn)總會(huì)在某處產(chǎn)生缺點(diǎn)，因此無條件地按照預(yù)防原則的嚴(yán)密邏輯，沒有任何技術(shù)將被採用。即使稍微放寬限制的版本也不會(huì)及時(shí)地允許人們使用新技術(shù)。不管理論怎樣，從現(xiàn)實(shí)來看，我們無法總結(jié)出所有風(fēng)險(xiǎn)，不是因爲(wèi)概率低的緣故，而努力預(yù)測(cè)所有不太可能發(fā)生的風(fēng)險(xiǎn)會(huì)阻礙更有可能的潛在收益。
例如，全世界有3億～5億人身染瘧疾，每年有200萬人因此死亡。它使那些逃脫死亡厄運(yùn)的人身體虛弱，並導(dǎo)致循環(huán)性的貧困。可是在20世紀(jì)50年代，通過在室內(nèi)各處噴灑殺蟲劑DDT，瘧疾的感染率下降了70%。DDT是非常成功的殺蟲劑，農(nóng)民在棉田裡積極地噴灑數(shù)以噸計(jì)的DDT——它的分子進(jìn)入水循環(huán)圈，最終對(duì)動(dòng)物的脂肪細(xì)胞產(chǎn)生副作用。生物學(xué)家譴責(zé)它是導(dǎo)致某些猛禽生育率下降以及某些魚類和水生物種滅絕的罪魁禍?zhǔn)住Ｃ绹?972年禁止DDT的使用和生產(chǎn)，其他國家隨後也頒佈同樣的禁令。然而，沒有DDT的噴灑，亞洲和非洲的瘧疾病例再次開始增加至20世紀(jì)50年代之前的致命水平。在瘧疾肆虐的非洲地區(qū)，重新引入DDT噴灑的計(jì)劃被世界銀行和其他援助機(jī)構(gòu)阻止，後者拒絕提供資金。1991年91個(gè)國家和歐盟簽訂的一份協(xié)議同意逐步淘汰DDT。它們依據(jù)的就是預(yù)防原則：DDT可能造成危害，事先預(yù)防勝過事後遺憾。實(shí)際上DDT從未表現(xiàn)出傷害人類的性質(zhì)，噴灑到家中的少量DDT造成的環(huán)境危害還未測(cè)量過。可是沒人可以證明DDT不會(huì)造成傷害，儘管它已被證明能夠造福於人。
談到風(fēng)險(xiǎn)厭惡時(shí)，我們會(huì)變得不理智。我們關(guān)注我們想要抗拒的風(fēng)險(xiǎn)。我們也許注意乘坐飛機(jī)的風(fēng)險(xiǎn)，卻忽視駕車的風(fēng)險(xiǎn)；也許擔(dān)心看牙醫(yī)時(shí)照射X光的小風(fēng)險(xiǎn)，卻無視未檢查到齲齒的大風(fēng)險(xiǎn)；也許關(guān)心接種疫苗的風(fēng)險(xiǎn)，卻不注意患上流行病的風(fēng)險(xiǎn)；也許被殺蟲劑帶來的風(fēng)險(xiǎn)所困擾，而忘記有機(jī)食品的風(fēng)險(xiǎn)。
心理學(xué)家對(duì)風(fēng)險(xiǎn)進(jìn)行了大量研究。現(xiàn)在我們知道人們會(huì)自願(yuàn)而不是被迫接受1000次技術(shù)或環(huán)境帶來的風(fēng)險(xiǎn)。我們無法選擇安裝自來水管的地方，因此在它的安全問題上的容忍度比使用自己選擇的手機(jī)要小。我們還知道，對(duì)技術(shù)風(fēng)險(xiǎn)的承受程度與該技術(shù)相應(yīng)的可察覺的收益成比例。收益越高，能承受的風(fēng)險(xiǎn)就越大。最後，我們知道風(fēng)險(xiǎn)的可接受性直接受到預(yù)期最壞後果和最好收益的難易程度的影響，而這是由教育、宣傳、謠言和想象力決定的。有些風(fēng)險(xiǎn)容易讓人想起它導(dǎo)致最壞結(jié)果的案例，這樣的風(fēng)險(xiǎn)是民衆(zhòng)認(rèn)爲(wèi)最重大的。如果風(fēng)險(xiǎn)有可能導(dǎo)致死亡，它就是“不可忽視的”。
奧維爾·萊特在給他的朋友、發(fā)明家亨利·福特的一封信中講述了他從一位駐中國的傳教士那裡聽來的故事。萊特向福特講述這個(gè)故事是有理由的，我在這裡重述，理由與萊特的相同：關(guān)於投機(jī)風(fēng)險(xiǎn)的警示性故事。傳教士希望改善他所在省份的中國農(nóng)民收割莊稼的艱苦條件。當(dāng)?shù)剞r(nóng)民用某種小剪刀剪斷作物的莖。於是傳教士拿出一把從美國運(yùn)來的鐮刀，向饒有興致的人羣展示它的良好工作效率。“可是，第二天早晨一個(gè)代表團(tuán)來拜訪傳教士。他們要求鐮刀必須馬上銷燬。他們說，如果鐮刀落入盜賊之手，那還了得，整片莊稼一個(gè)晚上就能收割完畢並被帶走。”於是使用鐮刀的想法就被放棄了，進(jìn)步?jīng)]有到來，因爲(wèi)不使用鐮刀者能夠想象出這種做法可能——但總體上不大可能——對(duì)團(tuán)體造成重大危害的方式。（今天很多因所謂“國家安全”原因而遭受嚴(yán)重破壞的地區(qū)正是這種對(duì)不大可能的最壞情況的相似預(yù)測(cè)造成的。）
由於努力實(shí)現(xiàn)“安全勝過遺憾”，預(yù)防原則缺乏遠(yuǎn)見。它往往全力追求唯一價(jià)值：安全。安全戰(zhàn)勝了創(chuàng)新。最安全的做法是精通已被採用的技術(shù)，永不嘗試可能失敗的發(fā)明，因爲(wèi)失敗本質(zhì)上就是不安全的。醫(yī)療方法創(chuàng)新不如已被證明的標(biāo)準(zhǔn)療法安全。創(chuàng)新是不謹(jǐn)慎的。可是因爲(wèi)預(yù)防原則只重視安全，所以它不僅削弱了其他價(jià)值，而且實(shí)際上會(huì)降低安全。
技術(shù)元素的重大事故通常不會(huì)像折斷翅膀的鳥從高空墜落或大型管道破裂那樣突然發(fā)生。現(xiàn)代最大的海難之一起因於船員廚房中一個(gè)燃燒的咖啡壺。區(qū)域電網(wǎng)突然停止運(yùn)營(yíng)，不是因爲(wèi)電力塔倒塌，而是因爲(wèi)一個(gè)微型泵上的墊圈斷裂。在網(wǎng)絡(luò)空間裡，網(wǎng)頁有序列表中罕見的微小漏洞可能導(dǎo)致整個(gè)網(wǎng)站崩潰。上述各種情形中，微小的缺陷激發(fā)了其他未預(yù)料到的同樣微小的系統(tǒng)問題，或與之共同作用。但是由於各組成部分的緊密依存關(guān)係，一連串不大可能出現(xiàn)的細(xì)微差錯(cuò)接連而至，最後大麻煩滾滾而來、不可抑止，釀成災(zāi)難。社會(huì)學(xué)家查爾斯·佩羅（CharlesPerrow）稱這些爲(wèi)“正常事故”，因爲(wèi)它們是大型系統(tǒng)內(nèi)部活力“自然”產(chǎn)生的。應(yīng)該受到譴責(zé)的是系統(tǒng)，而不是操作者。佩羅對(duì)50起大規(guī)模科技事故（例如美國三裡島核泄漏、印度博帕爾市毒氣泄漏、阿波羅13號(hào)、“埃克森·瓦爾迪茲”號(hào)油輪漏油、千年蟲等）進(jìn)行了全面的細(xì)緻入微的研究，總結(jié)道：“我們?cè)O(shè)計(jì)的事物如此複雜，以至於無法預(yù)計(jì)到那些系統(tǒng)性故障所有可能的互動(dòng)；系統(tǒng)內(nèi)部隱藏的過程誤導(dǎo)或者規(guī)避我們添加的安全設(shè)備，甚至使之失效。”事實(shí)上，佩羅繼續(xù)總結(jié)，安全設(shè)備和安檢程序自身經(jīng)常製造新事故。安全器件可能成爲(wèi)更多故障的源頭。例如，在機(jī)場(chǎng)加強(qiáng)保安，可能使擁有關(guān)鍵區(qū)域通行許可的人增多，這反而削弱了安檢力度。冗餘系統(tǒng)通常作爲(wèi)安全備份措施，也可能容易滋生新型缺陷。
這些被稱爲(wèi)替代風(fēng)險(xiǎn)，減少危險(xiǎn)的舉措直接導(dǎo)致新危險(xiǎn)的產(chǎn)生。防火布有毒，可是它的替代物毒性即使不是更大，至少也是與其相當(dāng)。而且，雖然建築物內(nèi)部保留防火布可能帶來低風(fēng)險(xiǎn)，但與之相比，移除防火布將大大提高火災(zāi)危險(xiǎn)性。預(yù)防原則沒有考慮替代風(fēng)險(xiǎn)的概念。
總體而言預(yù)防原則歧視新事物。很多已被採用的技術(shù)和“自然”過程包含未經(jīng)檢驗(yàn)的缺陷，數(shù)量之多堪比新技術(shù)，可是預(yù)防原則大幅提高了新事物進(jìn)入現(xiàn)實(shí)生活的門檻。從本質(zhì)上看，它站在有風(fēng)險(xiǎn)的舊事物或者“自然”過程的立場(chǎng)上對(duì)新事物指手畫腳。舉幾個(gè)例子：在不使用殺蟲劑的情況下種植農(nóng)作物會(huì)導(dǎo)致它們產(chǎn)生自然殺蟲劑與害蟲搏鬥，但預(yù)防原則對(duì)這些原生毒素不適用，因爲(wèi)它們不是“新事物”。新型塑料水管的風(fēng)險(xiǎn)無法與舊式金屬管相提並論。DDT的風(fēng)險(xiǎn)沒有放在過去致命瘧疾的風(fēng)險(xiǎn)的背景下考慮。
最有把握解決不確定性問題的方法是更快速、更先進(jìn)的科學(xué)研究。科學(xué)是檢驗(yàn)過程，永遠(yuǎn)不會(huì)完全消除不確定性，而且，在特定問題上達(dá)成的共識(shí)隨時(shí)間流逝而變化。可是基於證據(jù)的科學(xué)共識(shí)比已有的任何方法——包括憑直覺預(yù)防——更加可靠。持懷疑態(tài)度者和熱情支持者公開進(jìn)行了更多科學(xué)研究，能夠讓我們更快地得出結(jié)論：“這可以放心使用”，或者“這不宜投入使用”。一旦達(dá)成共識(shí)，我們可以制定合理的法規(guī)，就像我們的社會(huì)對(duì)汽油、菸草、安全帶以及其他許多事物作出強(qiáng)制性改進(jìn)規(guī)定一樣。
可是另一方面我們應(yīng)該讓不確定性爲(wèi)人類服務(wù)。即使我們認(rèn)識(shí)到應(yīng)該對(duì)所有創(chuàng)新技術(shù)的意外結(jié)果進(jìn)行預(yù)估，某些特殊的意外結(jié)果還是很難預(yù)見到。“科技總是超出我們的主觀意願(yuàn)，我們對(duì)此非常清楚，實(shí)際上我們的意圖中已包含相關(guān)考量，”蘭登·溫納寫道，“想象這樣一個(gè)世界：各種技術(shù)只完成大腦提前設(shè)想的特定目標(biāo)，除此以外再無他用。那將是一個(gè)束縛極其嚴(yán)重的世界，完全不同於現(xiàn)在我們生活的這個(gè)世界。”我們知道科技會(huì)產(chǎn)生問題，只是不知道哪些是新問題。
因爲(wèi)任何模型、試驗(yàn)、模擬和檢測(cè)都包含內(nèi)在不確定性，所以評(píng)估新技術(shù)唯一可靠的辦法是讓它在合適的環(huán)境中工作。一種理念必須通過新形式工作足夠長(zhǎng)的時(shí)間，纔會(huì)開始顯示副效應(yīng)。如果人們對(duì)一項(xiàng)新鮮出爐的技術(shù)進(jìn)行快速檢驗(yàn)，只能看到它的主要影響。可是大多數(shù)情況下，技術(shù)產(chǎn)生的意外副效應(yīng)正是隨後出現(xiàn)的問題的根源。
預(yù)測(cè)、試驗(yàn)或理論分析很少指出通常突然降臨社會(huì)的副效應(yīng)。科幻小說大師艾薩克·阿西莫夫敏銳地觀察到，在馬作爲(wèi)出行動(dòng)力的時(shí)代很多普通人熱切盼望無馬四輪車的出現(xiàn)，並且很容易想象它的模樣。汽車是衆(zhòng)望所歸的新事物，因爲(wèi)它是馬車主動(dòng)力的延伸——靠自身力量向前運(yùn)動(dòng)的交通工具。汽車能完成馬車的一切功能，同時(shí)又不用馬作爲(wèi)動(dòng)力。可是阿西莫夫接著注意到想象無馬四輪車的副效應(yīng)——例如汽車電影院、交通癱瘓和四通八達(dá)的公路——是多麼困難的事。
副效應(yīng)的顯現(xiàn)通常需要使用新技術(shù)達(dá)到一定次數(shù)，一定程度的普遍性。最早的汽車引發(fā)的主要擔(dān)憂集中於乘客的安全問題——汽油發(fā)動(dòng)機(jī)是否會(huì)爆炸或者剎車是否失靈。但是真正的質(zhì)疑出現(xiàn)在汽車量產(chǎn)之後，那時(shí)有數(shù)十萬輛汽車問世。人們擔(dān)心汽車的少量污染物持續(xù)傷害人體，擔(dān)心高速行駛時(shí)會(huì)撞死行人，更不用說對(duì)城郊的破壞和長(zhǎng)途上下班的煩惱。這一切都是副效應(yīng)。
不可預(yù)見的技術(shù)效用有一個(gè)共同根源，即各種技術(shù)的互動(dòng)。2005年，研究人員在一份事後報(bào)告中對(duì)當(dāng)時(shí)已撤銷的美國技術(shù)評(píng)估局——存在時(shí)間爲(wèi)1972年至1995年——在評(píng)估即將問世的技術(shù)時(shí)不能發(fā)揮更大影響的原因作了如下總結(jié)：
雖然人們可以對(duì)極其先進(jìn)的專業(yè)技術(shù)（例如超音速交通工具、核反應(yīng)堆和特殊藥品）作出看似合理（儘管總是無法確定）的預(yù)測(cè)，但技術(shù)的根本轉(zhuǎn)變能力不是來自具體的人工製品本身，而是來自瀰漫整個(gè)社會(huì)的技術(shù)系統(tǒng)的各類互動(dòng)子系統(tǒng)。
總之，對(duì)新技術(shù)進(jìn)行小範(fàn)圍精確試驗(yàn)和仿真模擬不能發(fā)現(xiàn)重要的副效應(yīng)，因此即將問世的技術(shù)必須通過實(shí)踐操作進(jìn)行檢驗(yàn)，並且實(shí)時(shí)評(píng)估。換句話說，人們必須根據(jù)特定技術(shù)在現(xiàn)實(shí)生活中的試驗(yàn)和問題來判斷風(fēng)險(xiǎn)。
對(duì)新理念的合理反應(yīng)應(yīng)當(dāng)是立即開展試驗(yàn)。而且只要它還沒有被丟棄，就應(yīng)該不斷試驗(yàn)、檢測(cè)。事實(shí)上，與預(yù)防原則相反，技術(shù)永遠(yuǎn)不能被認(rèn)爲(wèi)“已證明安全”。人們必須時(shí)刻警惕，不間斷地對(duì)技術(shù)進(jìn)行檢驗(yàn)，因爲(wèi)它不斷地被使用者和作爲(wèi)母體的內(nèi)部共同進(jìn)化的技術(shù)元素重新設(shè)計(jì)。