在人類歷史上的不同時(shí)代，誰(shuí)在改變和塑造人們的觀念？這是一個(gè)經(jīng)常被忽視卻又非常值得思考的問(wèn)題。在人類文明的早期，部落首領(lǐng)或巫師，有時(shí)是兩者合而為一，掌握對(duì)自然變化和人的命運(yùn)的解釋權(quán)。進(jìn)入軸心時(shí)代，知識(shí)和觀念的生產(chǎn)更加專業(yè)化，哲學(xué)家和政治家群體崛起，在西方是蘇格拉底、柏拉圖、赫拉克里特、亞里士多德和梭倫們，在東方則是老子、孔子、商鞅和釋迦摩尼們，還有如修昔底德和司馬遷這樣的歷史學(xué)家們，也因?yàn)榻艹龅臄⑹潞鸵娮R(shí)，對(duì)當(dāng)時(shí)和后世的思想影響深遠(yuǎn)。到了中世紀(jì)，教廷和國(guó)王在精神和世俗觀念塑造上競(jìng)爭(zhēng)不息。再往后，文藝復(fù)興的先驅(qū)者們率先打破了人類的精神禁錮，地理大發(fā)現(xiàn)中探險(xiǎn)者們的故事鼓勵(lì)了獵奇、冒險(xiǎn)、殖民和商業(yè)精神。然后，科學(xué)家群體、經(jīng)濟(jì)學(xué)家、政治理論家們?cè)谏鐣?huì)觀念塑造中各領(lǐng)風(fēng)騷。

從20世紀(jì)開始，企業(yè)家和企業(yè)在人類社會(huì)的觀念塑造中扮演了日漸顯著的角色，從福特主義到豐田主義，這種影響遠(yuǎn)遠(yuǎn)不止于企業(yè)內(nèi)部，也不至于經(jīng)濟(jì)生產(chǎn)，而是影響到社會(huì)的方方面面。通常，這種觀念塑造通過(guò)幾種方式：

一是通過(guò)大眾易于理解和傳播的成功故事，企業(yè)家和企業(yè)被渴慕、效仿和追隨；

二是帶有政治經(jīng)濟(jì)學(xué)意味的，被加爾布雷思和喬姆斯基所揭示和批判的，通過(guò)消費(fèi)主義的生活方式和資本對(duì)大眾傳媒的干預(yù)實(shí)現(xiàn)的；

三是正在迅速興起的，通過(guò)對(duì)產(chǎn)品的定義以及企業(yè)家自己直接言說(shuō)來(lái)表達(dá)的方式，這是令人矚目和值得期待的變化。

今天，全球最大的企業(yè)，尤其是信息科技企業(yè)，很多都旗幟鮮明地在產(chǎn)品和服務(wù)中展現(xiàn)出其價(jià)值觀。如果有人還懷疑我說(shuō)的這些企業(yè)在觀念塑造上的影響力，不妨想想微軟、蘋果、谷歌、華為、阿里巴巴、微信有多少員工，他們遍布的地域有多廣，有多少企業(yè)在這些巨頭的硬件供應(yīng)鏈上，或者依賴這些巨頭的系統(tǒng)平臺(tái)來(lái)開發(fā)產(chǎn)品，更不必說(shuō)有多人用戶在用它們的產(chǎn)品。2019年，全球智能手機(jī)的出貨量超過(guò)14億臺(tái)，這個(gè)數(shù)要大于中國(guó)的人口規(guī)模，三星、華為、蘋果智能手機(jī)的出貨量都在2億左右。

在梅麗爾·斯特里普扮演的《鐵娘子》中，撒切爾夫人借回憶父親格言說(shuō)，“觀念決定行為，行為決定習(xí)慣。習(xí)慣決定性格，性格決定命運(yùn)”，這是對(duì)觀念的影響鏈條很好的說(shuō)明。凱恩斯也說(shuō)過(guò)，“經(jīng)濟(jì)學(xué)家與政治哲學(xué)家的思想，不論其正確與否，其力量之大，往往出于常人意料……許多實(shí)干家自以為不受任何理論之影響，往往恰恰淪為某個(gè)已故經(jīng)濟(jì)學(xué)家最壞學(xué)說(shuō)之不自覺的奴隸?！边@段話也可以用來(lái)預(yù)見未來(lái)企業(yè)家和企業(yè)對(duì)社會(huì)的影響。

那么，一個(gè)自然而然和關(guān)鍵的問(wèn)題是，該如何看待企業(yè)家和企業(yè)的這種影響？就個(gè)人而言，我樂(lè)于將這種新涌現(xiàn)的影響看作是社會(huì)獲得更好未來(lái)的機(jī)會(huì)。之所以稱之為機(jī)會(huì)，有兩個(gè)方面的理由：

一是多重觀念力量的競(jìng)爭(zhēng)，擴(kuò)大了社會(huì)個(gè)體的觀念選擇空間，增進(jìn)了思想的自由度，也意味著社會(huì)中的個(gè)體在掌握自身命運(yùn)上有了更多的自由度；

二是企業(yè)家和企業(yè)被社會(huì)所共鳴和選擇的那些觀念本身，反映出的是合作伙伴和數(shù)以億計(jì)消費(fèi)者的集體選擇，通過(guò)市場(chǎng)機(jī)制形成的這種選擇是直接和有力的，反映出建立于分散個(gè)體常識(shí)基礎(chǔ)上的共識(shí)。

當(dāng)我們的社會(huì)面臨一些系統(tǒng)性和根本性的挑戰(zhàn)時(shí)，任何有助于我們應(yīng)對(duì)這些挑戰(zhàn)的機(jī)會(huì)，都需要倍加珍惜。這些挑戰(zhàn)，有些是人們能夠直觀理解和警惕的，如急性的傳染病、全球性的經(jīng)濟(jì)危機(jī)、核武器的擴(kuò)散等。有些則更復(fù)雜和難以依靠直覺，如氣候變化和人工智能，因?yàn)檫@些變化會(huì)撼動(dòng)社會(huì)體系，一開始又是緩慢進(jìn)行，它們的宏大超出了我們的日常認(rèn)知，緩慢的變化又使我們難以察覺，而且可能的災(zāi)難發(fā)生在不知多遠(yuǎn)的未來(lái)，但是一旦緩慢變化累積到一個(gè)臨界點(diǎn)，形勢(shì)就可能急劇惡化。

相比于已經(jīng)頗有爭(zhēng)議的氣候變化，人們對(duì)把人工智能視為我所說(shuō)的系統(tǒng)性和根本性挑戰(zhàn)更心存猶豫。這是可以理解的，因?yàn)闇厥覛怏w排放只是人類生產(chǎn)和生活的副產(chǎn)品，并不是人們想要的。但人工智能則不同，它一開始就是我們理性的產(chǎn)物，是人類智慧的結(jié)晶，是我們用來(lái)創(chuàng)造更美好生活的工具。如果從1956年達(dá)特茅斯的夏季研討班開始算起，人工智能的發(fā)展已經(jīng)有六十多年了，但是直到最近這些年才開始全面滲入我們的生活。人們熱烈而急切地馳向智能支持的美好生活，怎么愿意在剛開始的時(shí)候就考慮花大價(jià)錢改進(jìn)剎車呢？

但是我不得不說(shuō)，現(xiàn)在就需要非常認(rèn)真地考慮改進(jìn)剎車系統(tǒng)的事，這不是基于抽象的對(duì)“進(jìn)步主義”和“理性自負(fù)”的反思。2018年，中國(guó)發(fā)展研究基金會(huì)和微軟公司在北京聯(lián)合發(fā)布了《未來(lái)基石：人工智能的社會(huì)角色和倫理》，本書的作者、微軟公司的總裁布拉德·史密斯先生也出席了發(fā)布會(huì)。在報(bào)告中，我們從認(rèn)識(shí)論和進(jìn)化論的角度，提出要關(guān)注人工智能帶來(lái)的知識(shí)生產(chǎn)和利用方式的變化，以及對(duì)人類社會(huì)的影響，特別是負(fù)面的影響，包括隱私保護(hù)、偏見強(qiáng)化、社會(huì)操縱、不平等、武器化等問(wèn)題，布拉德對(duì)這些問(wèn)題也有強(qiáng)烈的共鳴。事實(shí)上，我們的報(bào)告吸收很多在他領(lǐng)導(dǎo)下的微軟團(tuán)隊(duì)關(guān)于人工智能挑戰(zhàn)的洞見。

布拉德的這本《工具，還是武器？直面人類科技最緊迫的爭(zhēng)議性問(wèn)題》是非常及時(shí)的。如果借用在最近的新冠病毒疫情中常被提及的一個(gè)稱謂，我們也可以稱他為人工智能領(lǐng)域的“吹哨人”。書名準(zhǔn)確而清晰地提醒人工智能技術(shù)發(fā)展和應(yīng)用的兩面性。最近幾年來(lái)，我和我的團(tuán)隊(duì)在密切關(guān)注人工智能領(lǐng)域的研究報(bào)告和著作，這也是我們第一次從書名中就旗幟鮮明地獲得對(duì)人工智能雙重屬性的警示。同樣，這個(gè)書名也暗示，工具還是武器，希望還是危險(xiǎn)，最終取決于我們的選擇。

《工具，還是武器？直面人類科技最緊迫的爭(zhēng)議性問(wèn)題》，布拉德·史密斯、卡羅爾·安·布朗 著，楊靜嫻、趙磊 譯，中信出版集團(tuán)2020年2月出版

閱讀這本書是一個(gè)愉快的體驗(yàn)，盡管里面討論了許多對(duì)人類社會(huì)來(lái)說(shuō)不那么愉快的挑戰(zhàn)。閱讀上的愉悅部分來(lái)自書里內(nèi)容和分析。本書不僅展示了人工智能發(fā)展的積極前景和種種令人興奮的可能性，也涵蓋了諸多已經(jīng)被關(guān)注和尚未引起關(guān)注的相關(guān)主題，社會(huì)分化、失業(yè)、壟斷、武器化、大國(guó)科技競(jìng)爭(zhēng)等等，這些議題在“工具和武器”這個(gè)主題下得到了妥善的安排和處理，這種內(nèi)容上的全面、平衡與恰當(dāng)?shù)姆治錾疃群芎玫亟Y(jié)合在一起。

作者出色的敘述和嚴(yán)謹(jǐn)平實(shí)的風(fēng)格，也讓閱讀變得輕松愉快。我猜想，這與他作為微軟公司首席法務(wù)官的職業(yè)習(xí)慣有關(guān)。這不是拒人于千里之外的學(xué)術(shù)和技術(shù)著作，也不是架空的科幻災(zāi)難小說(shuō)。在書中，大量的思考和分析是個(gè)人體驗(yàn)式的，作為微軟的總裁兼首席法務(wù)官，他不僅參與了微軟內(nèi)部關(guān)于人工智能研發(fā)戰(zhàn)略和規(guī)則的制定，還參與了全球范圍內(nèi)各類大型論壇、政府高層磋商會(huì)，讀者很容易將自己代入這些場(chǎng)景中，理解不同利益方的關(guān)切和選擇，這使得很多看起來(lái)宏大的議題變得真實(shí)可感。

基于本文一開始就提到的理由——企業(yè)家和企業(yè)在現(xiàn)代社會(huì)觀念塑造中的重要角色，我特別贊賞布拉德和微軟公司在推動(dòng)公眾全面、平衡地認(rèn)識(shí)人工智能所作出的努力。借用電影《蜘蛛俠》中的話，能力越大，責(zé)任越大。作為一家全球領(lǐng)先的高科技公司，有幾十萬(wàn)的員工，有數(shù)以億計(jì)的用戶，在全球人工智能開發(fā)版圖中具有舉足輕重的影響，應(yīng)該促進(jìn)行業(yè)在人工智能發(fā)展中采取審慎和自律，促成社會(huì)公眾建立正確的認(rèn)知和觀念，這是巨大的責(zé)任。

我不準(zhǔn)備過(guò)多討論和評(píng)論這本書的內(nèi)容了，畢竟讀者自己從閱讀中理解人工智能帶來(lái)的希望和危險(xiǎn)，是更可靠和可取的途徑。但是，我樂(lè)于和讀者們分享我在閱讀本書以及寫這篇書評(píng)中獲得的兩個(gè)擴(kuò)展的思考。

第一，我們對(duì)人工智能開發(fā)走向失控要有更多準(zhǔn)備。靠少數(shù)公司和政府的努力建立負(fù)責(zé)任的開發(fā)是困難的。企業(yè)之間有激烈的市場(chǎng)競(jìng)爭(zhēng)，國(guó)家之間還有更復(fù)雜的技術(shù)和軍事競(jìng)爭(zhēng)，企業(yè)間和政府間的博弈會(huì)形成典型的囚徒困境，而且由于驗(yàn)證上困難也無(wú)法建立有效的約束機(jī)制，最終大家都向底線競(jìng)跑。

第二，人工智能對(duì)社會(huì)系統(tǒng)性、根本性的影響，還在于我們社會(huì)還未曾和智能上遠(yuǎn)高于我們的物種共生過(guò)。兩年前和微軟合作研究的時(shí)候，我們討論和分析了人工智能的已顯和未顯的挑戰(zhàn)，這些挑戰(zhàn)都稱得上巨大，但總覺得意猶未盡。但現(xiàn)在我想可以更清晰準(zhǔn)確地表達(dá)出更大的風(fēng)險(xiǎn)。人類依靠智識(shí)形成的合作體系，將猛獸滅絕或趕到自然的角落里，馴化動(dòng)物作為伙伴或者食物，開發(fā)疫苗控制了病毒的襲擾。但是人工智能和已知的生物不同，和我們習(xí)慣共存的工具不同，在人類需求的推動(dòng)下，有實(shí)體和無(wú)實(shí)體的人工智能實(shí)際上是一個(gè)物種，它最終會(huì)具備自主性，而且在某些領(lǐng)域的智能和性能上遠(yuǎn)遠(yuǎn)超過(guò)人類的認(rèn)知經(jīng)驗(yàn)。所以，在未來(lái)，我們與人工智能不是共存，而是共生。但是，我們的社會(huì)沒(méi)有準(zhǔn)備好，人工智能成為社區(qū)的成員，成為伙伴、上級(jí)、下級(jí)、老師、敵人。當(dāng)人工智能全面地介入人類的生產(chǎn)生活后，當(dāng)它們從單一功能升級(jí)為復(fù)合功能，當(dāng)它們通過(guò)網(wǎng)絡(luò)連接成為社區(qū)，現(xiàn)在社會(huì)中我們熟知的哪些關(guān)系和行為準(zhǔn)則可能都需要重新定義，但是我們還沒(méi)有思考和準(zhǔn)備。很多人認(rèn)為這是虛幻的或者是遙遠(yuǎn)的未來(lái)的事，但是由于前面所說(shuō)的“囚徒困境”，實(shí)際上這種挑戰(zhàn)到來(lái)的速度會(huì)比想象得快。

這兩個(gè)推演結(jié)論聽起來(lái)似乎悲觀了些，但是如果不去思考和指出這樣的挑戰(zhàn)，不去為之做好準(zhǔn)備，那么這個(gè)挑戰(zhàn)有很大的可能變成現(xiàn)實(shí)。要為這樣的挑戰(zhàn)作準(zhǔn)備，不能只靠少數(shù)公司、政府、學(xué)者的努力，需要在國(guó)際層面、行業(yè)之間、學(xué)科之間和不同利益群體之間的更廣泛協(xié)同合作。不論正確與否，我樂(lè)于和讀者分享我的閱讀思考，也期待更多的讀者能從這本書中獲得自己的啟迪。

（作者俞建拖為中國(guó)發(fā)展研究基金會(huì)副秘書長(zhǎng)）