微軟研究院院長及技術(shù)院士Eric Horvitz

編者按：隨著技術(shù)的不斷發(fā)展，AI已經(jīng)逐漸深入到了我們的生活中，從語音翻譯到智能助手再到自動駕駛等等。AI在為人們生活帶來便利的同時，也引發(fā)了不少人的“恐慌”。面對AI的發(fā)展，我們到底應(yīng)該擁抱還是擔(dān)憂？

微軟研究院院長及技術(shù)院士Eric Horvitz在《Science（科學(xué)）》雜志AI?？献?ldquo;AI, people, and society”（AI，人類和社會），為大家解讀AI前進(jìn)的道路。

艾薩克·阿西莫夫在關(guān)于其科幻小說作品的一篇文章中曾寫道：“人們普遍將機(jī)器人視為危險設(shè)備，認(rèn)為它們總有一天會摧毀人類。”而對此，他持反對觀點并制定了旨在確保機(jī)器人系統(tǒng)安全性和仁慈心的“機(jī)器人三定律”。阿西莫夫關(guān)于人與機(jī)器人之間關(guān)系的小說問世沒幾年，“人工智能”（AI）這個術(shù)語便首次出現(xiàn)在1955年的一份運用計算機(jī)解決“目前只有人類才能解決的問題”的研究提案中。隨后經(jīng)歷的半個世紀(jì)，AI已經(jīng)發(fā)展成為一個成熟的細(xì)分學(xué)科，產(chǎn)生了一系列可用于實現(xiàn)（機(jī)器）感知、學(xué)習(xí)、推理和自然語言理解的方法。

通過“深度學(xué)習(xí)”的方法，計算機(jī)在模式識別方面的準(zhǔn)確性突飛猛進(jìn)，AI也由此變得愈發(fā)激動人心。這些進(jìn)步將“語音翻譯”和“半自動駕駛”等新功能實實在在地交付到了消費者手中。但許多艱難的挑戰(zhàn)也仍然存在，而且AI科學(xué)家們?nèi)匀粚θ祟愔腔鄣谋姸嗄芰Ω械礁呱钅獪y。

AI發(fā)展帶來的興奮被對它們潛在缺陷的擔(dān)憂所蒙蔽。有些人擔(dān)心超級智能崛起以及AI系統(tǒng)可能的失控，另外一些人則擔(dān)心不遠(yuǎn)的將來可能出現(xiàn)的問題，例如，用于指導(dǎo)醫(yī)療保健和刑事司法等領(lǐng)域高風(fēng)險決策的數(shù)據(jù)驅(qū)動分類器可能會受到數(shù)據(jù)集偏見的影響，導(dǎo)致不公平和不準(zhǔn)確的推論。其它備受關(guān)注的緊迫問題還包括：與AI自主系統(tǒng)決策相關(guān)的法律和倫理問題、推論解析中存在的困難、新的監(jiān)控形式對公民自由的威脅、以勸說為目的的精確操縱、將AI用于犯罪目的、軍事應(yīng)用中的顛覆性影響，以及機(jī)器搶奪人類就業(yè)機(jī)會并因而加劇財富不均等問題的潛在可能。

伴隨著我們推動AI科學(xué)發(fā)展的努力，應(yīng)對AI給人類與社會可能會帶來的影響，無論從短期還是長期的維度上看都是至關(guān)重要的。我們可以通過重點研究、監(jiān)測和分析來制定有價值的評估和指導(dǎo)。而AI影響范圍廣泛，因此需要跨學(xué)科團(tuán)體的參與，包括計算機(jī)科學(xué)家、社會科學(xué)家、心理學(xué)家、經(jīng)濟(jì)學(xué)家和法律專家等。在長期的問題上，則需要展開對話，以彌合關(guān)于超級智能和惡意AI可能性等問題上的意見分歧。探索方向應(yīng)該包括：詳細(xì)界定AI發(fā)展的軌跡和結(jié)果，并邀請在軟件驗證、安全和故障防護(hù)設(shè)計原則等領(lǐng)域有精深見解的計算機(jī)科學(xué)家和工程師參與其中。

現(xiàn)在人們已經(jīng)開始了相關(guān)的研究和項目。2008年，人工智能進(jìn)步協(xié)會（Association for the Advancement of Artificial Intelligence）就開展了一項長達(dá)數(shù)月的AI長期前景的研究，并在美國加利福尼亞州的Asilomar舉行了一次會議。而在這次會議的啟發(fā)下，斯坦福大學(xué)設(shè)立了“百年AI研究項目”，他們計劃每五年進(jìn)行一次類似的研究，并持續(xù)一個世紀(jì)以上（第一份報告已于去年發(fā)布）。同時，美國國家科學(xué)院也進(jìn)行了一項長達(dá)2年的研究，并于去年4月發(fā)表了一篇關(guān)于自動化對美國勞動力影響的報告。而今年早些時候，來自工業(yè)界、學(xué)術(shù)界和民間社團(tuán)的代表成立了非盈利性質(zhì)的人工智能合作組織（Partnership on AI），旨在為AI技術(shù)的開發(fā)和部署提出最佳實操建議。

艾薩克·阿西莫夫在他的文中總結(jié)道：“我無法接受‘如果知識代表危險，無知就是解決辦法’這種觀點。對我來說，解決的辦法一定是運用人類的智慧。人類不能拒絕直面的危險，而要學(xué)會如何安全地應(yīng)對。”事實上，AI前進(jìn)的道路原本就應(yīng)以理智的好奇、審慎與合作為指引。

原文地址：http://science.sciencemag.org/content/357/6346/7.full????