科技向善，其實挺復雜的
騰訊掌門人馬化騰在朋友圈宣布：科技向善，是騰訊未來的愿景和使命。
稍早的時候，他在兩會上提交的七份書面建議，其中就有一個《關于加強科技倫理建設 踐行科技向善理念的建議》。
很樂見于騰訊的這種“我要做個好人”這樣公開的明確的表態(tài)。
印象中，這樣言辭鑿鑿斬釘截鐵的中國高科技公司的表態(tài)——并升格為一種愿景和使命，騰訊是頭一個。
尤其是在谷歌撤下了“不作惡”的背景之下。
二
自動駕駛領域里有一個很有名的倫理問題。這個倫理問題其實并不新鮮，就是著名的電車難題的翻版。
一臺載有乘客的自動駕駛汽車，極端情況下的算法該如何設計：究竟是撞向前方的路人，還是自己翻了算。再或者，是撞向左邊的五個人，還是撞向右邊的一個人，還是自己翻了算導致乘客倒霉？
道德和倫理并不完全相同。我們可以大罵洗稿是不道德的，但我們不會說洗稿是沒有倫理的。而自動駕駛的算法難題，不是道德問題，是倫理問題。
故而，當我們在說，科技向善的時候，到底是在說道德，還是倫理？
而如果是倫理問題，那我們不得不承認這樣一個事：科技倫理，或者說，技術(shù)倫理，是一個很復雜的問題。
三
北美的媒介環(huán)境學致力于研究媒介新技術(shù)對社會究竟是什么影響，這個學派從伊尼斯以降，到麥克盧漢，到波斯曼，到梅羅維茨。
有趣的地方是，每一代都在和上一代不敢茍同。伊尼斯是著名的技術(shù)決定論者，麥克盧漢就不是那么決定論，但他總體上是個樂觀主義者，波斯曼自稱是麥克盧漢不乖的學生，三本被譯介為中文的著作足以表明，他是一個悲觀主義者。梅羅維茨又收回來那么點，他沒他的老師那么悲觀。他可能是媒介環(huán)境學里對技術(shù)看法最中庸的一位學者。
更有一堆學者在這個問題上各執(zhí)己見。科幻小說家出身的萊文森樂觀得不行；早年頗有些馬克思主義者氣質(zhì)的艾呂爾就很悲觀以至于他呼喚神性來拯救蒼生；活了94歲的芒福德本來是個樂觀派，但獨子死于戰(zhàn)爭后他迅速站到了悲觀的陣營；凱利跳出來和稀泥：你們說得都對。
想知道這個學派都在吵吵嚷嚷什么，可以去看一本叫《媒介環(huán)境學：思想沿革與多維視野》的書。
這本書是一本論文集，很學術(shù)。不看也沒關系，反正你只要知道這點就可以了：關于技術(shù)到底會帶來福祉，還是會導向悲劇，學者們從來沒有定論。
技術(shù)到底會帶來什么吵得不可開交，這其實涉及到一個問題：技術(shù)倫理本身都特別難有定論。
嚴謹?shù)卣f，向善，不等于善。更進一步，善是什么，都莫衷一是。
四
技術(shù)倫理有一些特別搞的地方。
比如大多數(shù)人對社交網(wǎng)絡并沒有什么太惡的看法。但如果一生獲獎無數(shù)的芒福德爵士要活到今天，可能要很不以為然。這個從古埃及金字塔里琢磨出“權(quán)力五邊形”的老頭子，會以“王者機器”金字塔不僅僅包括石頭還包括那些死去的奴隸為例，來論證Facebook也好，微信也好，我們都是那個權(quán)力五邊形的奴隸。
其實當今世上，都有一派人有類似的看法。他們給我們這些用戶起了個名字，叫“數(shù)字勞工”。996？不存在的，我們是007為社交網(wǎng)絡打工，還是免費的。
技術(shù)也會改變倫理。
比如說，亂倫這件事其實非常值得細細琢磨。石器時代的原始人對亂倫行為就有些防范，一直到今天我們都無法在道理上或倫理上接受亂倫。但反對這件事的科學依據(jù)究竟是什么？——不要和我說亂倫會生白癡，那個純屬刻板印象。
假定基因技術(shù)、試管嬰兒技術(shù)發(fā)達到我們?nèi)祟愐呀?jīng)完全能駕馭，亂倫這種不合乎道德倫理的行為，就可以再推敲一下。如果沒有什么不良后果，我們?yōu)槭裁催�要認為這不符合道德不符合倫理？
什么叫善，什么叫惡，本身都可以大加討論。
五
讓我們來聊聊核。
據(jù)說美國人在日本投放了原子彈之后，愛因斯坦頗為后悔。用一顆原子彈終結(jié)了無數(shù)平民的生命以使得戰(zhàn)爭迅速結(jié)束從而救下了可能同樣是無數(shù)的生命，這個頗有些莽一波氣質(zhì)的操作，其善惡大概可以爭論半天。
但有一件事怕是基本可以停止爭論了：人類搞了一個惡魔般的原子彈，反倒達成了一種平衡。局部戰(zhàn)爭還有，全球戰(zhàn)爭倒停止了。因為但凡有點理智的人都明白，原子彈不是僅僅消滅對手。頗有些利用恐懼來終結(jié)恐懼的意思。
我們現(xiàn)在要擔心的事情只剩下這條：不要讓原子彈落到不正常組織里沒有理智的人手中。
好，那么我們善用技術(shù)，不搞原子彈，搞核發(fā)電。在嚴格管理之下，這項清潔能源，如果不出疏漏，將極大造福人類。
請注意前提：嚴格管理，不出疏漏。
日本福島的事并不久遠，至今對當?shù)亟?jīng)濟打擊沉重。在我看來，核電廠泄露的本身危害，與造成的社會心理恐慌，當量級恐怕后者更甚。恐慌雖未見理性，但類似《思考快與慢》的作者卡尼曼早就證明了：人類，并不完全理性。
我們能做到100%不出疏漏嗎？
安全這檔子事，哪有百分百的保證。
有件事很多人都明白，發(fā)明家一旦發(fā)明出某種技術(shù)或東西之后，這項技術(shù)或東西的未來走向，不是發(fā)明家自己能把控的。
六
但向善總是好的。
這表明了一種對技術(shù)審慎的態(tài)度。審慎總比不審慎好。三思總比不思好。
曾經(jīng)有過一個觀點：能被發(fā)明出來的東西，都是好的。所以，能夠發(fā)明，必須發(fā)明。
但人類走到今天，這個觀點，怕是不怎么能立住腳。
一個高科技公司做起惡來，或者，哪怕不作惡只是不審慎，造成的后果比一個賣賣可樂的公司，嚴重得多。后者還算在可控的范圍，前者風險無限大。
所以科幻片從來只有惡的科學怪人，沒有惡的可樂老板。
向善有點類似善良比聰明更重要的論點。貝索斯于2010年說出了這樣一句話，多年以后，張小龍在微信公開課引用此句，被更多人知曉。
插一句，亞馬遜被爆出用AI監(jiān)控員工，這件事我覺得貝索斯也不是不可以辯論：監(jiān)督員工勉力干活，談不上惡。你看，什么叫善什么叫惡，是可以爭論的。
向善是動機，善是結(jié)果。動機未必導向結(jié)果，但如果沒有向善的動機，善的結(jié)果可能也會無心插柳柳成蔭，但總是小概率事件。
七
我建議騰訊成立一個圓桌式的技術(shù)倫理委員會，來落地“科技向善”這個夢想。
基于騰訊一個高科技公司的定位，高層大多理工背景，這個技術(shù)倫理委員會應該延請一些聲望卓著的倫理學家，對關鍵性技術(shù)做一個倫理上的審慎評估。
這里可能有一些老外（如果可能的話），但中國本土學者是必須的。因為，不得不承認，中國這片土地，和老外還是有些不同。
在安個攝像頭基本不用和你打招呼的這里，和安個攝像頭還要討論半天的美國，AI尋人這個事，怕是做法有些不同罷。
八
最后多說一句話。
這也是我多年以前的觀點，至今未變：
科技，總體來說，永遠符合既得利益者的利益。
這個意義上說，我算是骨子里的技術(shù)悲觀派。
