控制邊緣：未來科技與全球秩序的抉擇(The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma,Mustafa Suleyman & Michael Bhaskar )
前幾日台大醫學系宣布來年將棄英文改採社會科做為率取計分標準,許多議論者期期以為不可.畢竟英文是明顯的工具角色,那社會科的作用呢?似乎對於學醫沒有直接幫助.不過隨著當前醫學與生物合成技術快速發展,在AI協助之下,未來學醫的人是有機會變成21世紀怪醫黑傑克,能挽救萬一的不可能,但同時,超前的技術追求也可能製造出如開發出B.O.P病毒的博士團隊,害人不淺甚至禍亂全世界.學習人文社會科是有一點點阻滯濫用技術發展的作用,將防火牆建築在未來頂尖技術生物合成與醫學開發者的心中與記憶裡,儘管中學社會科作用可能不如想像中有力就是了.
"控制邊緣"談的主題是駕馭(containment),談控制與管理,更進一步說是關於技術發展的駕馭,控制,管理.這裡的技術發展指的是帶動人類經濟物質文明向前,提供生活便利性等攸關的科技新知的研究,創新,發明,發現等,而在這本書所指的技術駕馭,就是指控制,防範或消除這些攸關技術在提升經濟,提高生活便利的同時所帶來的負面影響,駕馭技術一方面最好能讓這些負面影響降低,甚至完全消除它們,駕馭是為了防止這些負面影響超出了人類控制的範疇而傷害人類,駕馭甚至是為了禁絕反噬人類的技術出現與被運用,本書特別著重於未來即將主導並可能大幅改變人類世界樣貌的人工智慧,機器人,合成生物,生物科技等新興科技潮流的技術駕馭上.
本書的主要作者Suleyman是DeepMind的共同創辦人,他先以AI相關議題為發軔,隨後論述及於未來技術浪潮領頭的生物科技,機器人等領域,談它們在技術的發展上可能會創造與誘發出的一些未來世界的社會問題,這些問題可能是攸關倫理的,可能是法律相關,也可能與人類生存繁衍相關的,這些問題無疑可能可能帶來對人類文明過去幾千年累積發展出的思維,與生活,生命框架,價值觀造成破壞,而這種破壞有兩種可能形式,一種可能是有利於人類發展增進文明繁衍的創造性破壞,但破壞也有可能是引發人類滅亡的毀壞開端.Suleyman透過本書來提醒在當前發生毀滅型破壞這樣的狀態是可能出現的,因此在人類社會尚未研究出這種毀滅型破壞技術之前,最好考慮在發展技術的同時,也要考慮駕馭技術發展的過程讓其不產生超越破壞人類世的臨界點問題.
其實一項新的技術在帶來文明向前,創造經濟發展的同時,都會帶來負面衍生物,只不過人類自己有沒有察覺,何時察覺,察覺後又如何處理才是問題,能不能控制問題繼續擴張才是關鍵的所在.一個當前最明顯的案例就是氣候暖化.約150年前開發出以石油燃燒為動力所帶來的技術進步及相關的研究,發明,改變了人類世紀的距離,空間與時間的關係,可以說是大幅的改變了人類的生活,在擴張效益之下,這樣的技術廣為世界各地的人們所使用,所以當初僅是簡單的少數地區污染性問題在長久的積累與匯聚之下形成了今日人類世界的大災難,而人類真的發現這是個大問題竟然也要等到石化產業發展近百年之後.這個案例之所以重要,是因為技術帶來的負面衍生問題在歷史發展過程中是一種常態事件,比如更早的工廠自動化,紡織機等工業革命遺緒替代勞動力,它引發了薪資抑制,失業,忙碌等現象改變了傳統經濟社會下的生活樣貌與習慣,所以在英國曾經發生盧德運動,打砸工廠,焚毀紡織機,抗議新技術對工人的迫害,但最終技術所帶來的問題,也因為技術創造出更寬廣的社會需要,與多元消費產出需求,衍生出更多的行業與就業量,原先的困境問題自然而來就被消彌了,過去歷史上的技術問題幾乎談不上論及需要駕馭的思考,正是因為那些衍生問題都被後續廣大的地球空間與繁衍滋長的人類數量需求給去化.而暖化問題與核能連鎖反應控制問題應該是進入20世紀人類所遇到首次觸及人們需要思考科學技術及其衍生可能逃出人類的掌控,而產生無邊無際難以控制影響的事件,那時人類才開始想到是否存在需要對技術研發進行駕馭的思考.
但技術究竟能不能完全被人類駕馭?人們當然希望技術在發展的過程中是延著一條不會誘發人類生存危機的路徑前行,但從人類當前碳捕捉技術能力依舊不能滿足當下的需要,或者在疫情期間開發出的疫苗效力有限的結果,我們即可醒悟,人類確實可能無法完全駕馭技術的破壞力,起碼在有限時間內要求時,人類確實無法立即完全駕馭技術來解除災難.更遑論在當前新興的科學知識技術,不論是AI,還是新式的生物科技合成技術,大數據模型等的發展上,作者們認為這些下一代的新浪潮技術有一種必然突破這些想當然爾受控於人類劃定邊界的趨勢,超出了人類自己當前的預期,而為了防範這種可能,所以他主張此時在這些技術依舊稚嫩未達成熟之際,人類社會應該需要在發展技術的同時,也建立一套駕馭技術發展的法律,準則,文化,組織與相關控制技術,這樣才能防範於未然,想像一下實驗室發展出的超級病毒,或是有自我意識的人工智慧忌器人,經過Covid_19的疫情,與近年出現的人工智慧alphago,大型語言模型的出現,已經為令人開始懷疑人類最終無法駕馭這些新奇的技術,必須於此刻防範為然的想法播下種子.
根據Suleyman分析這些難以駕馭的未來浪潮的新技術上有著四大特性.首先是巨大的不對稱影響,新技術不再需要相同規模的力量就能產生,且能以小克大,一個私人研究室所產生的人造病毒就可能毀滅一個國家,不在需要國家之力.其次是這些新技術的發展是以一種超快速的方式在更新迭代,比如從alphago到alphazero就是一種超進化的快進,幾個星期便能產生跳躍性的進步,第三它是一種全面性的技術同時進化,比如當前要求AI去做分子生成製造毒藥,它可以在6小時內找出4萬種有毒分子的組成,一班人便可以輕鬆入手,第四個特徵則是未來技術可能具備高度的自主性與超越自我性,會讓人無法掌控他,比如魔鬼終結者的機器人就是這樣的想像,而alphago擊敗人類棋手關鍵的一手就是機器自我化的某種程度的實踐,這些技術上的吸引力是一股超強動力,但也是恐怖的來源,使得未來世界更不可知不可想像.但若加上四項社會條件,會使得追求技術,高端前進的技術成為人類不可能放棄追逐技術的強力因素,這四項社會因素的第一項便是國家需要,不論是基於民族自尊,國家自衛,大國對抗,還是什麼亂七八糟的民族自決意識,如果能利用新技術讓自己國家走在其他國家之前,領先優勢,壓制周邊國家,或是創造自己的安全邊界,基於這些理由在條件允許下,國家領導者基本上都會同意支持向未來的尖端技術研究發展前進.第二個會促使人類社會必須向新技術潮流前進的動力在於大多數研究成果,尤其是學術性研究成果都是開放的,可以讓任何人都能引用,接續研究,站在前人的肩膀上向前,所以能夠在不刻意為惡的情況下利用既有技術創出新奇的,非刻意而為的意外成果.第三個社會因素則是經濟因素,這個最為直接易懂,新的藥物開發,新的生殖合成技術都能化成商機,延年益壽或是治療惡疾既是好事也是有利益的事,何樂而不為.第四項誘發人類追求高端新潮流技術的社會因素在於個人的自我滿足感,任何人都想揚名立萬,科學家,大數據模型開發者,合成生物研究者也不例外,這種自勵心通常是個人從事追逐前沿技術最大的動力.所以想要全面的禁絕人類走往那些可能突破人類控制範圍界線的科技研發道路的可能性相當低,而駕馭技術發展演進的走向,必然是不可能禁絕,只能以監督與管理為主軸,
正因為具有不對稱性,又有國家可能主動參與,這些新浪潮技術可能誘發的災難,將難以過去的思維下的管理框架與結構來思考.我們都知道利維坦,透過這樣的論述讓國家取得了暴力的獨家權利.但是如今的新型生化武器可能只是私人實驗室裡幾個小年輕透過AI的協助及新型的生物合成技術就能製造出來,新的無人機跨海峽攻擊也可能只是一個地方的瘋狂政治狂熱者或私人企業家,這都使得對於新潮流的技術的駕馭管理上有了相當的困難與阻力.因為全面的禁絕私人研發,將所有權力統一由政府組織,必然引發威權獨裁之異,形成了反烏托邦的問題,反之,全面開放技術毫無限制的任人所為的結果就是有可能創造出科學怪人,奇特的滅世企業家的出現,如電影裡的奇異博士,使得全球各地的人們可能因此日日生活於恐懼之下.因此作者一方面提議人們必須承認這種新技術可能帶來的禍患值得留心注意,主流世界必須將人類部分的資源與經費投入放在駕馭技術的監督與管理上.另一方面他提出了建立10種可以邁向技術駕馭的機制方向,分別是首先將安全機制的掌控問題加入在新技術設計中,讓人隨時可以按下停止鈕防止不幸,其次他暗示可以加入利用審查機制,在機構的內部與外部設置相關審查流程與機制,找出可能的問題,其三是利用鎖喉點控制某些國家的奇異發展,特定企業的技術,或掌控原物料流向來拖延新技術的加速出現,第四則是認為讓新技術的批評者也加入開發團隊,藉由對立的關係想法限制技術岐異的走向,第五是將某些特定的良善社會責任放入企業獲利目標之內的追求上,第六項則是由政府訂出相關的規範限制,避免私人任意而為,第七項則是國際上成立某種跨國技術聯盟,藉由簽訂國際協定來限制特定技術的發展.第八項則是塑造一種願意在安全確保下才考慮效益的潛在研究文化,讓研究開發者自心中理解某些界線是不宜任意跨越的.第九項則是讓群眾的力量與目光加入到技術監督與管理中,讓諸多社會人士了解技術可能隱藏的問題與災難,由他們發起監管,甚至形成一種防範運動,最後透過以上九項創造出了一相對狹窄的技術研發通道,人類技術的研發走勢就只能限制在這個窄廊通道之中,以避免全面自由可能造成的災難,或者全面禁絕所產生的威權環境的出現.
對技術發展的駕馭要干預又不能過度干預就是本書所提供的答案,從答案的角度來看論述就顯得內文很多水份很重,不過這也沒辦法,這個主體對照於當前實際發展狀態,就是一片混沌,國際上沒有太多明確的管理與監管機制與組織,有能力的民族國家都以國家力量的立場拼命地向科學技術最前沿進發,唯恐落後,是不太有人會先顧及未來技術新潮流可能帶來突發意料之外的災難.這或許就是最大的問題所在,以上.
留言列表
