2024-09-04 04:00:00天光
【AI論】你擔心AI毀滅人類嗎？
【你擔心AI帶來世界末日嗎？】
一般人所謂的「擔心AI造成世界末日」，通常意思是指「恐懼AI毀滅地球人類文明」。
「恐懼AI毀滅人類」這句話，同時包含兩層涵義-
(a)「恐懼AI超越人類智能後，出現毀滅人類的意願與能力」
(b)「恐懼人類用超越人類智能的AI來毀滅人類」
b與a，哪個更值得恐懼？
相信AI會發展出自主人格者，可能傾向於a。而相信AI在本質上不會有自主人格，而永遠只能是人類的應用工具者，可能會傾向於b。
然而，無論是a或b，都是因為「AI的智能超越人類」這回事的存在，而衍生的恐懼。
由a與b，我們可以更進一步確認兩者所擔心、恐懼的對象，可以歸納為XY兩類。
X：人類濫用AI (衍生b)
Y：AI濫用AI （衍生a）
強調XY這二者的區分，有意義嗎？
可能有意義。最大的意義在於X是千古以來人性難以純善而必然含有惡性，而無法逃避的自然現象。然而，Y 則不是從人性著眼，而是認為AI自己很可能發展出具有類似人類那樣的善惡二元性，且不可能永遠保持純善，而導致的現行。
簡而言之，兩者都是「惡的心性」所產生的後果，只不過造惡的核心主體發動者是人類還是機器的差異。
假如你是思想家，你想要預防人類世界被毀滅，你會選擇優先預防哪一個？這其實取決於你認為的「造惡的核心主體發動者」到底是誰。
然而，有意思的是，XY這二者的預防措施，在手段層面上，很可能幾乎是相同的，本質上就是要「管理AI」。
首先，都是要設法限制AI的能力、使用範圍、取材學習訓練的來源、降低出錯的機率與嚴重程度。
其次，必須發展出對AI的監管工具。這些工具可能包括數量指標、質性指標、物理裝置、機器人身份證、機器人零件身份證、管理AI的AI....等等。
第三，必須有長期漸進的文化適應與集體學習過程。這個過程是讓人類學會如何與AI共處；如同汽車時代剛開始時，自小生長於農村裡，養馬長大而習慣騎馬的孩童，長大後要學會如何在城中到處是汽車的環境裡打零工存活。
「汽車普及不會讓養馬戶的小孩沒工作」這樣的認知必須逐漸被確立。
至於無論你認為「AI是否可能具有自主人格？」其實都不妨礙你採取手段來管理AI，以及管理由此而來的未來世界的風險。
2024-08-28 FB
後記：
從演化觀點看，「恐懼」這個負面情緒，最大的存在價值，就是提醒生物要盡快預防危險。
延伸閱讀：
【AI論】讓AI只做粗工，勿取代人類創作，如何？
上一篇：【331】復活節