[สรุปหนังสือ] The Coming Wave : Technology, Power, and the 21st Century’s Greatest Dilemma

 

 

[สรุปหนังสือ] The Coming Wave : Technology, Power, and the 21^st Century’s Greatest Dilemma (2023)

by Mustafa Suleyman

 

“The coming technology wave promises to provide humanity with godlike powers of creation, but if we fail to manage it wisely, it may destroy us.” – Yuval Noah Harari

 

ตลอดช่วงเวลาทางประวัติศาสตร์ของมนุษยชาติ คลื่นแห่งเทคโนโลยีขนาดใหญ่ที่ถูกคิดค้นโดยมนุษย์ได้เปลี่ยนแปลงวิถีชีวิตของมนุษยชาติอย่างเฉียบพลันมาแล้วนับครั้งไม่ถ้วน ตั้งแต่ การคิดค้นการใช้ “ไฟ” ที่นำมาสู่การปรุงอาหารให้สุกและการสร้างความอบอุ่น การคิดค้น “ล้อ” ที่ทำให้มนุษย์ทุ่นแรงและเดินทางไปได้ไกลกว่าเดิม ไปจนถึง การคิดค้นความสามารถในการใช้พลังงานจาก “ไฟฟ้า” ที่นำมาสู่ระบบสังคมสมัยใหม่ที่มีผลิตภาพแบบก้าวกระโดด

ในอนาคตที่กำลังจะถึงนี้ คลื่นแห่งเทคโนโลยีขนาดใหญ่ลูกถัดไปอย่าง “A.I.” และ “เทคโนโลยีทางชีวภาพ” กำลังนำพามนุษยชาติไปสู่จุดแห่งการตัดสินใจที่สำคัญที่สุดในประวัติศาสตร์ที่กำหนดชะตากรรมระหว่าง “ความรุ่งโรจน์” อันอุดมสมบูรณ์ที่เกิดขึ้นจากความสามารถในการบริหารจัดการเทคโนโลยีเหล่านั้นให้เกิดประโยชน์สูงสุดต่อมนุษยชาติและ “หายนะ” ที่เกิดขึ้นเมื่อ A.I. และเทคโนโลยีชีววิทยาสังเคราะห์ (synthetic biology) หลุดรอดไปจากการควบคุมและทำให้มนุษย์ต้องอาศัยอยู่ในระบบนิเวศน์ที่ไม่สามารถแม้แต่ที่จะทำความเข้าใจได้อีกต่อไป

The Coming Wave คือ หนังสือเล่มแรกของ Mustafa Suleyman ผู้ร่วมก่อตั้ง DeepMind บริษัท A.I. ที่เคยสร้างความตื่นตะลึงให้กับชาวโลกจากการสร้าง A.I. ชื่อ AlphaGo ที่มีความสามารถในการเอาชนะเซียนโกะอันดับหนึ่งของโลกไปอย่างขาดลอย โดย Mustafa Suleyman เขียนหนังสือเล่มนี้ขึ้นมาเพื่อทั้ง “พยากรณ์” ถึงโลกในอนาคตที่ถูกมหาคลื่นแห่งเทคโนโลยีซัดสาดเข้าอย่างจังและ “เตือน” ถึงหายนะที่กำลังจะมาถึงหากมนุษยชาติตัดสินใจผิดพลาดในการรับมือและควบคุมเทคโนโลยีเหล่านี้ในไม่กี่ปีข้างหน้า

ขอเชิญทุกท่านที่สนใจในเทคโนโลยีแห่งโลกอนาคตอ่านสรุปหนังสือที่ชวนให้ทั้งตื่นเต้นและขนลุกเล่มนี้กันได้เลยครับ

 

ผู้เขียน Mustafa Suleyman อดีตผู้ก่อตั้ง Deepmind (source: Business Insider)

 

Chapter 1 : CONTAINMENT IS NOT POSSIBLE

ลองจินตนาการถึงโลกอนาคตอันใกล้ที่มนุษย์สามารถถอดรหัสสององค์ประกอบของความเป็นมนุษย์อย่าง “ปัญญา (intelligence)” และ “ชีวิต (life)” เพื่อนำมาพัฒนาเป็นเทคโนโลยี “ปัญญาประดิษฐ์ (artificial intelligence หรือ A.I.)” ที่มีความสามารถในการแก้ปัญหาทั้งหมดในโลกได้อย่างรวดเร็วและเทคโนโลยี “ชีววิทยาสังเคราะห์ (synthetic biology)” ที่มอบอำนาจแห่งพระเจ้าในการสร้างและดัดแปลงองค์ประกอบของชีวิตให้กับมนุษย์ โลกของพวกเราคงจะเต็มไปด้วยความอุดมสมบูรณ์ทางทรัพยากรจากผลิตภาพที่เพิ่มสูงขึ้นจากการใช้ A.I. และเต็มไปด้วยผู้คนที่มีสุขภาพดีอายุยืนยาวปราศจากโรคภัยที่ครั้งหนึ่งอาการเจ็บป่วยเคยเป็นปัญหาใหญ่ของมนุษย์ทุกคน… แต่ถ้าหากว่าวันหนึ่ง มนุษย์คนหนึ่งที่มีแรงจูงใจอันชั่วร้ายได้ตัดสินใจนำเอาเทคโนโลยีการตัดต่อ DNA มาให้ A.I. ออกแบบเพื่อคิดค้นไวรัสที่สามารถแอบแฝงอยู่ในร่างกายโดยตรวจสอบไม่ได้และสามารถแพร่กระจายได้อย่างรวดเร็วเพื่อคร่าชีวิตของผู้คนได้เป็นร้อยเป็นพันล้านคนภายในไม่กี่วัน โลกที่วาดฝันไว้อย่างสวยงามก็จะพังทลายลงภายในพริบตา

ตัวอย่างการจำลองของเหตุการณ์ในอนาคตข้างต้นนั้นเป็นเพียงแค่หนึ่งในฉากทัศน์แห่งหายนะที่มีอยู่หลากหลายความเป็นไปได้ หากมนุษยชาติล้มเหลวในการควบคุมคลื่นแห่งเทคโนโลยีระลอกใหม่อย่าง A.I. และ synthetic biology ที่เต็มไปด้วยศักยภาพเชิงบวกที่กำลังเคลื่อนเข้ามาสู่มนุษยชาติในอีกไม่กี่ปีข้างหน้าด้วยอัตราเร่งจากการแข่งขันกันอย่างเข้มข้นจากทั้งภาคเอกชนและระดับประเทศที่ต่างก็อยากครอบครองความเป็นหนึ่งในเทคโนโลยีเหล่านั้น

ซึ่งตลอดระยะเวลาที่ Mustafa Suleyman คว่ำหวอดอยู่ในแวดวงเทคโนโลยีอันล้ำสมัย เขาเองก็ได้เล็งเห็นถึงปัญหาใหญ่อย่าง “การหลีกเลี่ยงการมองโลกในแง่ลบ (pessimism aversion)” ที่ผู้นำประเทศและผู้นำองค์กรเทคโนโลยีต่างมองเห็นแต่ฉากทัศน์เชิงบวกของเทคโนโลยีที่พวกเขากำลังพัฒนาโดยหลีกเลี่ยงการพูดถึงความเสี่ยงอันยิ่งใหญ่ที่กำลังนำพามนุษยชาติมาสู่จุดหายนะ ซึ่งนำมาสู่ปัญหาของการละเลยการพูดคุยถึงความจำเป็นในการควบคุมและจำกัดวง (contain) เทคโนโลยีเหล่านั้น จนทำให้เขาต้องตัดสินใจเขียนหนังสือเล่มนี้ขึ้นมาเพื่อกระตุ้นให้ผู้นำของโลกหันมาให้ความสนใจต่อประเด็นนี้ เพราะเทคโนโลยี A.I. และ synthetic biology จำเป็นต้องถูกควบคุมและจำกัดวงขีดความสามารถก่อนที่จะสายเกินไป

 

---

 

PART I | HOMO TECHNOLOGICUS

 

Chapter 2 : ENDLESS PROLIFERATION

หลังจากที่มนุษยชาติได้คิดค้นและคุ้นชินกับหัวรถจักรไอน้ำที่ก่อให้เกิดการเดินทางรูปแบบใหม่ทางรางที่เชื่อมต่อเมืองที่อยู่ห่างไกลจากกันได้อย่างที่ไม่เคยเป็นมาก่อน มนุษย์ก็เริ่มคิดถึงการย่อขนาดเครื่องจักรให้เล็กลงเพื่อพัฒนาเป็น “รถยนต์ส่วนบุคคล” ที่ก็เริ่มมีต้นแบบสำเร็จในปี 1886 โดย Carl Benz วิศวกรชาวเยอรมันที่พัฒนา Motorwagen ที่เป็นรถสามล้อขับเคลื่อนด้วยเครื่องยนต์แบบสันดาป ก่อนที่ Henry Ford จะเปิดตัวรถยนต์ Model T ในปี 1908 ที่มีความโดดเด่นในด้านราคาที่ถูกกว่ารถยนต์ทั่วไปเป็นอย่างมากจากนวัตกรรมกระบวนการผลิตแบบสายพานประกอบ (assembly line) จนทำให้ผู้คนเริ่มลงจากหลังม้าและหันมาใช้รถยนต์กันมากขึ้นและก่อให้เกิดบริษัทรถยนต์ที่ลอกเลียนและดัดแปลงกรรมวิธีการผลิตของ Ford จนเกิดเป็นนวัตกรรมทางรถยนต์อย่างต่อเนื่อง การแพร่กระจายของรถยนต์ส่วนบุคคลยังเปลี่ยนแปลงวิถีชีวิตของมนุษย์ที่ก่อให้เกิดการกระจายตัวของเมืองที่เชื่อมต่อถึงกันด้วยถนนและทางด่วนพร้อมๆกับการเปลี่ยนแปลงทางวัฒนธรรมที่ผู้คนสามารถเดินทางไปทำกิจกรรมใหม่ๆได้มากมายและยังเกิดกลุ่มคนที่รักรถเป็นชีวิตจิตใจอีกด้วย

มนุษย์คือ “สิ่งมีชีวิตแห่งเทคโนโลยี” ที่มีความสามารถในการสร้างเทคโนโลยีใหม่ๆอย่างต่อเนื่องและยังวิวัฒนาการไปพร้อมๆกันกับเทคโนโลยีเหล่านั้นได้อย่างยืดหยุ่น โดยเฉพาะเทคโนโลยีกลุ่มที่มีประโยชน์หลายด้าน (general-purpose technology) อาทิ ไฟ ภาษา การทำการเกษตร หนังสือ เครื่องยนต์ ไฟฟ้า คอมพิวเตอร์และอินเตอร์เน็ต นั้นเปรียบได้ดั่งคลื่นที่เมื่อเทคโนโลยีเหล่านี้ถือกำเนิดขึ้น มนุษย์และองค์กรจำนวนมากก็ต่างนำเอาเทคโนโลยีเหล่านั้นมาประยุกต์ใช้และคิดค้นกระบวนการลอกเลียนและพัฒนาเทคโนโลยีเหล่านั้นอย่างต่อเนื่องจนทำให้เทคโนโลยีมีทั้งราคาที่ถูกลงและปริมาณการใช้งานที่เพิ่มสูงขึ้นจากทั้งการรับรู้ การเข้าถึงและราคาที่ถูกลง นอกจากนั้น การพัฒนาเทคโนโลยีที่มีประโยชน์หลายด้านมักช่วยส่งเสริมให้เกิดการพัฒนาเทคโนโลยีใหม่ๆในอัตราเร่งมากยิ่งขึ้นอย่างต่อเนื่อง อาทิ Uber ที่เกิดขึ้นจากการเข้าถึงของเทคโนโลยี smartphone, อินเตอร์เน็ตและ GPS ซึ่งทั้งสามก็เกิดขึ้นจากการพัฒนาคลื่นเทคโนโลยีก่อนหน้า เช่น GPS ที่เกิดขึ้นจากการพัฒนาเทคโนโลยีจรวดและดาวเทียมที่ก็เกิดขึ้นจากการพัฒนาเทคโนโลยีเครื่องยนต์ ต่อกันไปเป็นทอดๆ

 

Chapter 3 : THE CONTAINMENT PROBLEM

ความท้าทายที่ไม่สามารถหลีกเลี่ยงได้ของการคิดค้นเทคโนโลยีใหม่ๆก็คือการที่นักนวัตกรรมผู้คิดค้นเทคโนโลยีเหล่านั้นจะ “สูญเสียความสามารถในการควบคุม” เทคโนโลยีเหล่านั้นอย่างรวดเร็วเมื่อเทคโนโลยีที่มีความสามารถในการทำให้ชีวิตของมนุษย์ดีกว่า ง่ายกว่า ถูกกว่าและเร็วกว่าได้รับการลอกเลียนแบบและพัฒนาต่อไปเป็นทอดๆ โดยสิ่งหนึ่งที่เป็นความจริงที่แน่นอนก็คือทุกเทคโนโลยีนั้นมีข้อเสียหรือจุดบอดที่นำไปสู่ผลกระทบในแง่ลบได้แม้ว่าตัวของผู้คิดค้นนั้นจะไม่ได้มีเจตนาก็ตาม อาทิ ผู้คิดค้นรถยนต์ที่ก่อให้เกิดมลพิษและภาวะโลกร้อนนั้นเคยมีความคิดในการกำจัดมลพิษที่เกิดจากมูลของม้าที่เป็นพาหนะหลักในเวลานั้น ผู้คิดค้นดาวเทียมที่มีเป้าหมายในการสร้างความก้าวหน้าให้กับมนุษยชาติก็เป็นต้นตอในการสร้างขยะอวกาศจากเศษซากของดาวเทียมที่เริ่มมีความเสี่ยงต่อการปล่อยจรวดเพื่อพามนุษย์ไปสำหรับอวกาศนอกโลก หรือ แม้แต่ Johannes Gutenberg ผู้คิดค้นเครื่องพิมพ์หนังสือที่มีเป้าหมายในการพิมพ์คัมภีร์ Bible ก็ได้ก่อให้เกิดยุคของการตื่นรู้จากการเผยแพร่ความรู้ผ่านหนังสือที่ทำให้ศาสนาถูกลดบทบาทลง

ตลอดระยะเวลาทางประวัติศาสตร์ของมนุษยชาตินั้นเต็มไปด้วยความพยายามในการควบคุมและจำกัดวงเทคโนโลยีใหม่ๆที่ซัดสาดเข้ามาเปลี่ยนแปลงวิถีชีวิตแบบเก่า อาทิ การก่อตัวของกลุ่ม Luddite ในอังกฤษเพื่อต่อต้านเครื่องจักรสานและการปิดประเทศของญี่ปุ่นกว่า 3 ศตวรรษเพื่อป้องกันเทคโนโลยีจากประเทศบ้านป่าเมืองเถื่อนทางตะวันตก ซึ่งความพยายามในการกีดกันเทคโนโลยีทั้งหมดนั้นก็ล้วนก่อให้เกิดความล้าหลังในการพัฒนาและสุดท้ายเทคโนโลยีที่ดีกว่าเหล่านั้นก็ถูกนำมาประยุกต์ใช้อยู่ดี

 

การรวมตัวกันทำลายเครื่องจักรสานสมัยใหม่ของกลุ่ม Luddite ในประเทศอังกฤษในช่วงปี 1811-1817 (source: Radical Tea Towel)

 

Mustafa Suleyman มองว่าโลกในยุคปัจจุบันนั้นไม่มีปัญหาในเรื่องความล่าช้าของการพัฒนาเทคโนโลยีอีกต่อไป แต่มีปัญหาใหญ่ของยุคอยู่ที่ความสามารถในการควบคุมและจำกัดวงของเทคโนโลยีที่อาจหมายรวมถึงความสามารถในการปิดการใช้งานเทคโนโลยีเหล่านั้นไปอย่างสมบูรณ์ซึ่งเป็นสิ่งที่ต้องทำแต่ก็ไม่เคยทำได้อย่างสมบูรณ์ในประวัติศาสตร์มาก่อน (อ่านเพิ่มเติมที่ Part IV)

โดยเทคโนโลยีที่เขามองว่ามนุษยชาติสามารถควบคุมได้อย่างพอสำเร็จประมาณหนึ่งก็คือระเบิดนิวเคลียร์ที่ทุกประเทศต่างเห็นพ้องต้องกันถึงภัยอันตรายจนทำให้เกิดข้อตกลงระหว่างประเทศในการหยุดพัฒนาระเบิดนิวเคลียร์ที่ก็มีเรื่องต้นทุนการพัฒนาและจัดเก็บรักษาเป็นปัจจัยเสริม แต่ความเสี่ยงของนิวเคลียร์ก็ยังคงมีอยู่เพราะวิธีการผลิตระเบิดนิวเคลียร์นั้นเป็นองค์ความรู้ที่เข้าถึงได้ถึงแม้จะมีต้นทุนที่สูงมากและประเทศอย่างเกาหลีเหนือและอิหร่านก็ยังมุ่งหน้าสร้างโครงการนิวเคลียร์ของตัวเอง แถมไม่เชื่อก็ต้องเชื่อว่าสหรัฐอเมริกาเองก็มีระเบิดนิวเคลียร์ที่หายไปจากโกดังถึง 3 ลูกด้วยกัน อุบัติเหตุโดยเจ้าหน้าที่ดูแลจัดการระเบิดนิวเคลียร์ในที่ใดที่หนึ่งที่ก็มีความเสี่ยงไม่น้อยก็อาจเกิดขึ้นได้และนำพาให้โลกเข้าสู่ยุคเสี่ยงสงครามนิวเคลียร์ได้อีกครั้ง

 

---

 

PART II | THE NEXT WAVE

 

Chapter 4 : THE TECHNOLOGY OF INTELLIGENCE

จุดเริ่มต้นของยุคทองของ A.I. เกิดขึ้นในปี 2012 ณ การแข่งขันพัฒนา algorithm ที่สามารถอ่านสิ่งของในรูปภาพได้อย่างแม่นยำที่มหาวิทยาลัย Stanford เมื่อโมเดล A.I. ที่ชื่อ AlexNet ของอาจารย์ Geoffrey Hinton แห่ง University of Toronto ทำลายสถิติ A.I. ที่เคยแข่งขันในการแข่งขันนี้ทั้งหมดในประวัติศาสตร์ได้อย่างน่าอัศจรรย์ด้วยโมเดลการพัฒนา A.I. แบบ “deep learning” ที่ออกแบบ algorithm เป็นลักษณะโครงข่ายคล้ายเส้นใยประสาทมนุษย์ (neural network) ที่เชื่อมประสานระหว่างกันและปรับเปลี่ยนค่าตามการเรียนรู้จากข้อมูลอันมหาศาลอย่างต่อเนื่องจนมีความแม่นยำมากขึ้นเรื่อยๆ

ต่อมาเทคโนโลยี deep learning ก็ถูกนำมาใช้ในการพัฒนา A.I. ที่มีความสามารถโดดเด่นแบบเฉพาะทางได้เหนือกว่ามนุษย์อย่างต่อเนื่อง อาทิ AlphaGo ของ DeepMind ของ Mustafa Suleyman เองที่ถูกพัฒนาขึ้นผ่านการฝึกฝนให้เล่นหมากกระดานกับตัวเองและดูการแข่งขันของมนุษย์แบบนับครั้งไม่ถ้วน จน AlphaGo สามารถคิดวิธีการวางหมากที่ไม่เคยเกิดขึ้นมาก่อนในประวัติศาสตร์หมากกระดานและเอาชนะเซียนโกะอย่าง Lee Sedol ได้ในปี 2016… นอกจากนั้น deep learning ยังให้กำเนิดเทคโนโลยี computer vision ที่คอมพิวเตอร์สามารถอ่านและทำความเข้าใจรูปภาพหรือสิ่งที่เห็นตรงหน้าจากการเรียนรู้จากรูปภาพจำนวนมหาศาลจนก่อให้เกิดการประยุกต์ใช้ A.I. ที่มีทักษะสัมผัสด้านการมองเห็นได้ไม่แพ้มนุษย์แบบก้าวกระโดด ตั้งแต่ เทคโนโลยีตรวจจับใบหน้า (facial recognition) ไปจนถึง รถยนต์ไร้คนขับ (driverless car)

เหตุการณ์ที่เรียกได้ว่าเป็นคลื่นลูกใหญ่ลูกแรกในมหาคลื่นแห่ง A.I. ที่สร้างความฮือฮาไปทั่วโลกก็ได้เกิดขึ้นในช่วงปลายปี 2022 เมื่อ OpenAI ได้เปิดตัว ChatGPT ที่เป็น A.I. สาย large language model (LLM) ที่เรียนรู้ภาษาของมนุษย์จากการศึกษา text จำนวนมหาศาลได้อย่างเป็นธรรมชาติและสามารถพยากรณ์การตอบโต้จากประโยคของมนุษย์ได้อย่างแม่นยำในระดับที่ ChatGPT สามารถเขียนรายงาน ออกแบบสูตรอาหาร แต่งเพลง วาดรูป ไปจนถึง เขียนโปรแกรมที่ตอบสนองตามคำสั่งของผู้ใช้งานได้อย่างน่าอัศจรรย์… ซึ่งโมเดล LLM นี้ยังถือเป็นโมเดล A.I. ขนาดใหญ่แรกที่ใช้วิถีการเรียนรู้แบบไม่มีคนดูแล (unsupervised) ที่สามารถให้ข้อมูลหนังสือ บทความ ข้อความใน social media หรือแม้กระทั่งรูปภาพจากโลกอินเตอร์เน็ตอย่างมหาศาลให้โมเดล A.I. อ่านและเรียนรู้ได้เต็มที่ในความเร็วที่เท่ากับการอ่านทั้งชั่วชีวิตของมนุษย์เป็นล้านเป็นพันล้านคน แตกต่างจากการเรียนรู้แบบมีคนดูแล (supervised) ที่ต้องพึ่งพิงข้อมูลที่มีเฉลยบอกกับ A.I. ว่าข้อมูลนั้นคืออะไร เช่น รูปที่เห็นคือรูปสัญญาณจราจรที่กำลังเปิดปากไฟเขียว อันเป็นเหตุให้โมเดล LLM สามารถเติบโตได้อย่างก้าวกระโดดสุดๆกว่าทุกเทคโนโลยีของโลกและจะยิ่งมีพลังความสามารถในการประมวลผลข้อมูลที่สูงขึ้นเรื่อยๆด้วยต้นทุนที่ลดลงอย่างต่อเนื่องในอัตราเร่งอย่างน่าตื่นเต้นและน่าตกใจ อีกไม่นาน A.I. ที่เข้าใจทั้งสิ่งที่ตัวมันเห็น สิ่งที่มันได้ยินและภาษาของมนุษย์พร้อมขีดความสามารถในการแนะนำมนุษย์จากข้อมูลอันมหาศาลที่พวกมันได้เรียนรู้มาจะเข้าไปอยู่ในมือของมนุษย์แทบทุกคนบนโลก

โดยถึงแม้ว่า Mustafa Suleyman จะมองว่าเทคโนโลยี Artificial General Intelligence (AGI) หรือ A.I. ที่มีความสามารถในการทำงานได้ทุกอย่างเทียบเท่าหรือเหนือกว่ามนุษย์ในระดับที่อาจเรียกได้ว่ามันมี “ความตระหนักรู้ (consciousness)” นั้นยังเป็นเรื่องอีกหลายสิบปีข้างหน้า… เรายังไม่สามารถสั่ง ChatGPT ให้ขับรถ Tesla ได้… แต่ความก้าวหน้าทางเทคโนโลยี A.I. ในปัจจุบันได้ก่อให้เกิดคลื่นแห่งการลงทุนในบริษัทพัฒนา A.I. ที่เต็มไปด้วยคนเก่ง จนเขาเชื่อว่า A.I. ในรูปแบบแคบ (narrow) ที่ทำงานได้เฉพาะจุดในปัจจุบันจะถูกนำมาพัฒนาต่อยอดเป็น “Artificial Capable Intelligence (ACI)” หรือ “A.I. ที่มีความสามารถในการทำงานที่มีเป้าหมายอันซับซ้อนที่ต้องใช้ทั้งการปฏิสัมพันธ์กับมนุษย์และความคิดสร้างสรรค์” นั้นจะเกิดขึ้นได้ภายในไม่เกิน 5 ปี โดยจุดที่ Mustafa Suleyman เรียกว่าเป็นบททดสอบ Turing Test ยุคใหม่ของ ACI ก็คือการทดสอบให้ A.I. ไป “เปิดร้านขายของที่ Amazon ด้วยเงินลงทุน 100,000 ดอลลาร์โดยมีเป้าหมายในการทำรายได้ 1,000,000 ดอลลาร์ภายใน 3 เดือน” ซึ่ง ACI จะต้องทำงานหลากหลาย ตั้งแต่ การวิเคราะห์สถานการณ์ตลาดเพื่อหาโอกาส การออกแบบผลิตภัณฑ์ การสั่งผลิตผลิตภัณฑ์จากโรงงานในต่างประเทศ การเจรจาต่อรองผ่านทางอีเมล์กับคู่สค้าทั้งหมด ไปจนถึง การออกแบบแบรนด์และการทำการตลาด โดยที่มนุษย์แทบไม่จำเป็นต้องช่วยเหลือเลยนอกจากกิจกรรมที่ต้องอาศัยมนุษย์จริงๆ เช่น การเปิดบัญชีธนาคาร เป็นต้น… ลองจินตนาการโลกที่ ACI ที่มีความสามารถข้างต้นได้อยู่ในโทรศัพท์มือถือของมนุษย์นับพันล้านคนดูครับ

 

การแข่งขันระหว่าง Lee Sedol กับ Alpha Go ในปี 2016 (source: WIRED)

 

Chapter 5 : THE TECHNOLOGY OF LIFE

เทคโนโลยีแห่งชีวิตนั้นถือเป็นหนึ่งในศาสตร์ที่เก่าแก่ที่สุดในโลกตั้งแต่สมัยที่มนุษย์เลือกพันธุ์พืชมาเพาะปลูกและพันธ์ุปศุสัตว์มาเลี้ยงเพื่อการเกษตร โดยศาสตร์แห่ง “synthetic biology” หรือ “ชีววิทยาสังเคราะห์” นั้นก็ได้เติบโตอย่างก้าวกระโดดในไม่กี่ทศวรรษที่ผ่านมาหลังจากที่มนุษย์ค้นพบว่า DNA นั้นคือ “รหัสทางพันธุกรรม” ที่เปรียบได้ดั่งโปรแกรมของระบบการทำงานของชีวิตที่สามารถทำความเข้าใจและตัดต่อได้ จนนำพามาสู่การพัฒนา “เทคโนโลยีการอ่านพันธุกรรม (gene sequencing)” ที่ช่วยให้มนุษย์อ่านค่าของ DNA ในยีนส์ของสิ่งมีชีวิตได้อย่างสมบูรณ์โดยที่ก็มีราคาต่ำลงมาเรื่อยๆจากระดับ 1,000,000,000 ดอลลาร์ในปี 2003 สู่ราคาต่ำกว่า 1,000 ดอลลาร์ในปัจจุบัน เคียงคู่ไปกับเทคโนโลยีการตัดต่อพันธุกรรมผ่านยีนส์ “CRISPR (clustered regularly interspaced short palindromic repeat)” ด้วยเอนไซม์ที่ชื่อ Cas9 ที่ช่วยให้มนุษย์สามารถตัดต่อ DNA ของสิ่งมีชีวิตได้อย่างแม่นยำ ไปจนถึง การพัฒนา “เทคโนโลยีสังเคราะห์ยีนส์ (gene synthesis)” ที่เปิดโอกาสให้มนุษย์พัฒนาองค์ประกอบของชีวิตขึ้นมาใหม่ด้วยการออกแบบโครงสร้างของ DNA ตามใจชอบ

ความก้าวหน้าของ synthetic biology ที่มีต้นทุนต่ำลงอย่างต่อเนื่องนั้นเปิดโอกาสให้มนุษย์มีความสามารถในการควบคุมชีวิตได้มากขึ้นเรื่อยๆ ตั้งแต่ การพัฒนาวิธีการรักษาร่างกายของมนุษย์ด้วยยาที่ออกแบบมาเพื่อมนุษย์แต่ละคน (precision medicine) โดยเฉพาะ การเพิ่มพูนประสิทธิภาพของร่างกายผ่านการปรับปรุงยีนส์ที่ช่วยยืดทั้งอายุไขและสุขภาพที่ดีของมนุษย์ การตัดแต่งพันธุกรรมของสิ่งมีชีวิตเพื่อช่วยเสริมผลิตภาพและความสะอาดทางสิ่งแวดล้อมทางวิศวกรรม อาทิ การพัฒนาแบคทีเรียที่ช่วยดักจับ CO2 ในชั้นบรรยากาศเพื่อเปลี่ยนเป็นสารเคมีชีวภาพที่ใช้งานในชีวิตประจำวันได้ ไปจนถึง การพัฒนาศาสตร์ในการเชื่อมสมองและระบบประสาทของมนุษย์เข้ากับคอมพิวเตอร์เพื่อเพิ่มพูนขีดความสามารถของมนุษย์

นอกจากนั้น คลื่นการเติบโตของ A.I. ยังช่วยส่งเสริมให้พัฒนาการของ synthetic biology ก้าวกระโดดอย่างรวดเร็วมากขึ้นจากการประยุกต์ใช้ A.I. ที่มีความสามารถในการประมวลผลอย่างมหาศาลในการออกแบบและพัฒนา อาทิ โมเดล AlphaFold ของ DeepMind ที่ช่วยแก้ปัญหาโลกแตกของวงการชีววิทยาอย่างการประเมินรูปร่างของโปรตีนที่มีความซับซ้อนสูงด้วยการอ่านข้อมูลโปรตีนทั้งหมดกว่า 2 ล้านชนิดเพื่อจับรูปแบบโครงสร้างจนสามารถพยากรณ์ได้อย่างแม่นยำ ซึ่งความก้าวหน้านี้ก็ช่วยให้นักวิทยาศาสตร์นับล้านคนประหยัดเวลาในการศึกษาพัฒนานวัตกรรมใหม่ๆทางชีววิทยาได้อย่างมีประสิทธิภาพ

 

กระบวนการตัด DNA ด้วย CRISPR และ Cas9 (source: Lab Associates)

 

Chapter 6 : THE WIDER WAVE

มหาคลื่นแห่งสองเทคโนโลยีอเนกประสงค์ (general-purpose technology) อย่าง A.I. และ synthetic biology ยังก่อให้เกิดและเร่งอัตราการพัฒนาเทคโนโลยีข้างเคียงที่ก็มีขีดความสามารถอันมหาศาลเคียงคู่ไปด้วยเช่นกัน โดยมีอีก 3 เทคโนโลยีสำคัญ ได้แก่

• Robotics : เทคโนโลยีหุ่นยนต์ที่เปรียบดั่ง “ร่างกายของ I.” ในอนาคต ที่กำลังได้รับการพัฒนาขีดความสามารถในด้านความแม่นยำและความยืดหยุ่นของพละกำลังให้สามารถทำทุกกิจวัตรประจำวันของมนุษย์ได้และสามารถทำในสิ่งที่มนุษย์ทำไม่ได้ไปพร้อมๆกัน ซึ่งรวมไปถึง การทำงานของหุ่นยนต์แบบกลุ่ม (swarm) ที่หุ่นยนต์ทั้งหมดถูกเชื่อมโยงและทำงานใหญ่ๆอย่างพร้อมเพียงกันได้
• Quantum Computer : เทคโนโลยีคอมพิวเตอร์แบบ “ควอนตัม” ที่สามารถปลดล็อกขีดความสามารถในการคำนวณที่เหนือกว่าคอมพิวเตอร์ทั่วไปในระดับพันๆล้านๆเท่า ซึ่งความรวดเร็วนี้จะช่วยให้มนุษย์สามารถไขปริศนาทางคณิตศาสตร์ ชีววิทยาและเคมีในแบบที่ไม่สามารถทำได้มาก่อน
• Clean Energy : เทคโนโลยีพลังงานสะอาดที่จะเข้ามาแทนที่พลังงานเชื้อเพลิง โดยมีพระเอกสำคัญอย่าง “นิวเคลียร์ฟิวชั่น” ที่ใช้พลังงานที่ปลดปล่อยจากกระบวนการหลอมรวมไฮโดรเจนเป็นฮีเลียมซึ่งในปี 2022 ก็เริ่มมีความก้าวหน้าที่พลังงานจากการฟิวชั่นนั้นปล่อยมามากกว่าพลังงานเลเซอร์ที่ใช้ในกระบวนการแล้ว

เมื่อมองไปในอนาคตในอีกซักครึ่งศตวรรษข้างหน้า อีกหนึ่งเทคโนโลยีที่น่าจะเริ่มมีความเป็นไปได้ก็คือ “นาโนเทคโนโลยี” ที่เปิดโอกาสให้มนุษย์สามารถควบคุม “อะตอม” เพื่อนำมาสร้างเป็นองค์ประกอบทุกสิ่งทุกอย่างในโลกได้เปรียบดั่งการเล่นแร่แปรธาตุที่เกิดขึ้นได้จริงที่จะเปลี่ยนแปลงความสัมพันธ์ของมนุษย์กับวัตถุไปอย่างไม่มีวันเหมือนเดิม

 

Chapter 7 : FOUR FEATURES OF THE COMING WAVE

คุณลักษณะของมหาคลื่นแห่งเทคโนโลยีที่กำลังซัดสาดเข้ามาในโลกยุคปัจจุบันนั้นแบ่งออกได้เป็น 4 คุณลักษณะที่ต่างก็มีความรุนแรงกว่าคลื่นแห่งเทคโนโลยีลูกที่ผ่านๆมา อันได้แก่

• Asymmetry : “ความไม่สมมาตร” ของพลังอำนาจที่จะถูกถ่ายโอนไปยังผู้ที่ครอบครองเทคโนโลยีที่ล้ำสมัยกว่าในรูปแบบที่สามารถท้าทายการคงอยู่ของผู้ที่ครอบครองอำนาจเก่าได้อย่างสิ้นเชิง อาทิ วิศวกรคนเดียวสามารถควบคุมกองทัพโดรนที่สามารถต่อกรกับกองทัพรูปแบบเดิมๆได้ หรือ ผู้ที่ครอบครองควอนตัมคอมพิวเตอร์ที่ใช้การได้ในโลกจริงคนแรกก็สามารถทำลายระบบการเข้ารหัสของธนาคารทั่วโลกได้ทั้งหมด โดยยิ่งระบบปฏิบัติการของโลกมีการเชื่อมต่อรวมศูนย์กันมากขึ้นเท่าไหร่ ความเสี่ยงที่เกิดขึ้นจากการจู่โจมหรือความผิดพลาดของระบบก็ขะมากยิ่งขึ้น
• Hyper-Evolution : “วิวัฒนาการในอัตราเร่ง” ที่ความก้าวหน้าทางเทคโนโลยีหนึ่งช่วยส่งเสริมให้เกิดความก้าวหน้าของอีกเทคโนโลยีในอัตราเร่งสืบไปเป็นทอดๆ จนทำให้ความเร็วของการพัฒนาการทางเทคโนโลยีทั้งในโลกดิจิตอลและในโลกกายภาพอยู่ในจุดที่มนุษย์ไม่สามารถเข้าใจได้อีกต่อไป
• Omni-Use : “ความสารพัดประโยชน์” ที่เทคโนโลยีคลื่นลูกใหม่สามารถนำไปใช้งานได้อย่างหลากหลายสารพัดนึกที่เปรียบได้กับดาบสองคมที่สามารถใช้ได้ทั้งในด้านที่ดีและด้านที่ชั่วร้ายได้อย่างรุนแรงและรวดเร็วในระดับที่ไม่เคยเกิดขึ้นมาก่อน เช่น โมเดล I. ที่ใช้คิดค้นยาสูตรใหม่ก็สามารถนำมาใช้คิดค้นยาพิษสูตรใหม่ได้ หรือ โมเดล A.I. ควบคุมรถยนต์ไร้คนขับก็สามารถนำมาใช้ควบคุมอาวุธสงครามประสิทธิภาพสูงได้เช่นกัน
• Autonomy : “ความเป็นอัตโนมัติ” ที่ถือเป็นครั้งแรกของโลกที่เทคโนโลยีนั้นไม่ได้เป็นเพียงแค่เครื่องมือของมนุษย์ที่พวกเราสามารถควบคุมมันได้ตามใจชอบอีกต่อไป เมื่อ I. เริ่มมีความสามารถในการตัดสินใจแบบอัตโนมัติโดยไม่ต้องพึ่งมนุษย์และยังสามารถวิวัฒนาการตัวเองได้อย่างต่อเนื่อง นอกจากนั้น ความซับซ้อนของ algorithm ของ A.I. ก็ส่งผลให้มนุษย์เริ่มไม่สามารถทำความเข้าใจวิธีการตัดสินใจและพยากรณ์การตัดสินใจของ A.I. เหล่านั้นได้ อันนำมาสู่ความท้าทายในการควบคุมและจำกัดวงของเทคโนโลยีเหล่านั้น

 

Chapter 8 : UNSTOPPABLE INCENTIVES

อุปสรรคที่ทำให้การควบคุมและชะลอความเร็วของมหาคลื่นแห่งเทคโนโลยีนั้นแทบเป็นไปไม่ได้เลยในปัจจุบันก็คือ “แรงจูงใจ” ที่ไม่สามารถหยุดยั้งได้ 5 ประการ อันได้แก่

• The Arm Race : ภูมิรัฐศาสตร์ของโลกในยุคปัจจุบันนั้นเต็มไปด้วยความขัดแย้งเพื่อแก่งแย่งชิงอำนาจกันของประเทศมหาอำนาจอย่างสหรัฐอเมริกา สาธารณะรัฐประชาชนจีน สหภาพยุโรป อินเดีย รัสเซียและอีกหลากหลายประเทศที่ต่างก็มองเห็นถึงความสำคัญและพลังอำนาจหากประเทศของตัวเองได้เป็นผู้นำของเทคโนโลยีแห่งโลกอนาคต อันนำมาสู่การแข่งขันลงทุนวิจัยพัฒนาเทคโนโลยีที่สนับสนุนโดยทั้งภาครัฐและเอกชนอย่างเต็มกำลังเพื่อช่วงชิงความเป็นหนึ่ง
• Openness : การกระจายองค์ความรู้ของโลกนั้นมีความเปิดเผยและเข้าถึงได้ง่ายมากยิ่งขึ้น ตั้งแต่ ระบบการเปิดเผยงานวิจัยที่มักถูกตีพิมพ์ออกสู่สาธารณะจนนำไปสู่การต่อยอดขององค์ความรู้ การเข้าถึงข้อมูลการพัฒนาเทคโนโลยีแบบ real time ผ่านโลกอินเตอร์เน็ต ไปจนถึง การพัฒนาซอฟท์แวร์แบบ open source ที่บริษัทใหญ่ๆเริ่มให้ความสนใจมากยิ่งขึ้น โดยที่นักวิจัยเองก็มีแรงจูงใจที่จะเปิดเผยผลงานของตัวเองเพื่อสร้างชื่อเสียงและโอกาสในการเติบโตของตัวเอง
• Financial Gain : ระบบทุนนิยมที่ให้ความสำคัญกับการสร้างผลกำไรนั้นคือระบบที่มีประสิทธิภาพที่สุดในการพัฒนาและเร่งความเร็วของคลื่นแห่งเทคโนโลยีที่สามารถสร้างคุณค่าให้กับลูกค้าของเทคโนโลยีเหล่านั้นได้มากยิ่งขึ้น อันส่งผลให้เกิดแรงจูงใจที่ทำให้นักธุรกิจและนักลงทุนต่างแข่งขันกันคว้าคุณค่าเหล่านั้นเพื่อแปลงเป็นผลกำไรอันมหาศาลช
• Global Challenges : ความท้าทายของโลกทั้งในด้านความเป็นอยู่ของเพื่อนมนุษย์และปัญหาทางสิ่งแวดล้อมต่างก็เป็นแรงจูงใจให้มนุษย์ต้องพัฒนาเทคโนโลยีที่มีความก้าวหน้าขึ้นไปเรื่อยๆเพื่อแก้ไขปัญหาระดับโลกเหล่านั้น
• Ego : มนุษย์ทุกคนโดยเฉพาะเหล่านักวิทยาศาสตร์และผู้ประกอบการล้วนอยากที่จะเป็นผู้ที่คิดค้นนวัตกรรมใหม่ๆขึ้นมาเป็นคนแรกเพื่อตอบสนองต่ออัตตาและชื่อเสียงของตัวเองด้วยกันทั้งนั้น

 

---

 

Part III | STATES OF FAILURE

 

Chapter 9 : THE GRAND BARGAIN

รัฐ (state) ไม่ว่าจะเป็นในระดับเมือง ระดับประเทศ ระดับภูมิภาคและระดับโลก นั้นถือเป็นกลไกสำคัญที่ทำให้โลกมนุษย์ในยุคปัจจุบันมีความเป็นอยู่ที่ดีขึ้นเรื่อยๆจากการที่ประชาชนยอมมอบอำนาจและความไว้วางใจให้กับรัฐที่เป็นดั่งศูนย์กลางที่รับมอบอำนาจทางการบริหารและภาษีมาใช้ในการบริการจัดการประเทศให้มีทั้งการพัฒนา สันติภาพและความเป็นระเบียบเรียบร้อยเพื่อเปิดโอกาสให้ประชาชนได้ใช้ชีวิตและความคิดไปกับสิ่งที่มีคุณค่ามากยิ่งขึ้น

แต่ปฏิเสธไม่ได้เลยว่ารัฐในยุคปัจจุบันนั้นมีกำลังและได้รับความเชื่อมั่นจากประชาชนที่ตกต่ำลงอย่างต่อเนื่องจากปัญหาทั้งในระดับประเทศและในระดับโลกที่ผุดขึ้นมามากขึ้นอย่างต่อเนื่อง ไม่ว่าจะเป็นปัญหาความไม่เท่าเทียมกันทางรายได้ของประชาชน ปัญหาสิ่งแวดล้อมโลก ปัญหาการแบ่งแยกขั้วทางการเมืองภายในประเทศ ปัญหาความถดถอยของประชาธิปไตย ปัญหาความขัดแย้งทางภูมิรัฐศาสตร์ ไปจนถึง ปัญหาสงครามที่กลับมาอีกครั้ง… ในสถานการณ์ที่โลกกำลังต้องเผชิญหน้ากับคลื่นแห่งเทคโนโลยีลูกใหม่ที่มีศักยภาพในการพลิกระบบเศรษฐกิจและสังคมอย่างรวดเร็วและรุนแรงอย่างที่ไม่เคยมีมาก่อน กลไกอย่างรัฐที่มีความเข้มแข็งและฉลาดหลักแหลมนั้นคือความหวังเดียวของมนุษยชาติในการสร้างความร่วมมือกันเพื่อควบคุมและจำกัดวงเทคโนโลยีเหล่านั้นให้เกิดประโยชน์สูงสุดต่อมนุษยชาติ แต่โอกาสที่รัฐที่นับวันก็มีแต่อ่อนแอลงจะสามารถทำหน้าที่เหล่านั้นได้อย่างเต็มที่นั้นก็น้อยลงไปทุกวัน

 

Chapter 10 : FRAGILITY AMPLIFIERS

การจู่โจมทางไซเบอร์โดยโปรแกรมเรียกค่าไถ่ (ransomware) ชื่อ WannaCry โดยกองทัพแฮคเกอร์เกาหลีเหนือที่ซื้อต่อโปรแกรมจู่โจมที่คิดค้นโดย National Security Agency (NSA) ของสหรัฐอเมริกาที่หลุดรอดออกไปยังตลาดมืดจนสร้างความเสียหายทำให้ระบบสาธารณสุขของประเทศอังกฤษต้องหยุดชะงักในปี 2017 นั้นถือเป็นลางบอกเหตุของหายนะของรัฐที่กำลังจะเกิดขึ้นจากคลื่นแห่งเทคโนโลยีลูกใหม่ที่กำลังลด “ต้นทุนของอำนาจ” ที่แต่เดิมถูกกุมอยู่ในรัฐ กองทัพและองค์กรขนาดใหญ่ให้ผู้ที่เคยมีอำนาจน้อยกว่าสามารถเข้าถึงอำนาจที่เพิ่มมากขึ้นได้ โดย Mustafa Suleyman ได้มองเห็นถึง 4 ภัยอันตรายจากคลื่นแห่งเทคโนโลยีลูกใหม่ที่จะสร้างความสั่นคลองให้กับเสถียรภาพของรัฐ อันได้แก่

• New Forms of Attack : การจู่โจมในอนาคตที่ควบคุมโดยหุ่นยนต์และ A.I. นั้นจะมีความน่ากลัวมากยิ่งขึ้น ตั้งแต่ การสร้างหุ่นยนต์ลอบสังหารที่สามารถเคลื่อนที่ไปสังหารเหยื่อด้วยอาวุธต่างๆนานาได้อย่างแม่นยำ ไปจนถึง การใช้ A.I. ที่สามารถเรียนรู้และปรับปรุงตัวเองเข้าไปแฮ็กข้อมูลและจู่โจมระบบต่างๆด้วยกรรมวิธีที่ไม่สามารถป้องกันได้ซึ่งยังสามารถทำได้อย่างพร้อมเพรียงกันในหลายจุดทั่วโลก
• Misinformation Machine : พัฒนาการของเทคโนโลยีอย่าง deepfake ที่สามารถสังเคราะห์เรื่องแต่งให้ดูเหมือนเรื่องจริงที่ยังสามารถแพร่กระจายได้อย่างรวดเร็วจนสามารถเปลี่ยนมาเป็นอาวุธทางการเมืองเพื่อสร้างความเกลียดชังและเปลี่ยนความคิดของประชาชนได้อย่างมีประสิทธิภาพ
• Leaky Labs : ความก้าวหน้าทางเทคโนโลยีชีวภาพนั้นเป็นดาบสองคมเสมอและตลอดประวัติศาสตร์สมัยใหม่ของมนุษย์นั้นก็เต็มไปด้วยโศกนาฏกรรมที่เกิดจากการหลุดรอดของสิ่งอันตรายออกไปจากห้องทดลองความปลอดภัยสูงที่สามารถส่งผลกระทบได้อย่างรุนแรง เหมือนกรณีของ COVID-19 ที่ก็เกิดขึ้นในเมือง Wuhan ที่ก็บังเอิญเป็นที่ตั้งของห้องทดลองเชื้อ corona virus ความปลอดภัยสูง
• Consequences of Automation : คลื่นแห่งเทคโนโลยีที่มีประสิทธิภาพสูงจะเข้ามาแทนที่ตำแหน่งงานปัจจุบันจำนวนมาก… ลองจินตนาการว่า ACI สามารถทำงานแทนแรงงานกลุ่ม white collar ได้มากขนาดไหน… ซึ่งแน่นอนว่าผลลัพธ์ที่ตามมาก็คือการสูญพันธุ์ของตำแหน่งงานจำนวนมากและการโยกย้ายงานครั้งใหญ่ถ้าหากว่ามีงานกลุ่มใหม่มาแทนที่งานกลุ่มเก่าจริงๆ

ตัวอย่างของภัยอันตรายข้างต้นนั้นเป็นเพียงแค่ส่วนหนึ่งของภัยอันตรายที่สามารถเกิดขึ้นได้พร้อมๆกันและสามารถส่งผลกระทบที่รุนแรงต่อทั้งความปลอดภัย ความมั่นคง ความปรองดรองและสถานภาพทางเศรษฐกิจของประชาชน ซึ่งก็ล้วนแล้วแต่จะทำให้ความเชื่อใจของประชาชนที่มีต่อภาครัฐลดลงจนอาจนำมาสู่ยุคของความโกลาหลหากไม่ได้รับการจัดการและจำกัดวงที่มีประสิทธิภาพ

 

Chapter 11 : THE FUTURE OF NATIONS

ผู้เขียน Mustafa Suleyman ได้พยากรณ์ถึงแนวโน้มของรัฐและสังคมมนุษย์ในอนาคตที่มหาคลื่นแห่งเทคโนโลยีที่มีความสามารถทั้งในการควบรวมและในการกระจายอำนาจอันมหาศาลนี้กำลังจะสร้างขึ้น แบ่งออกเป็น 3 แนวโน้มใหญ่ที่ทับซ้อนกันอย่างยุ่งเหยิง ดังต่อไปนี้

• Concentration : หน่วยของสังคมที่มีโอกาสในการเป็นเจ้าของเทคโนโลยีคลื่นลูกใหม่อย่าง ACI หรือ quantum computing เป็นรายแรกก็คือกลุ่มบริษัทเทคโนโลยีขนาดใหญ่อย่าง Apple หรือ Google ที่ปัจจุบันก็มีพลังอำนาจทางเศรษฐกิจและความเกี่ยวโยงกับมนุษย์ในชีวิตประจำวันมากกว่าแทบจะเกือบทุกประเทศในโลกนี้ไปแล้ว ทั้งนี้ก็เป็นเพราะเทคโนโลยีอย่าง I. และ synthetic biology นั้นต้องอาศัยการลงทุนเริ่มต้นอย่างมหาศาลที่มีเพียงบริษัทข้ามชาติและรัฐบาลของประเทศบางประเทศเท่านั้นที่จะสามารถทำได้ โดยผู้ที่ครอบครองเทคโนโลยีที่มีศักยภาพเหนือกว่าคู่แข่งรายอื่นจะได้รับอำนาจอันมหาศาลจนแทบจะไม่มีหน่วยของสังคมไหนที่จะสามารถแข่งขันได้และเกิดแนวโน้มการ “รวมศูนย์กลางของอำนาจ” ไปยังบริษัทเจ้าของเทคโนโลยีขนาดใหญ่เพียงไม่กี่ราย
• Surveillance : พัฒนาการด้าน digitalization ที่แทบทุกกิจวัตรประจำวันของมนุษย์ได้ถูกแปลงเก็บเป็นข้อมูลที่ถูกเชื่อมโยงเข้ากับระบบอินเตอร์เน็ตนั้นเปิดโอกาสให้รัฐแบบอำนาจนิยมและเผด็จการที่ไม่เคยประสบความสำเร็จมาก่อนในอดีตมีอาวุธใหม่ที่สามารถใช้ “สอดส่องตรวจตราประชาชน” ได้อย่างรวมศูนย์ขอเพียงแค่รัฐสามารถเข้าถึงข้อมูลทั้งหมดของประชาชนที่ก็มีการจัดเก็บรวบรวมไว้ทั้งหมดอย่างกระจายตัวอยู่แล้ว
• Fragmentation : ในขณะเดียวกันกับการรวมศูนย์อำนาจไปสู่บริษัทเทคโนโลยีและรัฐบาลอำนาจนิยมผู้ครอบครองขีดความสามารถของเทคโนโลยีคลื่นใหม่ การแพร่กระจายและการเข้าถึงเทคโนโลยีเหล่านั้นอย่างกว้างขวางก็ได้มอบอำนาจในการบริหารจัดการตัวเองของหน่วยทางสังคมขนาดเล็กที่แต่เดิมต้องอาศัยอยู่ภายใต้ระบบของรัฐจนก่อให้เกิดการ “แตกตัวเป็นกลุ่มก้อนย่อย” ของสังคมมนุษย์ที่สามารถบริหารจัดการระบบความปลอดภัย ระบบสาธารณสุข ระบบการศึกษา ระบบกฎหมาย ระบบการเงินและระบบการทำงานได้โดยอาศัย ACI เป็นผู้ช่วยโดยไม่ต้องพึ่งพิงรัฐอีกต่อไป อันนำมาสู่แนวโน้มของสังคมที่แตกแยกและความโกลาหลที่อาจจะทวีความรุนแรงมากยิ่งขึ้น… ลองจินตนาการว่าหากสังคมขนาดย่อยกลุ่มหนึ่งยอมให้มนุษย์ดัดแปลง DNA ของตัวเองให้ฉลาดขึ้น สังคมอีกหลายกลุ่มก็คงตัดสินใจตามเพื่อรักษาขีดความสามารถในการแข่งขันที่ก็อาจนำมาสู่สงครามแห่งวิศวกรรมทางชีวภาพต่อไปอีกทอด

 

Chapter 12 : THE DILEMMA

มนุษยชาติในศตวรรษที่ 21 ได้เดินทางมาถึงจุดที่กลืนไม่เข้าคายไม่ออกครั้งใหญ่ โดยหากพวกเราไม่สามารถควบคุมและจำกัดวงมหาคลื่นแห่งเทคโนโลยีลูกใหญ่ครั้งนี้ได้ ความ “มหาวิปโยค” ที่สามารถทำลายล้างอารยธรรมของมนุษย์ในยุคปัจจุบันนั้นจะสามารถเกิดขึ้นได้ตลอดเวลา ขอเพียงแค่มีผู้นำที่ชั่วร้ายหรือคนบ้ากลุ่มหนึ่งที่สามารถเข้าถึงเทคโนโลยีที่มีพลังอำนาจในการทำลายล้างสูง อาทิ เชื้อไวรัสที่ได้รับการตัดต่อทางพันธุกรรม หรือ โปรแกรม ACI ที่สามารถเชื่อมต่อกับอาวุธอัตโนมัติสุดอันตรายได้ ก็ล้วนสามารถสร้างความเสียหายอย่างรุนแรงที่ส่งผลกระทบต่อชีวิตผู้คนเป็นหลักร้อยล้านพันล้านคนได้… และหากความเสี่ยงต่อการล่มสลายของระบบรัฐและความปลอดภัยของมนุษย์พุ่งสูงขึ้น โอกาสที่รัฐจะผันตัวเองมาเป็น “เผด็จการ” ที่วางระบบสอดส่องดูแลการกระทำของประชาชนในทุกขั้นตอนโดยอ้างเหตุผลด้านการรักษาความปลอดภัยนั้นก็จะได้รับความชอบธรรมมากยิ่งขึ้น จนมีโอกาสนำมาสู่ความล่มสลายของระบอบที่ประชาชนเป็นใหญ่ที่ก็คงไม่ใช่ทางเลือกที่ผู้คนส่วนใหญ่ปรารถนา

หากทางข้างหน้าของการพัฒนาเทคโนโลยีที่มีโอกาสสูงที่จะนำพามนุษยชาติไปสู่กลียุคหรือระบอบสังคมแบบเผด็จการเต็มรูปแบบนั้นไม่ใช่ทางเลือกที่พวกเราต้องการ ตัวเลือกที่แทบจะเป็นไปไม่ได้อย่างการหยุดยั้งพัฒนาการของเทคโนโลยีทั้งหมดลงในทันทีนั้นก็มีแต่จะก่อให้เกิดปัญหาใหญ่เฉกเช่นเดียวกัน เพราะโลกในอนาคตที่จำนวนประชากรเข้าสู่วัยสูงอายุที่ต้องพบเจอกับปัญหาทางสิ่งแวดล้อมและการขาดแคลนทรัพยากรธรรมชาตินั้นต้องอาศัยการเพิ่มขึ้นของผลิตภาพแบบก้าวกระโดดซึ่งจะเกิดขึ้นได้ต่อเมื่อมนุษย์พัฒนาเทคโนโลยีใหม่ๆอย่างต่อเนื่องเท่านั้น โดยหากการพัฒนาเทคโนโลยีถูกหยุดลง สังคมทุนนิยมในปัจจุบันของมนุษย์ก็จะล่มสลายลงอย่างหลีกเลี่ยงไม่ได้จากผลิตภาพและทรัพยากรที่ลดลงจนไม่เพียงพอที่จะรักษากิจวัตรประจำวันของมนุษย์ได้อีกต่อไป… ดังนั้น ถึงแม้ว่าคลื่นแห่งเทคโนโลยีลูกใหม่ครั้งนี้นั้นแทบจะไม่มีทางควบคุมและจำกัดวงได้ แต่เพื่ออนาคตที่น่าอยู่ของมนุษยชาติแล้ว การควบคุมและจำกัดวงต้องเป็นไปได้เท่านั้น

 

---

 

Part IV | THROUGH THE WAVE

 

Chapter 13 : CONTAINMENT MUST BE POSSIBLE

ทางออกส่วนใหญ่ที่พวกเราทุกคนคงคาดหวังในการแก้วิกฤติที่กำลังมาเยือนจากมหาคลื่นแห่งเทคโนโลยีที่กำลังจะถึงนี้ก็คือการออก “กฎระเบียบ” ในการควบคุมและจำกัดวงโดยภาครัฐ แต่แนวทางในการออกกฏระเบียบนั้นก็มีจุดอ่อนเต็มๆอยู่หลายประการ ตั้งแต่ ความเสื่อมถอยทางอำนาจของภาครัฐที่นับวันก็มีแต่จะถดถอยลง ความเห็นที่แตกต่างกันเชิงนโยบายของภาครัฐของแต่ละประเทศที่จำเป็นต้องเห็นพ้องต้องกัน ไปจนถึง ความซับซ้อนของการออกกฎระเบียบที่เกี่ยวพันกับหน่วยงานและองค์กรจำนวนมากที่ต่างต้องพยายามร่วมมือกันควบคุมและจำกัดวงเทคโนโลยีที่พวกเขาไม่เข้าใจและยังไม่สามารถหยั่งรู้ถึงความเป็นไปได้ที่จะเกิดขึ้นจากเทคโนโลยีแบบอเนกประสงค์อย่าง A.I. และ synthetic biology นี้… รัฐพอมีความสามารถในการออกกฎระเบียบควบคุมสิ่งที่พวกเขารู้จักและเกิดขึ้นแล้ว แต่โอกาสที่รัฐจะสามารถออกกฏระเบียบเพื่อควบคุมสิ่งที่เต็มไปด้วยเซอร์ไพรส์นั้นคงมีไม่สูงมากซักเท่าไหร่… แต่รัฐก็คือหนึ่งในความหวังสูงสุดของมนุษยชาติในการควบคุมและจำกัดวงเทคโนโลยีเหล่านี้อยู่ดี

อีกหนึ่งประเด็นที่มนุษย์ควรจะต้องยอมรับและทำความเข้าใจเป็นอย่างยิ่งก็คือการประเมินความเสี่ยงของเทคโนโลยีแต่ละประเภทอย่างจริงจังและเปิดเผย โดยเทคโนโลยีที่มีความเสี่ยงสูงและควรได้รับการควบคุมมากที่สุดมักเป็นเทคโนโลยีที่มีความเป็นอเนกประสงค์ที่สามารถใช้งานได้หลากหลายรูปแบบ เป็นเทคโนโลยีที่มีต้นทุนที่ต่ำลงและมีการเข้าถึงมากขึ้นเรื่อยๆอย่างรวดเร็ว เป็นเทคโนโลยีที่เหนือชั้นกว่าและสามารถสร้างผลกระทบอย่างรุนแรงต่อเทคโนโลยีรุ่นเก่าได้ เป็นเทคโนโลยีที่ไม่มีเทคโนโลยีทางเลือกอื่นที่ปลอดภัยกว่า เป็นเทคโนโลยีแบบอัตโนมัติที่สามารถทำงานได้โดยไม่พึ่งพามนุษย์และเป็นเทคโนโลยีที่สามารถใช้ในการจู่โจมทำลายความเสียหายได้

 

Chapter 14 : TEN STEPS TOWARD CONTAINMENT

ผู้เขียน Mustafa Suleyman ยอมรับว่าโลกในสภาวะปัจจุบันนั้นแทบไม่มีโอกาสที่จะสามารถควบคุมและจำกัดวงเทคโนโลยีคลื่นลูกใหม่นี้ได้เลย แต่มนุษยชาตินั้นยังมีโอกาสในการเปลี่ยนแปลงสภาวะของโลกให้มาสู่จุดที่การควบคุมและจำกัดวงนั้นมีความเป็นไปได้ ผ่านก้าวสำคัญทั้งหมด 10 ก้าวที่อาจไม่ใช่คำตอบทั้งหมดแต่ก็น่าจะช่วยเพิ่มความน่าจะเป็นให้กับโลกที่เทคโนโลยีส่งผลลัพธ์เชิงบวกต่อมนุษย์อย่างมีนัยสำคัญ ดังต่อไปนี้

Technical Safety : การพัฒนา “ความปลอดภัย” ของการใช้งานเทคโนโลยีคือพื้นฐานสำคัญที่นักพัฒนาเทคโนโลยีในปัจจุบันไม่ได้ให้ความสำคัญ โดยผู้เขียนเปรียบเปรยว่ารัฐควรเริ่มทำโครงการแบบโครงการ Apollo ที่รวมตัวเหล่าผู้เชี่ยวชาญและเงินลงทุนมหาศาลจากทั้งภาครัฐและเอกชนมาร่วมกันพัฒนามาตรฐานด้านความปลอดภัยของเทคโนโลยีอย่าง A.I. และ synthetic biology ที่ครอบคลุมหลากหลายองค์ประกอบ อาทิ มาตรฐานการกักขังโมเดล A.I. ออกจากการเข้าถึงโลกอินเตอร์เน็ตจนกระทั่งพิสูจน์แล้วว่าปลอดภัย มาตรฐานการพัฒนา algorithm ของ A.I. ให้สามารถอธิบายการตัดสินใจของมันได้อย่างเปิดเผยและเตือนถึงความเชื่อมั่นของการตัดสินใจเหล่านั้น ไปจนถึง มาตรฐานการรักษาความปลอดภัยหากไวรัสหลุดรอดออกไปจากห้องทดลอง โดยการรักษาความปลอดภัยทางเทคโนโลยีนั้นต้องอาศัยผู้มีองค์ความรู้ขั้นสูงจำนวนมากถึงจะสามารถแก้ไขปัญหาที่ยากมากๆ เช่น การหาวิธีปิดระบบ A.I. ที่แพร่กระจายไปสู่สาธารณชน หรือ การควบคุม A.I. ที่สามารถเขียนโค้ดของตัวเองใหม่ได้เรื่อยๆ ให้สำเร็จจนได้

Audits : การวาง “ระบบตรวจสอบ” ที่เป็นมาตรฐานระดับสากลโดยภาครัฐที่เปิดโอกาสให้หน่วยงานผู้เชี่ยวชาญและระบบ A.I. แบบอัตโนมัติสามารถเข้าถึง algorithm และข้อมูลการใช้งานเพื่อตรวจสอบด้านความปลอดภัยได้อย่างโปร่งใส อาทิ การตั้งทีมงานแฮคเกอร์หมวกขาวที่คอยทดสอบระบบโครงสร้างพื้นฐานของเทคโนโลยีเพื่อหาช่องโหว่อย่างต่อเนื่อง การสร้างระบบ A.I. ที่มีหน้าที่ในการตรวจสอบ algorithm ของระบบ A.I. ชนิดอื่นๆเพื่อตรวจหาทั้งโปรแกรมที่มีความเสี่ยงเป็นอันตรายและความผิดปกติที่อาจเกิดจากการถูกจู่โจมทางไซเบอร์ ไปจนถึง การออกมาตรฐานให้เครื่องสังเคราะห์ DNA ทั้งหมดมีการตรวจสอบถึง DNA ที่มีความเสี่ยงและป้องกันไม่ให้การพัฒนานั้นเกิดขึ้น

Choke Points : การใช้ประโยชน์จาก “จุดคอขวด” ที่ระบบนิเวศน์ของเทคโนโลยีในปัจจุบันนั้นยังคงกระจุกตัวอยู่กับผู้นำในศาสตร์แต่ละด้านเพียงไม่กี่ราย อาทิ ชิปที่มีประสิทธิภาพสูงสุดในการประมวลผล A.I. คือ GPU ของ NVIDIA เพียงรายเดียวที่ก็ต้องอาศัยบริษัท TSMC เพียงรายเดียวที่มีศักยภาพในการผลิตชิปอันล้ำสมัยนี้ได้โดยที่ TSMC เองก็ต้องใช้เครื่องผลิตชิปจากบริษัท ASML ที่เป็นเพียงบริษัทเดียวที่มีเทคโนโลยีขั้นสูงนี้ หรือ ในกรณีของวัตถุดิบที่แร่หายากจำนวนมากนั้นก็สามารถขุดเจาะได้แค่จากเหมืองเพียงไม่กี่แห่งของโลก หรือ กรณีขององค์ความรู้ด้านงานวิจัยพัฒนาใหม่ๆที่ก็กระจายอยู่ในมหาวิทยาลัยและห้องทดลองเพียงไม่กี่แห่ง โดยจุดคอขวดเหล่านี้สามารถนำมาใช้เป็นเครื่องมือในการชะลอความเร็วของพัฒนาทางเทคโนโลยีเพื่อซื้อเวลาอันมีค่ามาใช้ในการพัฒนาระบบป้องกันและตรวจสอบเทคโนโลยีเหล่านั้นได้

Makers : การเปลี่ยนความคิดของ “ผู้สร้างเทคโนโลยี” ให้มาเป็น “นักวิจารณ์” ที่เข้าใจและคำนึงถึงผลลัพธ์ทางความปลอดภัยและจริยธรรมของเทคโนโลยีที่ตัวเองพัฒนาอยู่ตลอดเวลา ซึ่งแนวคิดการสร้างเทคโนโลยีอย่างมีจริยธรรมและการดึงเอาผู้เชี่ยวชาญด้านปรัชญาและการเมืองมาร่วมเป็นส่วนหนึ่งของทีมพัฒตานั้นก็เริ่มแพร่หลายมากขึ้นในบริษัทเทคโนโลยีและถือเป็นอีกหนึ่งก้าวสำคัญที่ควรแพร่หลายกลายมาเป็นมาตรฐานสากล

Businesses : การเปลี่ยนพันธกิจของ “บริษัท” จากการแสวงหาผลกำไรสูงสุดให้กับผู้ถือหุ้นมาให้ครอบคลุมถึง “เป้าประสงค์ทางสังคม” ที่รวมถึงความรับผิดชอบด้านความปลอดภัยและจริยธรรมของเทคโนโลยี โดยแนวทางนี้เริ่มมีบริษัทต่างๆหันมาให้ความสำคัญมากขึ้น อาทิ การเกิดขึ้นของบริษัทแบบแสวงหาผลกำไรที่คำนึงถึงผลประโยชน์ทางสังคมและความยั่งยืน หรือ การตั้งคณะกรรมการอิสระของบริษัทอย่าง Meta ที่มีเป้าหมายในการตรวจสอบความรับผิดชอบทางสังคมของ Facebook

Government : การเพิ่มบทบาทของ “ภาครัฐ” ให้สามารถรับมือกับคลื่นของเทคโนโลยีลูกใหม่ได้ โดยเริ่มต้นจากการ “ปฏิรูป” โครงสร้างของราชการที่ต้องเริ่มพัฒนาหน่วยงานที่มีความเชี่ยวชาญด้านเทคโนโลยีอย่างจริงจังโดยต้องให้ทั้งเงินทุนและความกล้าในการจ้างยอดฝีมือด้วยเงินเดือนที่สู้กับภาคเอกชนได้ หลังจากนั้น รัฐบาลต้องออกกฎระเบียบและนโยบายที่เพิ่มขีดความสามารถในการควบคุมและจำกัดวงผลกระทบจากเทคโนโลยี อาทิ มาตรฐานในการพัฒนาเทคโนโลยีที่ต้องได้รับใบอนุญาตและสามารถตรวจสอบได้ ไปจนถึง นโยบายทางภาษีที่โยกการเก็บภาษีจากแรงงานไปยังบริษัทเทคโนโลยีเพื่อการกระจายรายได้อย่างเป็นธรรมมากขึ้นในอนาคต

Alliances : การสร้าง “พันธมิตรระหว่างประเทศ” เพื่อรับมือและควบคุมเทคโนโลยีที่มีโอกาสส่งผลกระทบในเชิงลบต่อทุกประเทศทั่วโลกโดยไม่แบ่งฝักแบ่งฝ่าย โดยถึงแม้ว่าสถานการณ์ทางภูมิรัฐศาสตร์ในปัจจุบันอาจเต็มไปด้วยความตรึงเครียด แต่มนุษยชาติก็พิสูจน์มาแล้วเสมอตลอดระยะเวลาของประวัติศาสตร์ว่าพวกเราสามารถร่วมมือกันได้ อาทิ ความร่วมมือหยุดยั้งการพัฒนาอาวุธนิวเคลียร์และเลเซอร์ หรือ การสนับสนุนทางเศรษฐกิจของสหรัฐอเมริกาต่อเยอรมนีและญี่ปุ่นหลังสงครามโลกครั้งที่ 2 จบลง ซึ่งความร่วมมือของโลกในอนาคตนั้นควรเกิดขึ้นระหว่างทั้งประเทศมหาอำนาจ อาทิ สหรัฐอเมริกาและจีนที่น่าจะตกลงร่วมมือกันควบคุมเทคโนโลยี synthetic biology และ quantum computer ได้ ไปจนถึง ความร่วมมือระดับโลกที่ควรมีการตั้งคณะกรรมการด้านเทคโนโลยีที่คอยสร้างมาตรฐานและคอยตรวจสอบเทคโนโลยีของทุกประเทศทั้วโลกอย่างโปร่งใสในรูปแบบเดียวกับ UN หรือ World Bank ได้แล้ว

Culture : การวางรากฐานทาง “วัฒนธรรม” ใหม่ให้กับผู้ที่เกี่ยวข้องในการพัฒนาเทคโนโลยีทั่วโลกให้คำนึงถึงความปลอดภัยและจริยธรรมของเทคโนโลยีที่พวกเขาพัฒนาเป็นเรื่องสำคัญ เฉกเช่นเดียวกับวงการสายการบินที่มีวัฒนธรรมในการแบ่งปันแลกเปลี่ยนแนวทางการเพิ่มความปลอดภัยและกรณีศึกษาในทุกๆครั้งที่มีเหตุการณ์เครื่องบินตกจนทำให้มาตรฐานความปลอดภัยของสายการบินทุกแห่งได้ยกระดับขึ้นมาอยู่ในจุดที่การนั่งบนเครื่องบินปลอดภัยกว่าการนั่งอยู่บ้านแล้วเพราะไม่มีเหตุการณ์เสียชีวิตจากการบินมาหลายปีแล้ว ซึ่งวงการเทคโนโลยีควรคำนึงถึงความ “โปร่งใส” และการ “ยอมรับต่อความผิดพลาด” แทนการปกปิดความผิดพลาดเหล่านั้นเพื่อให้นักเทคโนโลยีทั้งหมดได้เรียนรู้และหาทางพัฒนาเพื่อยกระดับมาตรฐานความปลอดภัยให้สูงขึ้นไปด้วยกัน

Movements : การรวมพลังของ “พลังประชาชน” จากทุกภาคส่วนเพื่อแสดงพลังให้ผู้ที่เกี่ยวข้องทั้งภาครัฐและเอกชนได้เห็นถึงความกังวลของพวกเราในฐานะหนึ่งในประชากรโลกที่น่าจะได้รับผลกระทบในอนาคตหากการควบคุมและจำกัดวงเทคโนโลยีไม่สัมฤทธิ์ผล โดยยิ่งการรวมตัวกันเป็นไปในวงกว้างที่เชื่อมโยงผู้คนไปทั่วโลกและได้รับการสนับสนุนจากผู้มีอิทธิพลทางความคิดมากเท่าไหร่ โอกาสในการสร้างความเปลี่ยนแปลงก็จะมากขึ้นตามเท่านั้น

The Narrow Path : ก้าวสุดท้ายคือการร่วมด้วยช่วยกันนำพามนุษยชาติเดินข้าม “ทางแคบ” ที่เทคโนโลยียังก่อให้เกิดผลประโยชน์สูงสุดต่อมนุษย์โดยไม่นำพาให้มนุษย์สะดุดลงไปสู่ความ “มหาวิปโยค” เมื่อเทคโนโลยีหลุดรอดพ้นไปสร้างความเสียหายอย่างรุนแรงที่เกิดจากการควบคุมและจำกัดวงที่ไม่เพียงพอและไม่นำพามนุษย์ไปสู่ “ยุคมืดแห่งเผด็จการขั้นสูงสุด” ที่การควบคุมเทคโนโลยีที่มากเกินไปนำมาสู่สังคมแบบอำนาจนิยมที่สิทธิและเสรีภาพของประชาชนต้องสูญหายไป โดยทางแคบแห่งสมดุลนี้ต้องอาศัยพัฒนาการและความร่วมมือกันอย่างต่อเนื่องของก้าวทั้ง 9 ก้าวที่กล่าวไปก่อนหน้าและก็น่าจะเป็นสิ่งที่มนุษยชาติต้องรับมือให้ได้ตลอดไปไม่ว่าเทคโนโลยีจะพัฒนาไปไกลขนาดไหนก็ตาม

 

สั่งหนังสือ The Coming Wave ภาษาอังกฤษ : https://s.lazada.co.th/s.l5v4R?cc

<<< ติดตาม [สรุปหนังสือ] เล่มอื่นๆต่อได้ทางนี้เลยครับ [CLICK] >>>

 

<<< ที่สำคัญ อย่าลืมกดไลค์ Panasm’s Facebook Page เพื่อติดตามอัพเดทใหม่ๆของผมนะครับ [CLICK] >>>

 

<<< ปิดท้าย สิ่งที่ผมทำสรุปมานั้นเป็นเพียงแค่เนื้อหาส่วนที่ผมสนใจที่สุดของหนังสือเล่มนี้ สำหรับเพื่อนๆที่ถูกใจสรุปของหนังสือเล่มนี้ อย่าลืมซื้อหนังสือเล่มเต็มและอุดหนุนผู้เขียนกันด้วยนะครับ ขอบคุณที่ติดตามครับผม >>>