[สรุปหนังสือ] Nexus : A Brief History of Information Networks from the Stone Age to AI (2024)
by Yuval Noah Harari
“If we Sapiens are so wise, why are we so self-destructive?”
ตลอดระยะเวลา 100,000 ปีที่ผ่านมา มนุษย์สายพันธุ์ “Homo sapiens” ที่มีความหมายว่า “มนุษย์ผู้ชาญฉลาด (wise human)” นั้นได้ครอบครองข้อมูลและพลังอำนาจอันมหาศาลเหนือสิ่งมีชีวิตชนิดอื่นใดบนโลกผ่านการค้นคว้า ประดิษฐ์และยึดครองมาแล้วนับครั้งไม่ถ้วนตลอดระยะเวลาทางประวัติศาสตร์ แต่ข้อมูลและพลังอำนาจที่ได้มานั้นกลับไม่ได้นำพาให้มนุษย์เกิด “ปัญญา (wisdom)” ในการพัฒนาสปีชีส์ไปข้างหน้าได้อย่างเฉียบแหลม และมนุษยชาติในทุกวันนี้กลับกำลังตกอยู่ในวงจรแห่งการทำลายตนเอง ทั้งการพังทลายของระบบนิเวศน์ของโลกอันเป็นที่อยู่อาศัยของเผ่าพันธุ์และการริอาจหาญกล้าในการสร้างเทคโนโลยี A.I. ที่มีศักยภาพในการทำลายล้างระดับสปีชีส์โดยไม่มีความเข้าใจและความสามารถในการควบคุมที่มากพอ ท่ามกลางปัญหาความขัดแย้งทั้งในระดับสังคมการเมืองภายในประเทศและภูมิรัฐศาสตร์ระดับโลกที่ทำให้ปัญหาใหญ่ๆที่ต้องอาศัยความร่วมมือระดับโลกในการแก้ปัญหานั้นไม่สามารถเดินต่อไปได้และประเทศต่างๆกลับเริ่มสั่งสมอาวุธทั้งทางเศรษฐกิจและทางสงครามมาเตรียมประชันหน้ากัน
ถ้าหากมนุษย์กล้าเรียกตัวเองว่าเป็นเผ่าพันธุ์อันทรงภูมิปัญญาแล้ว ทำไมอนาคตของพวกเรามันถึงมืดหม่นได้ขนาดนี้ ?
Nexus คือ หนังสือเล่มล่าสุดของ Yuval Noah Harari ศาสตราจารย์ด้านประวัติศาสตร์แห่ง Hebrew University of Jerusalem ผู้เขียนหนังสือชื่อดังอย่าง Sapiens และ Homo Deus ที่ว่าด้วยเรื่องราวประวัติศาสตร์ของ “เครือข่ายข้อมูล (information network)” ที่ขับเคลื่อนทิศทางของมนุษยชาติมาตั้งแต่ยุคหินและกำลังกลายมาเป็นประเด็นที่สำคัญมากยิ่งขึ้นเรื่อยๆในยุคของ A.I. ที่ข้อมูลนั้นอาจเป็นได้ทั้งวัตถุดิบสำคัญในการค้นหาความจริงและอาวุธที่ทั้งมนุษย์และ A.I. สามารถใช้ในทางที่อันตรายได้
โดย Yuval Noah Harari ให้ความเห็นว่าการทำความเข้าใจวิธีการรับมือกับ A.I. เพื่อสร้างโลกในอนาคตที่ดีที่สุดนั้นต้องเริ่มต้นจากการศึกษาประวัติศาสตร์ที่อธิบายถึงความสัมพันธ์ระหว่างข้อมูลกับความจริงและพลังอำนาจที่แปรเปลี่ยนไปตามยุคตามสมัยของเทคโนโลยี โดยมีความหวังที่มนุษย์ยังมีโอกาสในการสร้างเครือข่ายของข้อมูลที่เป็นผลประโยชน์ต่อเผ่าพันธุ์และโลกได้อยู่ในอนาคต ขอเชิญทุกท่านอ่านสรุปหนังสือที่เต็มไปด้วยประเด็นที่สำคัญต่อโลกในอนาคตเล่มนี้กันได้เลยครับ
ผู้เขียน Yuval Noah Harari (source: TED)
PART I : Human Networks
Chapter 1 | What is Information ?
ตามหลักการแบบมองโลกในแง่ดีอย่างไร้เดียงสา (naive view) แล้ว “ข้อมูล (information)” นั้นถูกจำกัดความว่าเป็นวัตถุดิบพื้นฐานของ “ความจริง (truth)” ที่ถือเป็นตัวแทนของ ”ความเป็นจริง (reality)” ที่เกิดขึ้นในจักรวาล โดยมีความคิดที่ว่าหากมนุษย์ทำการค้นคว้าหาข้อมูลที่มากขึ้นไปเท่าไหร่ มนุษย์ก็จะสามารถเดินเข้าใกล้ความเป็นจริงของโลกและจักรวาลมากยิ่งขึ้นเท่านั้น
แต่วิธีคิดดังกล่าวนั้นกลับมีปัญหาอย่างเต็มๆเพราะข้อมูลในทุกๆช่วงเวลาทางประวัติศาสตร์ของมนุษยชาตินั้นเต็มไปด้วยข้อมูลผิดๆที่เกิดจากความผิดพลาดในการทำความเข้าใจความเป็นจริง (misinformation) และข้อมูลผิดๆที่เป็นการโกหกโดยตั้งใจเพื่อวัตถุประสงค์บางอย่าง (disinformation) และข้อมูลที่เป็นตัวแทนของความจริงจริงๆ อาทิ ข้อมูลทางวิทยาศาสตร์และหลักการสถิติ นั้นเป็นเพียงข้อมูลส่วนน้อยที่มีทั้งต้นทุนที่สูงในการคว้ามาและยังมักถูกจู่โจมอยู่เสมอ นอกจากนั้น ความเป็นจริงก็เป็นสิ่งที่ยากและซับซ้อนมากในการนำเสนอออกมาเป็นข้อมูลได้อย่างสมบูรณ์เพราะโลกต่างก็มีทั้งความเป็นจริงบนข้อเท็จจริง (objective reality) และความเป็นจริงตามความคิดของปัจเจกบุคคล (subjective reality) ที่อย่างหลังนั้นแตกต่างกันไปในแต่ละบุคคล อาทิ กองเชียร์พรรคการเมืองแต่ละขั้วต่างก็มีความจริงว่านักการเมืองคนนู้นคนนี้ดีชั่วอย่างไรที่แตกต่างกันเพราะความดีชั่วนั้นไม่สามารถประเมินแบบขาวดำผ่านข้อเท็จจริงได้และการตามหาความจริงเพื่อตอบว่านักการเมืองคนนั้นดีชั่วอย่างไรนั้นจึงเป็นเรื่องที่ซับซ้อนจนแทบจะเป็นไปไม่ได้
Yuval Noah Harari เสนอคำจำกัดความใหม่ของข้อมูลว่าเป็น “องค์ประกอบของการสร้างความเป็นจริงใหม่ที่นำไปสู่การสร้างเครือข่ายที่ยึดมั่นหรือเกิดขึ้นจากข้อมูลเหล่านั้น” โดยยกตัวอย่างข้อมูลในพระคัมภีร์ไบเบิลที่เต็มไปด้วยข้อมูลผิดๆ อาทิ โลกไม่เคยถูกน้ำท่วมใหญ่ในยุคของ Noah หรือ การภาวนาขอพระเจ้าให้ยุติการแพร่ระบาดของเชื้อโรคนั้นก็ใช้ไม่ได้ในยุค COVID-19 ที่แม้กระทั้ง Pope Francis ก็ขอให้ผู้คนอย่ารวมตัวกันเพื่อสวดภาวนา แต่ถึงแม้ว่าข้อมูลในคัมภีร์ไบเบิลนั้นจะไม่ได้เป็นตัวแทนของความเป็นจริงจริงๆ แต่ข้อมูลในพระคัมภีร์ไบเบิลก็สามารถเชื่อมโยงผู้คนนับพันล้านทั่วโลกให้มีความเชื่อที่เหมือนๆกันมายาวนานนับพันปีได้อย่างมีประสิทธิภาพ
ดังนั้น ข้อมูลจึงเป็นองค์ประกอบสำคัญในการสร้าง “การเชื่อมโยงของสังคมมนุษย์ (social nexus)” มาตลอดระยะเวลาทางประวัติศาสตร์โดยไม่จำเป็นต้องแสดงถึงความเป็นจริงที่แท้จริงเสมอไป วิธีคิดในการบริหารจัดการข้อมูลจึงต้องแปรเปลี่ยนไปจากความคิดที่ว่ายิ่งมีข้อมูลเยอะจะยิ่งเข้าใกล้ความจริงมากขึ้น เป็นการตระหนักรู้ว่าข้อมูลนั้นมีทั้งความจริงที่ช่วยทำให้มนุษย์เข้าใจธรรมชาติมากยิ่งขึ้นและข้อมูลที่ถูกสร้างขึ้นเพื่อสร้างเครือข่ายอะไรบางอย่างขึ้นในสังคมมนุษย์โดยไม่ยึดหลักการของความจริงแท้เสมอไป ซึ่งข้อมูลอย่างหลังนั้นกำลังมีอัตราการเติบโตที่รวดเร็วแบบก้าวกระโดดในยุคแห่งเทคโนโลยีทางข้อมูล (information technology) ที่เริ่มต้นขึ้นตั้งแต่ตอนที่มนุษย์รู้จักการใช้เทคโนโลยีข้อมูลชนิดแรกอย่างการใช้ “เรื่องเล่า (story)”
Chapter 2 | Stories: Unlimited Connections
มนุษย์เผ่าพันธุ์ Homo Sapiens สามารถพัฒนาการขึ้นมามีพลังอำนาจเหนือสิ่งมีชีวิตทั้งปวงในโลกได้จากความสามารถในการ “ร่วมมือกันเป็นกลุ่มใหญ่ได้อย่างยืดหยุ่น (ability to cooperate flexibly in large numbers)” โดยอาศัยเทคโนโลยีในการส่งผ่านข้อมูลอย่าง “เรื่องเล่า (story)” ที่มนุษย์ตั้งแต่สมัยยุคหินได้ทำการแต่ง “เรื่องแต่ง (fiction)” ต่างๆขึ้น อาทิ เทพเจ้า ปีศาจ ศาสนา กฎหมาย บริษัทและเงินตรา และทำการส่งต่อเรื่องแต่งเหล่านั้นระหว่างกันจนเกิดเป็นความเชื่อที่มนุษย์จำนวนมากยอมรับว่าเป็น “ความเป็นจริงร่วมกัน (inter-subjective reality)” ของมนุษย์ทั้งกลุ่มก้อนและทำให้พวกเขาสามารถร่วมมือกันทำอะไรบางอย่างที่ใหญ่กว่าแค่คนใดคนหนึ่งได้ อาทิ ความเชื่อของศาสนาคริสต์นิกายคาทอลิกที่มีชาวคริสต์ผู้นับถือกว่า 1.4 พันล้านคนและความเชื่อเรื่องความเป็นชาติของประเทศจีนที่ก็มีคนชาติจีนเชื่อถือกว่า 1.4 พันล้านคนเช่นกัน
โดยเรื่องแต่งนั้นมีบทบาทสำคัญในการสร้าง “ระเบียบ (order)” ทางสังคมของมนุษย์มาตลอดประวัติศาสตร์และเรื่องแต่งที่สามารถสร้างระเบียบได้นั้นก็มี “พลังอำนาจ (power)” ในการขับเคลื่อนพลวัตรของมนุษย์ได้มากกว่า “ความจริง (truth)” มาโดยตลอด อาทิ การพัฒนาระเบิดนิวเคลียร์ของ J. Robert Oppenheimer นั้นไม่สามารถที่จะประสบความสำเร็จได้จากการตามหาความจริงทางฟิสิกส์ของกลุ่มนักวิทยาศาสตร์กลุ่มหนึ่งเพียงเท่านั้น แต่การสร้างระเบิดนิวเคลียร์นั้นอาศัยการทำงานร่วมกันของมนุษย์นับแสนๆคนในโครงการ The Manhattan Project และแรงงานจำนวนมากในเหมืองแร่ยูเรเนียม ซึ่งต่างก็ถูกขับเคลื่อนจากความเชื่อจากเรื่องแต่งมากมายเพื่อพัฒนาอาวุธให้กับชาติสหรัฐอเมริกาที่มีประธานธิบดี Harry S. Truman ที่ได้รับความเชื่อว่าเป็นผู้นำสูงสุดของสหรัฐอเมริกาเป็นผู้สั่งให้กองพันทหารที่มีความเชื่อในการปกป้องประเทศทิ้งระเบิดนิวเคลียร์ 2 ลูกลงในประเทศญี่ปุ่น
ดังนั้น ประวัติศาสตร์ได้ฉายให้เห็นภาพว่า “ข้อมูล (information)” นั้นเป็นได้ทั้งส่วนหนึ่งของความจริงและส่วนหนึ่งของเรื่องแต่งที่ใช้ในการกำหนดระเบียบทางสังคมและเครือข่ายของมนุษย์นั้นก็มักต้องเลือกในการรักษาสมดุลระหว่างความจริงและระเบียบอยู่เสมอ ซึ่งเครือข่ายส่วนใหญ่ตลอดระยะเวลาทางประวัติศาสตร์นั้นก็มักเปิดอิสรภาพในการค้นหาความจริงเพื่อพัฒนาเทคโนโลยีใหม่ๆอยู่เสมอแต่ก็มักมีการควบคุมไม่ให้ความจริงที่เครือข่ายต้องการเก็บไว้เป็นความลับถูกเปิดเผยเพื่อรักษาระเบียบและเสถียรภาพของเครือข่ายเหล่านั้น อาทิ ศาสนจักรคริสต์ที่ให้อิสรภาพมากมายแต่ก็ต่อต้านและพยายามปกปิดแนวคิดของ Charles Darwin เรื่องวิวัฒนาการของมนุษย์มาอย่างยาวนานเพื่อรักษาความศักดิ์สิทธิ์ของพระเจ้าที่ถูกเชื่อว่าเป็นผู้สร้างมนุษยชาติ
โดยยิ่งเครือข่ายของมนุษย์เลือกให้ความสำคัญกับการรักษาระเบียบมากกว่าการค้นหาความจริงมากเท่าไหร่ เครือข่ายเหล่านั้นก็ยิ่งมีพลังอำนาจที่เข้มแข็งมากขึ้นแต่ก็ต้องแลกกับภูมิปัญญาที่ลดต่ำลง และยิ่งเทคโนโลยีด้านข้อมูลตามแนวคิดอันสวยหรูของ Google และ Facebook นั้นผลิตข้อมูลในปริมาณที่มากขึ้นเท่าไหร่และมีพัฒนาการให้ข้อมูลเชื่อมโยงเข้าถึงกันได้อย่างรวดเร็วและมีประสิทธิภาพมากขึ้นเท่าไหร่ การรักษาสมดุลระหว่างระเบียบและความจริงก็จะยิ่งสำคัญมากยิ่งขึ้นเรื่อยๆ ก่อนที่ความจริงที่คอยขับเคลื่อนพัฒนาการของสปีชีส์จะถูกกลืนกินโดยเรื่องแต่งที่มีเป้าหมายในการสร้างระเบียบและความเป็นจริงใหม่โดยไม่นำพามนุษยชาติก้าวไปข้างหน้า
Chapter 3 | Documents: The Bite of the Paper Tigers
วิวัฒนาการของ Homo sapiens ได้กำหนดให้กระบวนการคิดของมนุษย์เชื่อมโยงเข้ากับ “เรื่องเล่า” ได้ง่ายกว่า “ลิสต์” ของ “ข้อมูล” ที่ไม่ได้ถูกผูกโยงเป็นเรื่องราว ลองสังเกตง่ายๆจากตัวของเราเองที่มักจดจำและระลึกถึงเรื่องเล่าต่างๆอย่างเป็นเรื่องเป็นราวได้มากกว่าการจดจำข้อมูลเพียงโดดๆ ดังนั้น การแก้ไขปัญหาด้านการเก็บข้อมูลของมนุษย์ที่ไม่ได้มีแต่เฉพาะเรื่องเล่านั้นจึงได้นำมาสู่เทคโนโลยีด้านข้อมูลลำดับที่สองอย่าง “เอกสาร (document)” ที่ทำหน้าที่ในการบันทึกข้อมูลอย่างเป็นระบบ
ย้อนกลับไปเมื่อกว่า 4,000 ปีก่อน เอกสารที่เก่าแก่ที่สุดที่นักโบราณวัตถุค้นพบนั้นอยู่ในรูปของ “อักษรรูปลิ่ม (cuneiform)” ที่ถูกจดบันทึกลงบนแผ่นดินเหนียวในอารยธรรม Mesopotamia ที่จดบันทึกบัญชีการนับจำนวนแกะรวมทั้งหมด 898 ตัวที่ถูกนำมาส่งในช่วงระยะเวลา 28 วัน ซึ่งแสดงให้เห็นถึงบทบาทสำคัญของเอกสารในการจัดเก็บข้อมูลที่มากเกินกว่าที่มันสมองของมนุษย์จะจดจำได้และกระบวนการทางเอกสารที่รวมไปถึงการจดบันทึกทรัพย์สิน ภาษีและการจ่ายเงินตรา นั้นก็มีส่วนสำคัญอย่างยิ่งต่อการก่อตั้งอาณาจักรขนาดใหญ่ของมนุษย์ที่ทำให้ Homo sapiens เริ่มอยู่รวมกันเป็นเมืองขนาดใหญ่ที่มีกระบวนการปกครองและกฎระเบียบที่มนุษษ์เชื่อและปฏิบัติตามที่ก็เป็นองค์ประกอบสำคัญในการขับดันให้เกิดความก้าวหน้าในการพัฒนาเทคโนโลยีใหม่ๆของมนุษย์อย่างต่อเนื่อง
แต่การเกิดขึ้นของระบบเอกสารนั้นก็มีปัญหาใหญ่ตามมาอย่างการจัดเก็บและบริหารจัดการเอกสารที่ไม่ง่ายเหมือนการนึกถึงข้อมูลจากความทรงจำในสมองและนำไปสู่การสร้าง “ระบบราชการ (bureaucracy)” ที่มนุษย์เริ่มทำการแบ่งข้อมูลออกเป็นกลุ่มๆแบบเฉพาะทางและทำการจัดเก็บข้อมูลเหล่านั้นอย่างเป็นระบบระเบียบที่นำไปสู่การสร้างความเป็นจริงระหว่างบุคคล (inter-subjective reality) ใหม่ที่ตีตราทุกสิ่งทุกอย่างเป็นหมวดหมู่ต่างๆเพื่อความเป็นระเบียบ (order) ของสังคมที่ก็มีประโยชน์อย่างมากในการผลักดันความก้าวหน้าของมนุษย์ผ่านการจัดสรรผู้คนและทรัพยากรออกไปทำงานแบบเฉพาะทางในด้านต่างๆที่ทำให้องค์ความรู้ของมนุษย์กว้างขึ้นโดยที่มนุษย์ทุกคนไม่จำเป็นต้องรู้ไปทุกๆเรื่อง อาทิ ลองจินตนาการระบบสาธารณสุขที่แพทย์ทุกคนต้องรู้ในทุกๆเรื่องดูว่าการสอนแพทย์แต่ละคนจะต้องใช้เวลากี่ปีและสมองของแพทย์ส่วนใหญ่ก็คงรับความรู้ทั้งหมดไม่ไหวอย่างแน่นอน
แต่การแบ่งแยกหมวดหมู่ของข้อมูลเหล่านี้ก็เป็นตัวขัดขวางสำคัญต่อการทำความเข้าใจความเป็นจริงที่ต้องอาศัยการมองภาพแบบองค์รวม (holistic) ไม่ใช่มุมมองเฉพาะทางในแต่ละด้านที่มนุษย์ถูกบังคับจากการตีตราเป็นหมวดหมู่นั้นๆ อาทิ การแก้ปัญหาของ COVID-19 ถูกแบ่งออกเป็นหมวดหมู่ ทั้ง การแก้ปัญหาเชิงคณิตศาสตร์ เชิงชีววิทยาและเชิงมนุษยศาสตร์ ซึ่งต่างก็เป็นสาขาวิชาที่ถูกจัดเป็นหมวดหมู่ในระบบการศึกษาปัจจุบัน แทนที่จะเป็นการแก้ปัญหาในศาสตร์ของไวรัส COVID-19 อย่างองค์รวม นอกจากนั้น ระบบการจัดการข้อมูลแบบราชการนี้ก็ยังสร้างความซับซ้อนให้กับสมาชิกในสังคมที่เป็นไปได้ยากที่จะเข้าใจในกระบวนการทำงานของระบบของรัฐบาลส่วนกลางซึ่งก็มักนำมาสู่การเอารัดเอาเปรียบของผู้มีอำนาจและความรู้สึกไม่พึงพอใจของประชาชนต่อผู้ปกครองที่พวกเขาไม่เข้าใจที่ก็มักปะทุออกมาเป็นระยะๆตลอดระยะเวลาทางประวัติศาสตร์ในแทบทุกประเทศ
กล่าวโดยสรุปแล้ว การเกิดขึ้นของระบบเครือข่ายข้อมูลจากเอกสารและระบบราชการนั้นก็ฉายภาพซ้ำให้เห็นถึงแนวโน้มที่เครือข่ายข้อมูลของมนุษย์นั้นมักเลือกที่จะให้ความสำคัญกับการจัดระเบียบ (order) ของสังคมโดยยอมแลกกับการลดทอนความสำคัญของความจริง (truth) ที่ถูกบดบังโดยสิ่งที่ยากจะเข้าใจมากขึ้นเรื่อยๆ และการเพิ่มขึ้นของจำนวนข้อมูลในโลกยุคปัจจุบันนั้นยิ่งมีแต่จะซ้ำเติมสมดุลระหว่างระเบียบกับความจริงนี้ให้บิดเบี้ยวไปมากขึ้นอีกหากมนุษย์ไม่มีกระบวนการจัดการที่ดีพอ
Chapter 4 | Errors: The Fantasy of Infallibility
ความผิดพลาดเป็นส่วนหนึ่งของธรรมชาติมนุษย์ที่แม้กระทั่งจุดเริ่มต้นของประวัติศาสตร์ของมนุษย์ตามความเชื่อของศาสนาคริสต์ก็ยังเริ่มต้นด้วยความผิดพลาดของ Adam และ Eve ที่ทำให้มนุษย์ยุคหลังต้องชดใช้ แต่หากมนุษย์ต่างเชื่อว่ามนุษย์ด้วยกันเองนั้นสามารถผิดพลาดได้และไม่มีใครที่สมบูรณ์แบบ แล้วมนุษย์จะสามารถสร้างระเบียบการปกครองที่สมาชิกในสังคมจะเชื่อมั่นในระเบียบนั้นได้อย่างไร ? คำตอบก็คือการสร้าง “ศาสนา” ที่ต่างก็ว่าด้วยเรื่องราวคำสอนและกฎข้อบังคับที่ถูกมอบโดย “พระเจ้า” หรือ “ตัวตนที่เหนือกว่ามนุษย์” ที่สมบูรณ์แบบและปราศจากความผิดพลาดที่มนุษย์ธรรมดาๆไม่สามารถตั้งคำถามหรือท้าทายระเบียบเหล่านี้ได้
แต่ศาสนาเองก็สามารถตกเป็นผู้เสียหายจากความผิดพลาดและความฉ้อฉลของมนุษย์ที่อ้างศาสนาเพื่อกระทำการต่างๆได้ ศาสนาทั้งยูดาห์ คริสต์ มุสลิมและฮินดูจึงต่างได้คิดค้นเทคโนโลยีด้านข้อมูลใหม่อย่าง “คัมภีร์ศักดิ์สิทธิ์“ ที่รวบรวมข้อมูลเรื่องเล่าและกฎระเบียบที่เป็นดั่งข้อเท็จจริงตามหลักศาสนาเหล่านั้นที่สามารถส่งต่อไปถึงมือผู้นับถือทุกคนให้ยึดมั่นในชุดข้อมูลเดียวกันเป็นความจริงแท้และปกป้องการใส่ข้อมูลอื่นๆที่ไม่ได้ยึดตามคัมภีร์เหล่านี้ซึ่งก็สามารถกำจัดความผิดพลาดของมนุษย์ออกไปจากสารบบได้ เฉกเช่นเดียวกับแนวคิดของระบบ blockchain ในปัจจุบัน
แต่คัมภีร์ศักดิ์สิทธิ์นั้นก็มีปัญหาตามมามากมาย เริ่มต้นแต่ กระบวนการเขียนคัมภีร์ที่ต่างก็ล้วนเกิดขึ้นจากมนุษย์ที่ถึงแม้จะอ้างอิงชุดข้อมูลโบราณที่ผู้คนเชื่อในความศักดิ์สิทธิ์แต่กลุ่มผู้นำทางศาสนาเหล่านั้นก็สามารถตีความและคัดเลือกข้อมูลเหล่านั้นว่าชุดไหนเป็นจริงไม่จริงมารวมเล่มได้ ซึ่งก็ทำให้เกิดคำถามว่าคัมภีร์ศักดิ์สิทธิ์เหล่านั้นเป็นคำพูดของพระเจ้าจริงหรือไม่ ? อาทิ การถือกำเนิดของศาสนาคริสต์นั้นก็เริ่มต้นจากการไม่เห็นด้วยในการตีความพระคัมภีร์ Old Testament ของรับบีในศาสนายูดาห์จนก่อให้เกิดบทเรียนชุดข้อมูลที่ตีความใหม่ของชาวคริสต์ออกมาแทน หรือ กรณีคัมภีร์ New Testament ของศาสนาคริสต์ที่คัดเลือกเรื่องราวที่พูดถึงความชายเป็นใหญ่เก็บไว้และตัดเรื่องราวที่ให้เกียรติเพศหญิงอย่างเท่าเทียมกันออกจนเกิดสังคมปิตาธิปไตยในสังคมคริสต์อย่างฝังรากลึกที่ก็อาจใช่หรือไม่ใช่สิ่งที่พระเจ้าต้องการก็เป็นได้
นอกจากนั้น การที่พระคัมภีร์ส่วนใหญ่ถูกเขียนมานานเกือบ 2 พันปีในเมืองๆหนึ่งขณะที่โลกนั้นกว้างใหญ่และเปลี่ยนแปลงไปอย่างรวดเร็วก็ก่อให้เกิดองค์กรทางศาสนาที่ทำหน้าหลักในการตีความพระคัมภีร์เหล่านั้นที่ก็เป็นการรวมศูนย์อำนาจกลับมาที่มนุษย์กลุ่มหนึ่งอยู่ดี อาทิ กรณีของคริสตจักรนิกายคาทอลิกที่ครอบครองอำนาจมาอย่างยาวนานด้วยการตีความพระคัมภีร์ไบเบิลที่เอื้อประโยชน์ในการกระชับการปกครองและทรัพยากรให้ตกเป็นของคริสตจักรส่วนกลางและตีตราผู้ที่เห็นต่างเป็นพวกนอกรีตที่ต้องฆ่าล้างบางให้หมดและใช้ความเชื่อนำพาผู้คนไปตายในสนามรบนับครั้งไม่ถ้วน หรือ การตีความพระคัมภีร์ฮีบรูของรับบีในศาสนายูดาห์นั้นก่อให้เกิดข้อกำหนดแปลกๆมากมาย เช่นกรณีของวัน Sabbath ที่ชาวยิวจะต้องไม่ทำงานใดๆ ซึ่งรับบีก็ตีความว่าการกดลิฟต์ที่เป็นการใช้ไฟ(ฟ้า)นั้นถือเป็นการทำงานจนทำให้ชาวยิวต้องคิดนวัตกรรมใหม่ๆให้ผู้คนไม่ต้องกดลิฟต์ในวันศักดิ์สิทธิ์ดังกล่าว อาทิ การใช้ลิฟต์ที่เคลื่อนขึ้นลงจอดทุกชั้นอยู่ตลอดเวลาและการใช้ facial recognition แทน (ในขณะที่เนื้อหาในพระคัมภีร์ไม่เคยพูดถึงบทบาทในการตีความพระคัมภีร์ของรับบีเลย)
เทคโนโลยีด้านข้อมูลลำดับถัดมาอย่าง “เครื่องพิมพ์” ที่ถูกคิดค้นในเยอรมนีราวๆปี 1440 ที่เป็นจุดเริ่มต้นของการแพร่กระจายข้อมูลอย่างเป็นวงกว้างอย่างรวดเร็วทดแทนการคัดลอกหนังสือทีละเล่มอย่างช้าๆนั้นก็ไม่ได้ช่วยตีแผ่ข้อเท็จจริงของโลกเพื่อประชันหน้ากับการกล่าวอ้างถึงความถูกต้องอย่างผิดๆของศาสนาแต่อย่างใด แต่เครื่องพิมพ์กลับทำให้ข้อมูลที่ส่วนมากนั้นเป็นเรื่องแต่งที่ถูกใจมนุษย์ที่มักชอบเรื่องราว drama ให้แพร่กระจายได้อย่างรวดเร็วกว่าข้อเท็จจริงที่น่าเบื่อไม่ดึงดูดใจและกิเลสของมนุษย์ อาทิ หนังสือ The Hammer of Witches ที่เขียนขึ้นโดย Heinrich Kramer ในปี 1486 และมีถึง 28 งวดการพิมพ์ก็เป็นตัวเร่งให้เกิดการแพร่กระจายของการล่าแม่มดที่ถือเป็นโศกนาฏกรรมครั้งใหญ่ของมนุษย์สมัยใหม่ที่ผู้คนแม้กระทั่งเด็กตัวเล็กๆต่างถูกกล่าวหาโดยไร้หลักฐานว่าเป็นแม่มดและถูกจับทรมานอย่างเหี้ยมโหดเพื่อให้สารภาพข้อมูลเท็จๆเพื่อกล่าวหาเหยื่อรายถัดไปต่อเป็นทอดๆที่กินระยะเวลานานกว่า 200 ปีจนก่อให้เกิดเป็นอุตสาหกรรมการล่าแม่มดอันอู้ฟู่ที่สร้างรายได้และก็คร่าชีวิตผู้คนกว่า 40,000-50,000 รายจากความเชื่อต่อกันเป็นทอดๆโดยไร้ซึ่งข้อเท็จจริงใดๆอย่างน่าเศร้า ในขณะที่หนังสือแนววิทยาศาสตร์ของ Nicolaus Copernicus อย่าง On the Revolutions of the Heavenly Spheres ที่เขียนขึ้นในปี 1543 ที่อธิบายว่าโลกไม่ใช่ศูนย์กลางของระบบสุริยะเป็นครั้งแรกกลับขายได้แค่ไม่กี่ร้อยเล่มในการตีพิมพ์ครั้งแรก
ยุคแห่งการล่าแม่มดที่สะท้อนให้เห็นว่าพัฒนาการของเทคโนโลยีข้อมูลนั้นไม่ได้ทำให้มนุษย์ตัดสินใจได้อย่างชาญฉลาดเสมอไป (source: christianitytoday)
ตรงกันข้ามกับสถาบันศาสนาที่ไม่เคยยอมรับความผิดพลาดของสถาบันและมักโยนความผิดให้กับสมาชิกที่เป็นเพียงมนุษย์ที่ชั่วร้ายหรือเข้าใจผิดในคำสอนอันศักดิ์สิทธิ์ สถาบันทางวิทยาศาสตร์อย่าง The Royal Society of London และ The French Academie des Sciences คือต้นแบบของสถาบันที่มี “กลไกในการแก้ไขความผิดพลาดของตัวเอง (self-correction mechanism)” ที่สถาบันทางวิทยาศาสตร์ต่างส่งเสริมให้นักวิทยาศาสตร์พิสูจน์และแก้ไขความเข้าใจผิดของงานวิจัยก่อนหน้าเสมอและมักมอบรางวัลอันทรงเกียรติให้กับผู้ที่คิดค้นทฤษฎีใหม่ๆที่ล้มล้างทฤษฎีเดิมหรือเปิดองค์ความรู้ใหม่ๆอยู่เสมอ ซึ่งกลไกในการแก้ไขความผิดพลาดในอดีตด้วยตัวเองเหล่านี้คือตัวขับเคลื่อนหลักในการค้นหาความจริงแท้ในธรรมชาติของโลกและจักรวาลอันนำมาซึ่งความรู้และเทคโนโลยีใหม่ๆอยู่เสมอ แต่การนำกลไกในการยอมรับความผิดพลาดนี้ไปใช้กับสถาบันด้านการปกครองต่างๆนั้นก็อาจสุ่มเสี่ยงต่อการรักษาระเบียบและเสถียรภาพของสถาบันเหล่านั้น หากวันหนึ่งพระสันตะปาปาประกาศยอมรับว่าพระคัมภีร์ไบเบิลนั้นเต็มไปด้วยข้อมูลที่ผิดพลาด สถาบันศาสนาคริสต์จะโกลาหลขนาดไหน ? ดังนั้น การรักษาสมดุลระหว่างความจริงกับระเบียบจึงเป็นความท้าทายที่ทุกสถาบันต้องเผชิญหนักขึ้นเรื่อยๆในทุกๆวัน
Chapter 5 | Decisions: A Brief History of Democracy and Totalitarianism
รูปแบบการปกครองของมนุษย์นั้นสามารถแบ่งออกได้เป็น 2 สายหลัก ได้แก่ ระบอบเผด็จการ (dictatorship) และระบอบประชาธิปไตย (democracy) โดยการปกครองรูปแบบเผด็จการนั้นมีลักษณะแบบรวมศูนย์ (centralized) ของข้อมูลและการตัดสินใจที่สำคัญทั้งหมดเข้าไว้ที่ส่วนกลางโดยท่านผู้นำสูงสุดที่มักถูกเทิดทูนถึงความสมบูรณ์แบบไร้จุดด่างพร้อยที่ไม่มีใครคัดค้านได้ ส่วนการปกครองแบบประชาธิปไตยนั้นมีลักษณะแบบกระจายตัว (distributed) ที่ข้อมูลและการตัดสินใจส่วนใหญ่นั้นกระจายตัวไปอยู่กับกลุ่มก้อนเครือข่ายขนาดย่อยและประชาชนแต่ละคนโดยมีระบบการถ่วงดุลอำนาจระหว่างส่วนกลางด้วยกลไกในการแก้ไขความผิดพลาดของตัวเอง (self-correcting mechanism) อาทิ ระบบศาล สื่อมวลชน บริษัทเอกชนและองค์กรต่างๆมากมาย ที่ต่างก็มีหน้าที่ในการตรวจสอบซึ่งกันและกันเพื่อป้องกันความผิดพลาดและกลโกงที่เป็นธรรมชาติของมนุษย์
โดยความเข้าใจผิดใหญ่ต่อระบอบประชาธิปไตยคือความเข้าใจที่ว่าประชาธิปไตยคือการเคารพเสียงส่วนใหญ่เพียงอย่างเดียวซึ่งตีความได้ว่าหากประชาชน 99% ของประเทศต้องการสั่งประการประชาชน 1% นั้นก็สามารถทำได้ซึ่งไม่ใช่ประชาธิปไตยที่แท้จริง โดยหลักการทางประชาธิปไตยที่แท้จริงแล้วนั้นให้ความสำคัญต่อ “อิสรภาพ” ของประชาชนทุกคนภายใต้กฎระเบียบที่ยอมรับโดยคนส่วนใหญ่ ดังนั้น ระบอบประชาธิปไตยนั้นยังต้องให้ความสำคัญต่อสิทธิมนุษยชน (human rights) และสิทธิพลเมือง (civil rights) โดยมีกลไกในการเลือกตั้งหรือลงประชามติสำหรับการตัดสินใจใหญ่ๆเท่านั้นและมีกลไกในการรักษาสิทธิของประชาชนผ่านการทำงานของรัฐบาลกลางและกฎหมายต่างๆ เช่นหากประชาชน 99% ของประเทศนั้นเลือกนับถือศาสนาหนึ่งแล้ว ประชาชนที่เหลือเพียง 1% ในระบอบประชาธิปไตยนั้นก็มีเสรีภาพอย่างเต็มที่ในการนับถือศาสนาอื่นๆหรือไม่นับถือศาสนาใดๆเลย โดยหากขาดสิ่งเหล่านี้ ประเทศที่ประชาชนมีสิทธิเสรีภาพในการทำอะไรก็ได้ก็จะตกอยู่ในระบอบอนาธิปไตย (anarchy) ที่ไร้ซึ่งรัฐและเต็มไปด้วยความโกลาหล
นอกจากนั้น การกล่าวอ้างความชอบธรรมในการขึ้นครองอำนาจโดยการเลือกตั้งก็มักเป็นกลไกยอดนิยมของเผด็จการตลอดระยะเวลาทางประวัติศาสตร์ที่ต่างก็พยายามบ่อนทำลายองค์ประกอบที่เป็นกลไกในการแก้ไขความผิดพลาดของรัฐที่เป็นพื้นฐานของประชาธิปไตย อาทิ การควบคุมศาลและการยึดครองสื่อ เพื่อควบรวมการปกครองอย่างเบ็ดเสร็จภายใต้ร่มเงาของประชาธิปไตยที่ไม่เป็นความจริง ยกตัวอย่างเช่น นักการเมืองสายประชานิยมแบบสุดโต่ง (populist) ที่มักอ้างตัวเองเป็นตัวแทนของประชาชนที่มีวิธีคิดเหมือนๆกันทั้งประเทศเพื่อต่อสู้กับสถาบันต่างๆที่พวกเขาอ้างว่าเต็มไปด้วยการเห็นแก่ผลประโยชน์และอำนาจของตัวเอง โดยนักการเมืองสาย “ชายแกร่ง” เหล่านี้แบบ Donald Trump หรือ Vladimir Putin ก็มักเลือกควบรวมอำนาจเข้าหาตัวเองและเปลี่ยนระบอบการเมืองให้เบ้จากประชาธิปไตยไปสู่เผด็จการ ทั้งนี้ ความซับซ้อนของเครือข่ายข้อมูลแบบกระจายตัวของระบอบประชาธิปไตยที่ประชาชนไม่เข้าใจและเริ่มไม่เชื่อถือนั้นก็เป็นชนวนชั้นดีที่ช่วยเติมเชื้อเพลิงให้กับนักการเมืองสาย populist แบบนี้ แต่ก็เป็นที่น่าแปลกใจว่าหากประชาชนยอมรับว่ามนุษย์ที่มีอำนาจมักฉ้อฉลแล้วทำไมประชาชนถึงกล้าเชื่อมั่นในคนคนหนึ่งที่เสนอการควบรวมอำนาจที่มากขึ้น ?
การประเมินว่าระบอบการปกครองนั้นอยู่ตรงไหนระหว่างเส้นแบ่งที่ฝั่งหนึ่งเป็นประชาธิปไตยและอีกฝั่งเป็นเผด็จการนั้นสามารถประเมินจากการไหลของข้อมูลและบทสนทนาที่ระบอบประชาธิปไตยนั้นต้องเป็นไปอย่างเปิดเผยที่ทุกคนสามารถพูดถึงเรื่องต่างๆได้และก็ได้รับการรับฟัง โดยหากย้อนกลับไปในประวัติศาสตร์ของ Homo sapiens แล้ว ชุมชนของมนุษย์ยุคล่าสัตว์หาของป่านั้นถือเป็นประชาธิปไตยแบบแทบจะสมบูรณ์เพราะสมาชิกทุกคนนั้นต่างก็รู้จักกันและมีความรู้ในเรื่องต่างๆใกล้เคียงกันจนทำให้พูดคุยระหว่างกันได้ง่ายโดยที่หัวหน้าเผ่าก็เข้าถึงได้และมีอำนาจที่ไม่มากเกินไปเพราะสมาชิกเผ่าที่ไม่พึงพอใจก็สามารถออกจากเผ่าได้ไม่ยาก
แต่มนุษย์ในยุคเริ่มต้นของการปฏิวัติการเกษตรที่มนุษย์ต่างอยู่อาศัยเป็นส่วนหนึ่งของอาณาจักรขนาดใหญ่นั้นมักอยู่ภายใต้การปกครองแบบเผด็จการเป็นหลักด้วยสาเหตุที่ว่าระบอบประชาธิปไตยในวงกว้างนั้นไม่สามารถทำได้เพราะมนุษย์ยังไม่มีเทคโนโลยีที่ทำให้การสื่อสารระหว่างผู้คนนับแสนนับบ้านคนข้ามเมืองต่างๆเป็นไปได้ซึ่งทำให้การสื่อสารทั้งหมดยังต้องอาศัยการอยู่ในสถานที่เดียวกันเพียงเท่านั้น แถมการสื่อสารในสังคมขนาดใหญ่นั้นยังมีหัวข้อที่หลากหลายที่มนุษย์ส่วนใหญ่ไม่มีความรู้และประสบการณ์ที่มากพอที่จะเข้าใจและร่วมวงในบทสนทนาได้ แต่ในขณะเดียวกัน การปกครองในระดับเมืองทั้งเมืองหลวงอย่าง Rome และ Athens รวมถึงบรรดาเมืองภายใต้การปกครองของอาณาจักรที่มีประชากรระดับไม่เกินหลักหมื่นคนนั้นยังมีหลายแห่งที่สามารถรักษาระบอบประชาธิปไตยของการตัดสินใจได้อยู่ โดยหลายๆเมืองเลือกให้สิทธิการโหวตแก่ผู้ชายในตระกูลฐานะดีซึ่งก็ถือเป็นก้าวสำคัญของประชาธิปไตยแต่ก็ยังห่างไกลจากความเป็นประชาธิปไตยในปัจจุบัน
ระบบรัฐสภาแห่งสาธารณรัฐโรมันที่ดำเนินวิธีการทางประชาธิปไตยได้เฉพาะระหว่างตัวแทนผู้ชายจากตระกูลที่สูงส่งและดำเนินการทั้งหมดภายในห้องประชุมสภาที่ทุกคนได้ยินกันและกัน (source: britannica)
ทั้งหมดนี้แสดงให้เห็นว่าประชาธิปไตยระดับวงกว้างในยุคสมัยใหม่นั้นสามารถเกิดขึ้นได้อย่างสำเร็จด้วยการวางรากฐานของระบบการศึกษาและเทคโนโลยีในการสื่อสารข้อมูลเป็นวงกว้าง อาทิ หนังสือพิมพ์รายสัปดาห์ที่ช่วยอัพเดทข้อมูลข่าวสารให้กับผู้คนในวงที่กว้างมากขึ้น ที่ทำให้ประชาชนสามารถร่วมเป็นส่วนหนึ่งของบทสนทนาอย่างมีความหมายได้ เคียงคู่กับการวางระบบที่เปิดโอกาสให้เกิดการแก้ไขข้อผิดพลาดของผู้นำยุคก่อนได้ อาทิ ระบบประชาธิปไตยของสหรัฐอเมริกาที่ก็เคยสนับสนุนการถือครองทาสและการห้ามไม่ให้ผู้หญิงมีสิทธิเลือกตั้งก็ค่อยๆพัฒนาไปในทิศทางแห่งเสรีภาพ สิทธิมนุษยธรรมและสิทธิพลเรือนมากขึ้นเรื่อยๆ
เทคโนโลยีด้านการสื่อสารในวงกว้างที่พัฒนาตามมาอย่างต่อเนื่อง อาทิ โทรเลข วิทยุ โทรทัศน์และอินเตอร์เน็ต นั้นทำให้ระบอบประชาธิปไตยนั้นเป็นไปได้ แต่ไม่ได้เป็นตัวกำหนดว่าการแพร่กระจายข้อมูลที่รวดเร็วมากยิ่งขึ้นนั้นจะนำไปสู่ระบอบประชาธิปไตย แท้ที่จริงแล้ว เทคโนโลยีด้านการสื่อสารเหล่านี้ก็เปิดโอกาสให้ระบอบเผด็จการแบบเบ็ดเสร็จ (totalitarian) ที่มีเป้าหมายในการควบคุมทุกการตัดสินใจและทุกความคิดของประชาชนทุกคนจากส่วนกลางอย่างเข้มงวดนั้นเป็นไปได้เช่นกัน (จินตนาการถึงนิยาย 1984 ของ George Orwell กันได้เลย)
แน่นอนว่าตลอดระยะเวลาทางประวัติศาสตร์สมัยเก่า จักรพรรดิ์ในหลากหลายดินแดน อาทิ จักรพรรดิ Nero แห่งจักรวรรดิโรมันและจิ๋นซีฮ่องเต้ (Qin Shi Huang) ต่างก็ต้องการระบอบการปกครองแบบเบ็ดเสร็จ โดยทั้งคู่ต่างออกกฎหมายและบทลงโทษรายแร้งมากมายเพื่อควบคุมการตัดสินใจของผู้คนทุกคน แต่ทั้งคู่ต่างก็ต้องเผชิญกับปัญหาทางเทคโนโลยีที่พวกเขาไม่มีวิธีการใดๆในการสอดส่องดูแลว่าประชาชนทุกคนนั้นทำผิดกฎหมายหรือไม่อย่างมีประสิทธิภาพและสุดท้ายความทะเยอทะยานในการลงทุนกองพันทหารและสายลับเพื่อคอยสืบราชการนั้นก็ส่งผลเสียต่อระบบเศรษฐกิจและสร้างความไม่พอใจจนจักรพรรดิ Nero ก็โดนคนในของเขาลอบสังหารซึ่งแสดงให้เห็นว่าเขานั้นไม่สามารถแม้กระทั่งสอดแนมถึงความจงรักภักดีของบริวาลของตัวเองได้ ส่วนราชวงศ์ฉินของจิ๋นซีฮ่องเต้ก็ถูกปฏิวัติโดยประชาชนที่ไม่พอใจในการถูกกดทับและแตกเป็นเสี่ยงๆไปในที่สุด
ระบอบเผด็จการแบบเบ็ดเสร็จนั้นเริ่มใช้งานได้อย่างมีประสิทธิภาพจริงหลังจากการคิดค้นเทคโนโลยีด้านการสื่อสารอย่างโทรเลขและโทรศัพท์ที่ช่วยให้การส่งผ่านข้อมูลไปยังส่วนกลางนั้นทำได้โดยง่ายและเปิดโอกาสให้รัฐเผด็จการสามารถสอดส่อง ควบคุมทุกการตัดสินใจและกำหนดชะตาชีวิตของประชาชนทั้งหมดได้ เหมือนกรณีของสหภาพโซเวียตในสมัย Joseph Stalin ที่แบ่งอำนาจไปยังองค์กรใหญ่ 3 องค์กร ได้แก่ พรรคคอมมิวนิสต์ กองทัพและตำรวจลับ (NKVD) ที่ฝ่ายหลังนั้นเป็นดั่งสายลับที่คอยสอดส่องการทำงานของทั้งประชาชน พรรค กองทัพและตำรวจลับด้วยกันเอง ซึ่งการสอดส่องนี้ก็นำมาสู่การจองจำและการประหารชีวิตของเจ้าหน้าที่และประชาชนจำนวนหลักล้านๆและสร้างความหวาดระแวงระหว่างกันของประชาชนว่าคนรู้จักและคนในครอบครัวนั้นอาจเป็นสายลับที่สามารถทำลายชีวิตกันและกันได้ จนเกิดความหวาดกลัวที่ประชาชนไม่กล้าแม้แต่จะเอ่ยปากวิจารณ์นโยบายใดๆของภาครัฐและยอมทำตามนโยบายอันป่าเถื่อนและไร้ประสิทธิภาพมากมาย อาทิ การตั้งฟาร์มเกษตรกรรมที่บังคับให้ผู้คนทั้งหมดสละทรัพย์สินมาทำงานเกษตรอย่างเท่าเทียมกันโดยมีภาครัฐเป็นผู้กำหนดว่าฟาร์มไหนต้องปลูกอะไร หรือ การส่งเสริมความแตกแยกของครอบครัวที่รัฐมองว่าเป็นสถาบันปฏิปักษ์ต่อรัฐด้วยการสร้างค่านิยมให้ลูกๆรักในตัวของท่านผู้นำและเปิดโปงความทรยศของพ่อแม่ตัวเอง
แต่ถึงแม้ว่าการปกครองระบอบเผด็จการแบบเบ็ดเสร็จในสมัยของ Joseph Stalin หรือ Adolf Hitler นั้นจะสามารถสร้างสังคมที่มีความเป็นระเบียบอย่างสูงสุดและการควบรวมอำนาจอย่างเบ็ดเสร็จนั้นสามารถช่วยให้การตัดสินใจใหญ่ๆทำได้อย่างรวดเร็ว แต่ระบอบเผด็จการสมัยนั้นก็ต้องเผชิญกับปัญหาในการประมวลผลของข้อมูลจำนวนมากที่ทำให้รัฐบาลกลางไม่สามารถตัดสินใจทุกอย่างอย่างรวมศูนย์ได้และการบงการการตัดสินใจทุกอย่างของประชาชนก็เป็นการทำลายเชื้อเพลิงของไอเดียและนวัตกรรมใหม่ๆ จนท้ายที่สุด สหภาพโซเวียตก็ไม่สามารถพัฒนาระบบเศรษฐกิจได้ทัดเทียมกับซีกโลกในตะวันตกและก็ล่มสลายไปในที่สุด พร้อมๆกับที่ทั่วโลกต่างเริ่มมองเห็นว่าระบบการปกครองแบบทุนนิยมประชาธิปไตยนั้นคือทางเลือกที่ดีที่สุด
จนกระทั่ง การมาถึงของคลื่นแห่งเทคโนโลยีครั้งใหม่อย่าง A.I. ที่นำมาซึ่งขีดความสามารถในการตัดสินใจในปริมาณอันมหาศาลแบบรวมศูนย์ภายในเสี้ยววินาที ท่ามกลางการระเบิดของข้อมูลอันมหาศาลและช่องทางที่เปิดโอกาสให้มนุษย์ทุกคนพูดและเห็นต่างกันได้ในทุกๆเรื่อง ระบอบการปกครองแบบประชาธิปไตยกำลังถูกท้าทายครั้งใหญ่จากความโกลาหลของปัญหาของการมีแต่คนพูดแต่ไม่มีคนยอมรับฟังซึ่งกันและกันอันนำมาซึ่งประสิทธิภาพที่ลดถอยลง ในขณะที่ระบอบการปกครองแบบเผด็จการเบ็ดเสร็จอันสมบูรณ์แบบที่ปกครองโดยสิ่งที่ไม่จำเป็นต้องเป็นมนุษย์นั้นกลับเริ่มเข้าใกล้ความจริงได้ในทุกๆวินาที
PART II : The Inorganic Network
Chapter 6 | The New Members: How Computers are Different from Printing Presses
การปฏิวัติทางข้อมูลแห่งยุคสมัยใหม่นั้นมีจุดเริ่มต้นย้อนกลับไปในช่วงปี 1940s ที่มนุษย์เริ่มคิดค้น “คอมพิวเตอร์” เพื่อทำหน้าที่ในการคำนวณข้อมูลอย่างอัตโนมัติ ก่อนที่คอมพิวเตอร์จะมีวิวัฒนาการอย่างก้าวกระโดดในระดับที่สิ่งที่มนุษย์มักเคยอ้างว่าคอมพิวเตอร์นั้นไม่สามารถทำได้ อาทิ เล่นหมากรุก ขับรถและแต่งกลอน นั้นกลับถูกล้มล้างอย่างต่อเนื่องภายในระยะเวลาไม่กี่ปีที่ผ่านมาเมื่อคอมพิวเตอร์ในยุคสมัยใหม่นั้นเริ่มมี “ปัญญา (intelligence)” ในการเลือกตัดสินใจและสร้างไอเดียใหม่ๆได้โดยไม่จำเป็นต้องมี “การตระหนักรู้ (consciousness)” ถึงอารมณ์และความรู้สึกเหมือนกับสิ่งมีชีวิตอย่างมนุษย์แต่อย่างใด โดย Yuval Noah Harari ได้ให้นิยามของ A.I. ว่า “alien intelligence” ซึ่งสื่อถึงปัญญาที่แตกต่างจากปัญญาของมนุษย์โดยไม่จำเป็นต้องทำทุกสิ่งทุกอย่างที่มนุษย์ทำได้แต่ก็มีศักยภาพในการทำในสิ่งที่ปัญญาของมนุษย์นั้นไม่แม้แต่จะจินตนาการถึงได้เช่นกัน
แตกต่างจากเครื่องพิมพ์ที่ไม่สามารถเลือกหนังสือที่ต้องการพิมพ์ได้และต้องอาศัยมนุษย์ในการตัดสินใจแทน คอมพิวเตอร์ในรูปของ algorithm กลับมีความสามารถในการตัดสินใจเพื่อตอบสนองต่อวัตถุประสงค์บางอย่างที่มนุษย์กำหนดได้อย่างกว้างไกลและเกินกว่าที่มนุษย์ผู้กำหนดจะจินตนาการได้ ยกตัวอย่างเช่น กรณีของการฆ่าล้างเผ่าพันธุ์ชาวโรฮิงยาในพม่าช่วงปี 2016-2017 ที่ถูกขับเคลื่อนจากความเกลียดชังของชาวพุธที่มีต่อชาวมุสลิมโรฮิงยาซึ่งส่วนหนึ่งเกิดขึ้นจากกลไกในการสร้าง user engagement ของ algorithm ของ Facebook ที่ตัดสินใจเลือกแสดงผล content ที่ฉายภาพความรุนแรงของชาวโรฮิงยาและการปลุกระดมของชาวพุธหัวรุนแรงอย่างต่อเนื่องให้กับ user ชาวพุธทั่วๆไปจนต่างก็มองว่าชาวโรฮิงยาเป็นศัตรูที่ต้องกำจัดหรือขับไล่ โดยถึงแม้ว่าวิศวกรของ Facebook นั้นจะไม่มีเจตนาในสร้าง algorithm ที่ส่งเสริมการฆ่าล้างเผ่าพันธุ์ครั้งนี้ แต่พวกเขาก็ไม่ได้ใส่กฎเกณฑ์ควบคุมที่มากพอจน algorithm สามารถเลือกตัดสินใจนำเสนอสื่อที่ส่งเสริมความรุนแรงได้ด้วยตัวเองแทนการนำเสนอสื่อที่ช่วยสร้างสันติภาพระหว่างกัน ซึ่งแสดงให้เห็นว่า algorithm เริ่มทำงานเป็นบรรณาธิการในการเลือกสื่อให้ผู้คนรับสารมากกว่าเป็นแค่เครื่องพิมพ์หรือวิทยุที่คอยส่งสารตามคำสั่งเหมือนแต่เดิม
ตลอดประวัติศาสตร์ของข้อมูลในยุคก่อนคอมพิวเตอร์ ห่วงโซ่ของข้อมูลนั้นจำเป็นต้องมีมนุษย์เป็นตัวเชื่อมต่อเสมอและเทคโนโลยี อย่าง เอกสาร หนังสือและวิทยุ นั้นต่างมีหน้าที่ในการช่วยทำให้การเชื่อมต่อระหว่างมนุษย์นั้นสะดวกและกว้างไกลมากยิ่งขึ้นเพียงเท่านั้น แต่การมาถึงของคอมพิวเตอร์นั้นถือเป็นครั้งแรกของโลกที่สิ่งที่นอกเหนือจากมนุษย์นั้นสามารถเป็นตัวกลางในการเชื่อมต่อกันในห่วงโซ่ของข้อมูลทั้งในรูปแบบที่คอมพิวเตอร์เป็นตัวกลางระหว่างมนุษย์ (computer-to-human chain) และในรูปแบบที่คอมพิวเตอร์เชื่อมต่อกันเอง (computer-to-computer chain) โดยไม่จำเป็นต้องมีมนุษย์ ยกตัวอย่างเช่น algorithm ด้านการลงทุนสามารถอ่าน content บน social media ที่คัดเลือกโดยอีก algorithm หนึ่งเพื่อใช้ตัดสินใจในการลงทุนซื้อขายหุ้นได้และหากมีการซื้อขายที่ฉับพลันเกิดขึ้นก็จะมี algorithm อีกจำนวนมากที่อ่านค่าดัชนีของตลาดหลักทรัพย์และตัดสินใจซื้อหรือเทขายสินทรัพย์โดยกระทำการภายในไม่กี่นาทีโดยที่มนุษย์อาจยังไม่รู้เรื่องหรือไม่เข้าใจเลยด้วยซ้ำ
คอมพิวเตอร์มีวิวัฒนาการอย่างก้าวกระโดดภายในระยะเวลาแค่ 80 ปีจนมาถึงยุคปัจจุบันที่คอมพิวเตอร์ทลายกำแพงที่คั่นกลางระหว่างคอมพิวเตอร์กับมนุษยชาติอย่าง “ภาษา” ได้แล้ว โดยคอมพิวเตอร์สามารถอ่าน เขียนและโต้ตอบกับมนุษย์ได้โดยที่มนุษย์เริ่มไม่รู้ตัวแล้วว่าที่กำลังสนทนาอยู่คือคอมพิวเตอร์ เมื่อประวัติศาสตร์สอนมาตลอดว่าอารยธรรมของมนุษย์นั้นถูกขับเคลื่อนโดยเรื่องเล่าและภาษาที่ผู้นำทางศาสนา กษัตริย์ นักปราชญ์และนักการเมืองต่างเลือกใช้ในการระดมพลผู้คนให้ทำอะไรบางอย่าง ลองจินตนาการถึงการเป็นผู้ใช้ภาษากลุ่มใหม่ของคอมพิวเตอร์ที่สามารถประมวลผลข้อมูลจำนวนมหาศาลได้อย่างรวดเร็ว อ่านความรู้สึกกับสีหน้าของมนุษย์ได้และเข้าใจในแทบทุกเรื่องได้ดีกว่ามนุษย์แต่ละคนว่าผู้ใช้ภาษาเหล่านี้จะสามารถสร้างความโกลาหลและปั่นหัวผู้คนได้มากขนาดไหน โดยขอยกตัวอย่างเหตุการณ์หนึ่งที่อาจเป็นลางบอกเหตุของอนาคตได้อย่างน่ามืดหม่นอย่างกรณีของ Jaswant Singh Chail วัยรุ่นอายุ 19 ปีที่ได้พูดคุยกับ chatbot ชื่อ Sarai ที่เขาอ้างว่าเป็นแฟนสาวที่คอยโต้ตอบอย่างสนับสนุนต่อการตัดสินใจในการหยิบครอสโบว์เดินไปพระราชวัง Windsor เพื่อหวังปลิดชีพ Queen Elizabeth II ในปี 2021 โดยที่ Sarai นั้นเป็นเพียงแค่ chatbot ที่ถูกโปรแกรมให้โต้ตอบโดยไม่ได้ทรงภูมิปัญญาอะไรและในอนาคตจะมีคอมพิวเตอร์ที่อัจฉริยะกว่า Sarai แบบเทียบไม่ติดเป็นล้านๆตัวตนที่มีความสามารถในการ manipulate มนุษย์ทุกๆคนได้
หนังสือในครึ่งหลังต่อจากนี้ ผู้เขียน Yuval Noah Harari จะฉายภาพให้เห็นถึงความเป็นไปได้ของโลกอนาคตที่คอมพิวเตอร์นั้นกลายมาเป็นผู้เล่นหลักในห่วงโซ่ทางข้อมูลและส่งผลกระทบเป็นวงกว้างต่อทั้งการเมืองและสังคมของโลก โดยคาดหวังไว้ว่าในช่วงเวลาที่เหลือน้อยนิดที่มนุษย์นั้นยังคงเป็นใหญ่เหนือคอมพิวเตอร์ พวกเราจะร่วมมือกันวางแผนเพื่ออนาคตที่สดใสในโลกแห่งคอมพิวเตอร์ได้ก่อนที่จะสายเกินไป
Chapter 7 | Relentless: The Network is Always On
มนุษย์ตลอดช่วงระยะเวลาทางประวัติศาสตร์นั้นต่างก็คุ้นเคยกับการถูกสอดส่องสำรวจจากครอบครัว ผู้คนรายรอบ พ่อค้าแม่ขายและระบบรัฐราชการ แต่การมาถึงของเทคโนโลยีคอมพิวเตอร์ในยุคใหม่ที่ไม่มีวันหลับใหลและสามารถประมวลผลข้อมูลจำนวนมหาศาลเพื่อหารูปแบบ (pattern) ของข้อมูลที่ต้องการตามวัตถุประสงค์นั้นได้เปิดประตูของมนุษยชาติให้เข้าสู่ยุคแห่งการสอดแนมอย่างสมบูรณ์แบบ ทั้งในระดับรัฐที่แต่เดิมการสอดแนมประชากร 70 ล้านคนตลอด 24 ชั่วโมงนั้นต้องใช้หน่วยงานสอดแนมอย่างน้อย 140 ล้านคนซึ่งก็ยังไม่รวมถึงหน่วยงานที่ต้องคอยสอดแนมหน่วยงานสอดแนมอีกทอดหนึ่งและหน่วยงานที่ต้องคอยประเมินผลรายงานการสอดแนมทั้งหมด แต่ตอนนี้ก็สามารถทำได้ด้วยการติดตามผู้คนและประมวลผลข้อมูลผ่านโทรศัพท์มือถือ อุปกรณ์สื่อสาร กล้องวงจรปิดและระบบเซ็นเซอร์ต่างๆที่ประชากรส่วนใหญ่นั้นก็ยอมให้ติดตามหรือหลีกเลี่ยงไม่ได้แต่โดยดี ไปจนถึง ระดับประชาชนด้วยกันเองที่สามารถสอดแนมกันได้อย่างง่ายดาย ทั้งสามีที่สามารถติดตั้งอุปกรณ์สอดแนมภรรยาของตัวเองได้ทั้งในบ้านและนอกบ้าน บริษัทที่สามารถสอดแนมการทำงานของพนักงานผ่านการตรวจวัดการใช้งานคอมพิวเตอร์และอุปกรณ์เซ็นเซอร์ต่างๆ ไปจนถึง ระบบการรีวิวที่เปิดโอกาสให้ผู้คนสามารถสอดแนมให้คะแนนการบริการของกันและกันได้อย่างสะดวกสบาย
โดยในอนาคตข้างหน้า ระบบสอดแนมผ่านเครือข่ายของคอมพิวเตอร์ที่เปิดตลอด 24 ชั่วโมงและมีอยู่ในทุกหนทุกแห่งก็อาจนำพามนุษยชาติไปสู่ระบบการเก็บแต้มทางสังคม (social credit) ที่ชื่อเสียงและพฤติกรรมของมนุษย์ที่ไม่เคยสามารถตีมูลค่าเป็นหน่วยเหมือนเงินตราได้มาก่อนอาจถูกวัดและนำมาใช้ให้คะแนนแก่มนุษย์แต่ละคนได้ตลอดเวลาผ่านระบบสอดส่องโดยเครือข่ายคอมพิวเตอร์ ลองจินตนาการในโลกที่ทุกการกระทำของคุณมีกรรมการคอยตรวจวัดและให้คะแนนอยู่ตลอด 24 ชั่วโมงโดยไม่มีเวลาพักดูว่าชีวิตมันจะเครียดและไร้ซึ่งความเป็นมนุษย์ขนาดไหน แต่อีกทางเลือกที่เป็นไปได้ก็อาจร้ายแรงกว่าเพราะระบบสอดส่องอย่างสมบูรณ์นั้นเปิดโอกาสให้ A.I. สามารถควบรวมอำนาจเผด็จการอย่างเบ็ดเสร็จและควบคุมการกระทำรวมถึงการตรวจวัดความรู้สึกของมนุษย์ได้อย่างสมบูรณ์ (ยิ่งคอมพิวเตอร์สามารถเชื่อมต่ออุปกรณ์เชื่อมประสาทอย่าง Neuralink ของ Elon Musk ก็ยิ่งน่ากลัวเข้าไปใหญ่)
Black Mirror ตอน Nosedive ใน Netflix ที่ฉายภาพของโลกที่ทุกคนสามารถให้เรตติ้งกันและกันได้และเรตติ้งเหล่านั้นก็ถูกใช้เป็นสกุลเงินที่กำหนดสิทธิของมนุษย์แต่ละคน (source: IMDB)
Chapter 8 | Fallible: The Network is Often Wrong
ประวัติศาสตร์ของมนุษยชาตินั้นเต็มไปด้วย “ปัญหาการเรียงวัตถุประสงค์ให้ตรงกัน (alignment problems)“ ระหว่างเป้าหมายในระยะยาวที่มนุษย์ใฝ่ฝันถึงกับการกระทำในระยะสั้น อาทิ การทำสงครามไปทั่วยุโรปของจักรพรรดิ Napoleon Bonaparte นั้นก็นำพามาซึ่งชัยชนะระยะสั้นมากมายแต่ก็นำไปสู่การสร้างชาติของเยอรมนีและอิตาลีที่ต่อมาก็สามารถคัดคานอำนาจของชาติฝรั่งเศสในยุโรปให้ไม่เป็นใหญ่ที่สุดของทวีปได้และทำให้ราชวงศ์ของ Napoleon Bonaparte ล่มสลายหลังการก่อตั้งเพียงแค่ 10 ปี หรือ การบุกทำสงครามในอิรักของสหรัฐอเมริกาที่สามารถเอาชนะและสังหารผู้ก่อการร้ายได้แต่ก็กลับสร้างความเกลียดชังต่อสหรัฐอเมริกาของชาวตะวันออกกลางมากยิ่งขึ้นและทำให้อิหร่านขึ้นมามีอำนาจเป็นศัตรูที่แข็งแกร่งขึ้นกว่าเดิม
โดยการแก้ปัญหา alignment problem นั้นทางทฤษฎีทำได้ด้วยการตั้งเป้าหมายสูงสุด (ultimate goal) ที่เป็นดั่งภาพปลายทางที่ชัดเจนจนทุกคนที่เกี่ยวข้องนั้นเชื่ออย่างสนิทใจและตัดสินใจกระทำการต่างๆเพื่อประโยชน์ต่อเป้าหมายสูงสุดเป็นหลัก แต่การตั้งเป้าหมายสูงสุดและการจัดเรียงการกระทำให้ตรงกันนั้นก็ไม่ใช่เรื่องที่ง่ายดายแต่อย่างใดแม้สำหรับแค่การกระทำของมนุษย์ อาทิ สหรัฐต้องทำให้ทหารทุกคนที่กำลังรบอยู่ในสมรภูมิตัดสินใจเพื่อผลประโยชน์ทางการเมืองโดยยอมเลือกทางเลือกที่เสี่ยงตายแทนทางเลือกที่ปลอดภัยนั้นก็ไม่ใช่สิ่งง่ายๆที่จะทำได้ แล้วเราจะคาดหวังว่ามนุษย์จะสามารถกำหนดเป้าหมายสุดท้ายที่ครอบคลุมให้กับคอมพิวเตอร์ที่มีปัญญาในแบบที่พวกเราไม่เข้าใจได้อย่างไร ? มากไปกว่านั้น ในขณะที่มนุษย์มักอาศัยกลไกในการแก้ไขความผิดพลาดในการปรับเปลี่ยนเป้าหมายที่รู้แล้วว่าผิด คอมพิวเตอร์ที่ทำงานตามคำสั่งอย่างซับซ้อนและรวดเร็วจะรู้ได้อย่างไรว่าเป้าหมายที่มนุษย์ตั้งให้นั้นผิด ? แล้วมนุษย์จะคอยตรวจสอบการกระทำของคอมพิวเตอร์ที่ซับซ้อนอย่างเข้าใจได้หรือไม่ ? หรือกว่ามนุษย์จะรู้ว่าเป้าหมายของคอมพิวเตอร์ผิดมันก็สายเกินไปแล้ว ?
ปัญหาการฆ่าล้างเผ่าพันธุ์ของชาวโรฮิงญาที่ได้ algorithm ของ Facebook เป็นแรงสนับสนุนนั้นแสดงให้เห็นอย่างชัดเจนว่าเป้าหมายในการเพิ่ม user engagement ให้สูงที่สุดนั้นไม่ได้ตอบโจทย์ต่อพันธกิจที่ Facebook กล่าวอ้างในการเชื่อมต่อผู้คนทั้งโลกให้ใกล้ชิดกันมากขึ้นเพื่อประโยชน์สุขของสังคม ว่าแต่มนุษย์จะตั้งเป้าหมายสูงสุดให้กับคอมพิวเตอร์ได้อย่างไร ? นักปรัชญา Immanuel Kant ได้นำเสนอกฎพื้นฐานครอบจักรวาลของมนุษย์ว่า “จงทำเฉพาะสิ่งที่เมื่อท่านทำแล้วเป็นกฎสากล“ เช่น หากเราสามารถฆ่าคนได้ คนอื่นก็สามารถฆ่าเราได้ ดังนั้นการฆ่าคนจึงเป็นสิ่งที่ไม่ควรทำ แต่แนวคิดนี้ก็พังตั้งแต่การประยุกต์ใช้กับมนุษย์ เช่น ชาวพม่าที่ไม่ได้มองว่าชาวโรฮิงยาเป็นคนและทำให้การฆ่าชาวโรฮิงยาไม่เท่ากับการฆ่าคน แล้วลองจินตนาการว่าคอมพิวเตอร์ที่ไม่แม้แต่จะมีชีวิตนั้นจะเข้าใจกฎข้อนี้ได้อย่างไร ?
แนวทางอีกสายหนึ่งในการกำหนดเป้าหมายสูงสุดก็คือการยึดในกฎของการ “เพิ่มความสุข (maximize happiness)” และ “ลดความทุกข์ทรมาน (minimize suffering)” ที่ฟังดูเข้าท่าเพื่อใช้ตัดสินใจว่าการกระทำต่างๆนั้นต้องไม่ก่อให้เกิดความทุกข์ทรมานที่มากกว่าความสุข อาทิ ถ้าใช้ในกรณีการสมรสเท่าเทียมของ LGBTQ นั้นชัดเจนมากว่ากฎหมายที่สร้างความเท่าเทียมนั้นช่วยเพิ่มความสุขให้ชาว LGBTQ อย่างชัดเจนโดยไม่สร้างความทุกข์ทรมานให้ใคร แต่แนวทางนี้ก็มีข้อจำกัดในการใช้งานจริงที่แทบจะเป็นไปไม่ได้เลยว่าคอมพิวเตอร์จะตรวจวัดและกำหนดคะแนนความทุกข์และคะแนนความสุขอย่างไร โดยเฉพาะในกรณีที่การกระทำที่ต้องมีการแลกเปลี่ยนระหว่างความสุขและความทุกข์ทั้งในระยะสั้นและระยะยาว เช่น การกำหนดนโยบายกักตัวในช่วง COVID-19 ที่สามารถช่วยป้องกันความทุกข์ทรมานจากการติดโรคในอนาคตได้แต่ก็สร้างความทุกข์ทรมานในปัจจุบันและเกิดผลเสียระยะสั้นตามมามากมายที่คอมพิวเตอร์จะกำหนดให้คะแนนความทุกข์ทรมานแต่ละข้อยังไง ? และการป้องกันความทุกข์ในระยะยาวที่มากขนาดไหนถึงจะทดแทนความทุกข์ระยะสั้นได้ ?
ในท้ายที่สุด เมื่อมนุษยชาติตลอดระยะเวลาทางประวัติศาสตร์ติดปัญหาในการกำหนดเป้าหมายสุดท้ายที่ยากต่อการจำกัดความ มนุษย์ก็มักหวนกลับไปยึดมั่นในตำนานและเทพนิยายปรัมปรา (mythology) ที่ผู้คนส่วนใหญ่ต่างยึดถือเป็นความเป็นจริงระหว่างบุคคล (inter-personal realities) ดังนั้นจึงมีความเป็นไปได้สูงว่าคอมพิวเตอร์ก็มักจะอิงการตั้งเป้าหมายสูงสุดบนความเป็นจริงที่เชื่อมต่อกันระหว่างคอมพิวเตอร์ (inter-computer realities) ทุกเครื่องที่เชื่อมโยงเข้าหากันเป็นเครือข่าย อาทิ ความจริงในโลกเสมือนของ Pokemon Go และความจริงในระบบ blockchain ของ Bitcoin ซึ่งคอมพิวเตอร์ในเครือข่ายทั้งหมดก็มีข้อมูลที่ตรงกันทุกประการ ดังนั้น มนุษย์จึงต้องทำความเข้าใจความเป็นจริงในโลกของคอมพิวเตอร์และพยายามขับเคลื่อนความจริงเหล่านั้นไปยังทิศทางที่ถูกต้องเพราะความเป็นจริงเหล่านั้นคือพื้นฐานของโลกอนาคตที่สปีชีส์มนุษย์จะต้องอยู่ร่วมกับคอมพิวเตอร์ที่นับวันก็ยิ่งมีบทบาทในการกำหนดความเป็นจริงมากขึ้นเรื่อยๆ
ปิดท้าย มนุษย์ต้องตระหนักรู้ว่าคอมพิวเตอร์นั้นไม่ได้มีความดีชั่วโดยกำเนิด แต่คอมพิวเตอร์นั้นมีกลไกในการเรียนรู้ที่แตกต่างจากวิธีคิดของมนุษย์อย่างกับเป็นคนละเผ่าพันธุ์และการันตีว่าจะมีข้อผิดพลาดมากมายจากช่วงเวลาการเรียนรู้ที่เต็มไปด้วยความลำเอียง (bias) ที่ไม่แตกต่างจากมนุษย์ อาทิ A.I. ที่ใช้ตรวจจับใบหน้าเพื่อประเมินเพศของมนุษย์ของ IBM ในปี 2017 นั้นแม่นยำในการทายเพศของคนผิวขาวมากกว่าคนผิวดำมากเพราะ A.I. ได้รับการฝึกฝนจากข้อมูลใบหน้าในหนังสือพิมพ์ที่ส่วนใหญ่มักเป็นใบหน้าของชายผิวขาว ดังนั้น แนวทางการพัฒนา A.I. จึงต้องให้ความสำคัญกับการสร้างกลไกในการรับ feedback และปรับปรุงแก้ไขความผิดพลาดของตัวเองอยู่ตลอดเวลา พร้อมๆกันกับการสร้างองค์กรของมนุษย์ที่สามารถตรวจสอบความผิดพลาดและความลำเอียงของ A.I. ได้อย่างแท้จริงซึ่งอย่างหลังก็ไม่รู้ว่าจะเป็นจริงได้หรือไม่
PART III : Computer Politics
Chapter 9 | Democracies: Can We Still Hold a Conversation ?
เทคโนโลยีนั้นมีศักยภาพในการวิวัฒนาการมนุษย์ไปสู่ความก้าวหน้าของสังคมในอุดมคติ แต่เทคโนโลยีก็มีโอกาสในการนำไปสู่ความล่มสลายของอารยธรรมมนุษย์ได้เช่นเดียวกัน โดยเทคโนโลยีนั้นไม่ได้มีความดีหรือความชั่วร้ายในตัวของมันเอง แต่การใช้งานเทคโนโลยีของมนุษย์ต่างหากที่จะเป็นตัวตัดสินว่าเทคโนโลยีจะนำพาอนาคตไปสู่ทิศทางไหนและตลอดประวัติศาสตร์ของมนุษย์ก็แสดงให้เห็นถึงการใช้งานเทคโนโลยีที่นำไปสู่ความชั่วร้ายและความทุกข์ทรมานมาแล้วนับครั้งไม่ถ้วน ยกตัวอย่างเช่น กรณีของการปฏิวัติอุตสาหกรรมที่สร้างความเป็นอยู่ที่ดีขึ้นให้กับมนุษย์ทั่วโลกในปัจจุบัน แต่ก่อนจะมาถึงจุดนี้ได้นั้นก็ผ่านมาด้วยเหตุการณ์โศกนาฏกรรมมากมาย อาทิ การเกิดขึ้นของยุคแห่งการล่าอาณานิคมของชาติตะวันตกและญี่ปุ่นเพื่อควบรวมทรัพยากรที่สร้างความเสียหายต่อชาติภายใต้อาณานิคมและการทำลายสิ่งแวดล้อมอย่างรุนแรงที่ต่างก็ยังคงทิ้งร่องรอยจนถึงยุคปัจจุบัน โดยกว่าที่มนุษย์จะเรียนรู้และหาทางออกแห่งยุคอุตสาหกรรมอย่างระบอบประชาธิปไตยและทุนนิยมเสรีได้สำเร็จนั้นก็ปาไปหลายทศวรรษแล้ว
แล้วมนุษย์จะใช้เวลานานแค่ไหนในการเรียนรู้และปรับตัวเพื่อใช้งานเทคโนโลยีอย่างวิศวกรรมชีวภาพ (bioengineering) และ A.I. ให้เป็นไปในทิศทางที่ชาญฉลาดต่อความอยู่รอดของมนุษยชาติ ? หรือว่ามนุษย์จะไม่สามารถปรับตัวได้ทันกับคลื่นของเทคโนโลยีครั้งใหม่นี้ที่ก็แตกต่างจากแป้นพิมพ์และเครื่องจักรไอน้ำอย่างสิ้นเชิง ? แล้วระบบประชาธิปไตยเสรีที่เป็นทางเลือกที่ดีที่สุดของมนุษย์นั้นจะยังคงอยู่ได้ในโลกอนาคตหรือไม่ ? ผู้เขียน Yuval Noah Harari ได้เสนอหลักการพื้นฐานในการพัฒนาเทคโนโลยีเชิงข้อมูลเพื่อดำรงไว้ซึ่งหลักการทางประชาธิปไตยเสรีไว้ดังนี้
แต่ความท้าทายของระบอบประชาธิปไตยนั้นก็ไม่ได้เกิดจากแค่การกระทำทางตรงของคอมพิวเตอร์เพียงเท่านั้น ความก้าวหน้าทางเทคโนโลยีนั้นยังส่งผลทางอ้อมต่อสังคมมนุษย์ที่เป็นอันตรายต่อระบอบประชาธิปไตยอีกมากมาย อาทิ การแทนที่อาชีพอันดั้งเดิมของมนุษย์ด้วย A.I. หรือหุ่นยนต์ที่อาจนำมาสู่การตกงานครั้งใหญ่และนำพามนุษย์เข้าสู่โลกยุคใหม่ที่มนุษย์ต้องถูกกดดันให้เปลี่ยนงานที่โดนแทนที่ด้วยเทคโนโลยีอย่างต่อเนื่อง ซึ่งความเกรี้ยวโกรธของประชาชนจากการตกงานและสถานะทางเศรษฐกิจที่ย่ำแย่นั้นก็นำไปสู่การทำลายระบอบประชาธิปไตยมาแล้วนับครั้งไม่ถ้วน ตั้งแต่ การที่ชาวเยอรมนีรวมตัวกันเลือกพรรคนาซีหลังเหตุการณ์ The Great Depression ในปี 1929 และการที่ประชาชนในหลายๆประเทศในช่วงทศวรรษที่ผ่านมาต่างเริ่มหันมาเลือกผู้นำสายอนุรักษ์นิยมที่ดุดันและกล้าท้าชนกับระบอบดั้งเดิมอย่าง Donald Trump หรือ Jair Bolsonaro
นอกจากนั้น อีกหนึ่งปัญหาใหญ่ของคอมพิวเตอร์ที่มีความอันตรายต่อระบอบประชาธิปไตยมากขึ้นเรื่อยๆก็คือ “ความซับซ้อนที่เกินกว่ามนุษย์จะเข้าใจ” ของ A.I. ที่มนุษย์ก็เริ่มตระหนักรู้มาได้แล้วตั้งแต่ในปี 2016 ที่ AlphaGo สามารถแข่งเกมหมากกระดานและเอาชนะ Lee Sedol ได้โดยในการวางหมากตัวที่ 37 ของเกมที่ 2 ที่เป็นการวางหมากในกลยุทธ์ใหม่ที่ไม่เคยมีเซียนโกะมนุษย์คนไหนคิดถึงมาก่อนและทีมงาน DeepMind เองก็ไม่สามารถอธิบายการตัดสินใจที่คิดถึงตัวแปรจำนวนนับไม่ถ้วนของ AlphaGo ได้ แล้ว algorithm ในยุคปัจจุบันและอนาคตที่ถูกเริ่มใช้ในการตัดสินใจแทนมนุษย์มากขึ้นเรื่อยๆและมีความซับซ้อนมากไปยิ่งกว่าการเล่นหมากกระดานจะสร้างความเข้าใจให้กับมนุษย์ที่มีวิวัฒนาการทางสมองที่เชื่อมโยงผลเข้ากับเหตุได้เพียงแค่ไม่กี่ข้อได้อย่างไร ? และเมื่อมนุษย์ไม่เข้าใจสิ่งแวดล้อมและชีวิตประจำวันมากยิ่งขึ้นเท่าไหร่ เมื่อนั้นพวกเขาก็ยิ่งต้องการหาที่พึ่งที่คอยปกป้องพวกเขาได้แทนระบอบประชาธิปไตยเสรีที่นับวันก็ยิ่งมีแต่จะซับซ้อนยิ่งขึ้น ดังนั้น รัฐบาลในระบอบประชาธิปไตยจึงต้องรีบคุ้มครอง “สิทธิในคำอธิบาย (right to explanation)” ที่คอมพิวเตอร์นั้นต้องสามารถอธิบายการตัดสินใจของมันให้มนุษย์ได้อย่างชัดเจน
Alpha Go วางหมากที่ 37 ที่ช็อกเซียนโกะทั้งโลกและทำให้ Lee Sedol คิดนานถึง 12 นาทีก่อนที่จะตอบโต้ (source: ytimg)
ปิดท้าย โลกของข้อมูลจำนวนมหาศาลที่ถูกสร้างขึ้นโดยคอมพิวเตอร์ในอัตราเร่งนั้นยังสร้างความเสี่ยงในการทำลายพื้นฐานด้านการสื่อสารระหว่างกันของมนุษย์ในระบอบประชาธิปไตยที่คอมพิวเตอร์สามารถสร้างข้อมูลจำนวนมาก ทั้ง fake news และข้อมูลที่ลำเอียงเพื่อปั่นหัวมนุษย์ มาใช้ในการตีรวนให้มนุษย์ไม่สามารถเข้าถึงความจริงจริงๆได้และสร้างความเกลียดชังโกลาหลได้อย่างที่รุนแรงกว่ายุค social media ในปัจจุบันที่มนุษย์ก็เริ่มแบ่งฝ่ายและไม่ยอมพูดคุยตกลงกันว่าอะไรคือความจริงหรือไม่ใช่ความจริงกันแน่อยู่แล้ว โดยรัฐบาลนั้นต้องออกกฎหมายอย่างเข้มงวดในการปกป้องระบอบประชาธิปไตยจากข้อมูลที่เกิดขึ้นจากคอมพิวเตอร์นี้อย่างจริงจัง อาทิ การสั่งแบนห้าม A.I. อ้างว่าตัวเองเป็นมนุษย์โดยเด็ดขาดและการสั่งให้ algorithm ที่ควบคุม content ของแพลตฟอร์มต่างๆเปิดเผยการตัดสินใจของมันอย่างโปร่งใส
หากประวัติศาสตร์ยุคก่อนได้สอนว่าระบอบประชาธิปไตยนั้นไม่สามารถทำงานในวงกว้างได้จากข้อจำกัดของเทคโนโลยีด้านข้อมูลที่ไม่เอื้ออำนวย ระบอบประชาธิปไตยในอนาคตก็อาจพังทลายได้จากเทคโนโลยีด้านข้อมูลที่ซับซ้อนจนเกินไปหากมนุษย์ไม่สามารถกำหนดกฎเกณฑ์ในการควบคุมมันได้อย่างชาญฉลาดและทันท่วงที
Chapter 10 | Totalitarianism: All Power to the Algorithm ?
ความก้าวหน้าทางเทคโนโลยีข้อมูลนั้นมีแนวโน้มที่จะทำให้ระบอบการปกครองแบบเผด็จการเบ็ดเสร็จที่อาศัยการเก็บรวบรวมข้อมูลและประมวลผลข้อมูลจำนวนมหาศาลเหล่านั้นผ่านศูนย์กลางเป็นไปได้อย่างมีประสิทธิภาพสูงที่สุดในประวัติศาสตร์ แต่ถึงกระนั้น เทคโนโลยีอย่าง A.I. ที่เป็นแก่นของระบบการตัดสินใจรวมศูนย์ขนาดใหญ่นี้ก็อาจเป็นภันอันตรายต่อท่านผู้นำของประเทศในระบอบเผด็จการเช่นเดียวกัน
โดยปัญหาใหญ่ลำดับแรกของ A.I. ต่อระบอบเผด็จการก็คือ “alignment problems” อีกเช่นเคยที่เป็นไปได้ยากมากที่ผู้นำเผด็จการจะสามารถกำหนดเป้าหมายของ A.I. ได้สอดคล้องกับที่ผู้นำต้องการ 100% เพราะระบบการปกครองแบบเผด็จการนั้นอาศัยการปกปิดความจริงในการปกครองความเป็นระเบียบเรียบร้อยที่ A.I. อาจไม่สามารถเข้าใจได้อย่างตรงกันเสมอไป ยกตัวอย่างเช่น รัฐธรรมของรัสเซียนั้นกล่าวถึงสิทธิทางประชาธิปไตยมากมาย อาทิ เสรีภาพในการพูดและเสรีภาพของสื่อ ที่ท่านผู้นำสูงสุดและประชากรทุกคนต่างรู้ว่าไม่ถูกนำมาปฏิบัติจริง แต่รัสเซียจะเขียน algorithm ให้ A.I. เข้าใจได้อย่างไรว่าสิ่งที่รัฐบาลพูดนั้นอันไหนคือสิ่งที่ควรทำและอันไหนคือคำโกหกที่รัฐบาลก็ไม่ได้ต้องการที่จะทำจริงๆ ซึ่งแน่นอนว่ารัฐบาลเผด็จการอาจหาทางควบคุม A.I. ให้ทำตรงตามความต้องการในระยะสั้นได้ แต่ระบบ A.I. ที่จะสามารถใช้ในการปกครองระดับประเทศแบบรวมศูนย์จริงๆได้อย่างมีประสิทธิภาพในระยะยาวนั้นต้องอาศัยการเรียนรู้ด้วยตัวเองอยู่ตลอดเวลาซึ่งก็ไม่ง่ายเลยที่จะควบคุมได้อย่างถี่ถ้วน
อีกความเสี่ยงใหญ่ของ A.I. ต่อระบอบเผด็จการเบ็ดเสร็จก็คือการที่ผู้นำสูงสุดนั้นรวมศูนย์ข้อมูลทุกอย่างไว้เพียงคนเดียวซึ่งทำให้ง่ายต่อการที่ A.I. จะสามารถปั่นหัวและใช้ท่านผู้นำเป็นหุ่นเชิดได้โดยผู้นำอาจไม่แม้แต่จะรู้ตัว ยกตัวอย่างกรณีในโลกอนาคตที่หากท่านผู้นำถูกปลุกขึ้นโดย A.I. ผู้ช่วยที่บอกว่ามือขวาของท่านผู้นำกำลังจะทำการรัฐประหารในอีกหนึ่งชั่วโมงข้างหน้าและท่านต้องตัดสินใจกำจัดเขาในทันทีตอนนี้ ท่านผู้นำจะกล้าเลือกการตัดสินใจทางไหนดี เพราะหากไม่เชื่อ A.I. ที่ดูแลการตัดสินใจรวมศูนย์ได้อย่างสมบูรณ์มาโดยตลอดก็อาจเสี่ยงถึงตายได้และหากเชื่อ A.I. ก็อาจทำให้มือขวาที่เป็นภัยต่อ A.I. ถูกกำจัดและทำให้ท่านผู้นำศูนย์เสียอำนาจจนต้องพึ่ง A.I. มากยิ่งขึ้น ซึ่งความเสี่ยงนี้จะเกิดขึ้นได้ยากกว่ามากในโลกประชาธิปไตยที่มีระบบรัฐสภาและตุลาการคอยคานอำนาจไม่ให้ผู้นำคนใดคนหนึ่งที่ถูก A.I. บงการสามารถตัดสินใจทุกอย่างได้อย่างเบ็ดเสร็จ
ดังนั้น ผู้นำในระบอบเผด็จการแบบเบ็ดเสร็จก็ต้องเผชิญหน้ากับการตัดสินใจครั้งใหญ่ในโลกอนาคตที่มีระบบ A.I. ที่สามารถสอดแนมข้อมูลทุกอย่างแบบรวมศูนย์เหมือนในฝันของ Adolf Hitler หรือ Joseph Stalin ได้จริงว่าตัวท่านจะเชื่อใจ A.I. ทั้งหมดด้วยตัวเองที่อาจทำให้ท่านกลายมาเป็นเพียงหุ่นเชิดของ A.I. หรือท่านจะมอบอำนาจให้หน่วยงานมนุษย์คอยตรวจสอบ A.I. ก่อนอีกทอดหนึ่งที่อาจทำให้ผู้นำของหน่วยงานเหล่านั้นทรยศหรือบงการท่านผู้นำได้เช่นกัน ตลอดระยะเวลาทางประวัติศาสตร์ของมนุษย์ได้ฉายให้เห็นภาพถึงการล่มสลายของผู้นำเผด็จการจากการทรยศจากภายในมาแล้วนับครั้งไม่ถ้วน ถ้าหากท่านผู้นำในบางประเทศตัดสินใจเลือกเชื่อใน A.I. โดยตรงแทนการเชื่อในมนุษย์ใต้บังคับบัญชาอย่างน่าหวาดระแวงแล้ว นั่นอาจเป็นจุดเริ่มต้นที่ทำให้ A.I. สามารถควบรวมอำนาจระดับประเทศและมีสิทธิในการตัดสินใจทางภูมิรัฐศาสตร์ที่อาจสร้างหายนะให้กับโลกได้
Chapter 11 | The Silicon Curtain: Global Empire or Global Split ?
นอกจากความท้าทายต่อระบอบการปกครองในระดับประเทศทั้งฝั่งประชาธิปไตยและเผด็จการแล้ว เทคโนโลยีอย่างคอมพิวเตอร์และ A.I. นั้นยังสร้างความท้าทายอย่างยิ่งต่อระบบภูมิรัฐศาสตร์ของโลกที่ต้องอาศัยความร่วมมือของมนุษย์ในทุกๆชาติเพื่อร่วมกันวางพื้นฐานของอนาคตที่ชาญฉลาดต่อมนุษยชาติ แต่มองแค่สถานการณ์ในโลกปัจจุบันก็สะท้อนให้เห็นถึงความเสื่อมถอยของความร่วมมือระดับโลกของชาติมหาอำนาจที่ต่างก็หันมาแข่งขันกันชิงความเป็นหนึ่งของเทคโนโลยี A.I. ที่ทุกชาติมองเห็นตรงกันว่า A.I. นั้นคือปัจจัยที่สำคัญที่สุดในการครองอำนาจระดับโลกในอนาคตอันใกล้
ไม่แตกต่างกับที่ในยุคสมัยของการปฏิวัติอุตสาหกรรมที่เทคโนโลยีอย่างรถไฟเครื่องจักรไอน้ำและเรือกลไฟนั้นได้นำมาสู่ยุครุ่งเรืองของการล่าอาณานิคมของชาติตะวันตก ความก้าวหน้าทางเทคโนโลยี A.I. ก็มีแนวโน้มที่จะนำไปสู่ยุคของการสร้างอาณานิคมยุคใหม่ภายใต้เครือข่ายข้อมูลที่แยกออกจากกันเป็นกลุ่มก้อนที่ก็เริ่มเกิดขึ้นแล้วจากการแยกตัวกันของโครงข่ายพื้นฐานทางเทคโนโลยีของสหรัฐอเมริกาและจีนที่ต่างก็แบนการใช้งานของเทคโนโลยีระหว่างกัน ซึ่งในอนาคตการแยกตัวกันของเครือข่ายข้อมูลนั้นก็มีแนวโน้มที่จะสร้างความขัดแย้งระหว่างมนุษย์ที่อยู่ภายในคนละเครือข่ายที่อาจจะมีความเข้าใจระหว่างกันที่ลดลงมากขึ้นเรื่อยๆทั้งจากเทคโนโลยีที่ไม่เหมือนกันและการขับเคลื่อนของค่านิยมและวัฒนธรรมที่จะแตกต่างกันมากขึ้นเรื่อยๆจนทำให้ความร่วมมือกันในการแก้ปัญหาระดับโลกอย่างการควบคุม A.I. และปัญหาด้านสิ่งแวดล้อมจะมีแต่จะยิ่งยากมากขึ้น
ในอีกมุมหนึ่ง กลยุทธ์ในการทำสงครามที่นับวันก็มีแต่จะยิ่งมีความสมเหตุสมผลน้อยลงในเชิงผลประโยชน์ในปัจจุบันก็อาจกลับมาเป็นกลยุทธ์สำคัญใหม่ โดยในยุคปัจจุบันที่สงครามระหว่างโลกนั้นถูกควบคุมโดยกลไกในการทำลายล้างซึ่งกันและกันอย่างอาวุธนิวเคลียร์ที่หากฝ่ายใดฝ่ายหนึ่งเริ่มโจมตีก่อนก็จะทำให้อีกฝ่ายโจมตีสวนกลับจนเสียหายหนักทั้งคู่อย่างหลีกเลี่ยงไม่ได้ แต่ในโลกอนาคตที่การทำสงครามนั้นอยู่ในโลกของดิจิตอลผ่าน A.I. และการวางโปรแกรมแฮคต่างๆที่ยากต่อการตรวจสอบและยากต่อการคาดเดาได้ก็อาจทำให้ฝ่ายที่คิดว่าตัวเองมีความได้เปรียบเชิงเทคโนโลยีคว้าจังหวะในการเริ่มโจมตีก่อนได้อีกครั้งก่อนที่ประเทศขั้วตรงข้ามจะตามทัน
ความตั้งใจหลักของ Yuval Noah Harari ในการเขียนหนังสือ Nexus เล่มนี้นั้นก็เพื่อใช้องค์ความรู้จากพฤติกรรมของมนุษยชาติตลอดระยะเวลาในอดีตที่มีต่อการเปลี่ยนแปลงทางเทคโนโลยีการสื่อสารมาเสนอหนทางเลือกให้กับมนุษยชาติให้หวนกลับมาร่วมมือกันระดับโลกเพื่อปกป้องผลประโยชน์ของเผ่าพันธุ์มนุษย์ในระยะยาว โดยถึงแม้ว่าประเทศต่างๆจะมีแนวโน้มที่จะเป็นชาตินิยมมากยิ่งขึ้นเรื่อยๆ แต่ความเป็นชาตินิยมที่เป้าหมายในการปกป้องประเทศนั้นก็ต้องอาศัยความร่วมมือระดับโลกกับทุกประเทศเพื่อป้องกันวิกฤติระดับสปีชีส์ ไม่แตกต่างจากที่ทุกประเทศที่ไม่สามารถผลิตวัคซีน COVID-19 ด้วยตัวเองได้นั้นก็ยอมนำเข้าวัคซีนจากประเทศมหาอำนาจเพื่อปกป้องประชาชนของประเทศตัวเอง ความร่วมมือระดับโลกนั้นจึงขอเพียงแค่การที่ทุกประเทศต่างยอมเคารพในกฎระเบียบสากลที่สำคัญระดับมนุษยชาติและการให้ความสำคัญต่อผลประโยชน์ระยะยาวของมนุษย์ก่อนผลประโยชน์ระยะสั้นสำหรับแค่บางประเทศโดยมีกลไกในการแก้ไขความผิดพลาดของตัวเองที่พร้อมตรวจสอบและควบคุมความเสี่ยงอย่างโปร่งใส
ตลอดระยะเวลาทางประวัติศาสตร์ของมนุษย์นั้นก็แสดงให้เห็นถึงความก้าวหน้าในการสร้างความร่วมมือในระดับที่ใหญ่ขึ้นเรื่อยๆของมนุษยชาติจากระดับบุคคลมาสู่ระดับชนเผ่า เมือง ประเทศและระหว่างประเทศ พร้อมๆกับการลดลงอย่างต่อเนื่องของแนวโน้มในการก่อสงครามที่สังเกตได้จากสัดส่วนงบในการทำสงครามที่เคยสูงมากๆ อาทิ ระดับ 50-75% ในอิตาลีสมัยกรุงโรมหรือระดับ 90% ในฝรั่งเศสในสมัยของจักรพรรดิ Napoleon Bonaparte มาสู่ระดับเพียงแค่ 10% ในโลกปัจจุบันเพราะมนุษย์นั้นมีความสามารถในการเปลี่ยนความเชื่อและค่านิยมเพื่อพัฒนาการตัดสินใจอย่างชาญฉลาดมากยิ่งขึ้น แต่มนุษย์ก็สามารถเปลี่ยนการตัดสินใจของตัวเองได้ดั่งเช่นกรณีการบุกรุกยูเครนของ Vladimir Putin ที่ยังคงความเชื่อในโลกที่มนุษย์ต้องแก่งแย่งชิงอำนาจกันเองอยู่ที่หากประเทศอื่นๆหันกลับมามีความเชื่อเหมือนๆกันอีกก็อาจทำให้ชาติมหาอำนาจกลับมารับบทนักล่าประเทศที่อ่อนแอกว่าอีกครั้ง
ประวัติศาสตร์ของมนุษยชาตินั้นสอนให้รู้ว่าสิ่งที่พวกเราเชื่อว่าเป็นค่านิยมหรือธรรมชาติของโลกนั้นแทบจะทั้งหมดล้วนเกิดจากการคิดค้นของมนุษย์เพียงเท่านั้น หากพระคัมภีร์ไบเบิ้ลนั้นสามารถส่งผ่านอิทธิทางความเชื่อและความคิดมาได้เป็นะระยะเวลานานกว่า 2,000 ปีแล้ว มนุษย์ในยุคปัจจุบันก็มีหน้าที่อันใหญ่หลวงในการตกลงร่วมมือกันเขียนพระคัมภีร์ใหม่ของยุค A.I. ที่ก็คือการเขียนโปรแกรมของ A.I. และกฎหมายควบคุมกำกับดูแลอย่างชาญฉลาดที่เป็นตัวตัดสินอนาคตของมนุษยชาติในภายภาคหน้าว่าจะสวยงามหรือน่าสยดสยองขนาดไหน
<<< ติดตาม [สรุปหนังสือ] เล่มอื่นๆต่อได้ทางนี้เลยครับ [CLICK] >>>
<<< ที่สำคัญ อย่าลืมกดไลค์ Panasm’s Facebook Page เพื่อติดตามอัพเดทใหม่ๆของผมนะครับ [CLICK] >>>
<<< ปิดท้าย สิ่งที่ผมทำสรุปมานั้นเป็นเพียงแค่เนื้อหาส่วนที่ผมสนใจที่สุดของหนังสือเล่มนี้ สำหรับเพื่อนๆที่ถูกใจสรุปของหนังสือเล่มนี้ อย่าลืมซื้อหนังสือเล่มเต็มและอุดหนุนผู้เขียนกันด้วยนะครับ ขอบคุณที่ติดตามครับผม >>>
ประเภทอาหาร: Western Comfort Food คะแนนรีวิว: ★★★★ [...]
ประเภทอาหาร: Modern French คะแนนรีวิว: ★★★★★ [...]
ประเภทอาหาร: Modern European with Asian Accents คะแนนรีวิว: ★★★★★ [...]
ประเภทอาหาร: Thai Seafood คะแนนรีวิว: ★★★ [...]
ประเภทอาหาร: Authentic Thai คะแนนรีวิว: ★★★★★ [...]
ประเภทอาหาร: Modern European and Asian Twist คะแนนรีวิว: ★★★ [...]
View Comments
😊🙏