EP25 - The Gorilla Problem

“The Gorilla Problem” ถ้าวันหนึ่ง AI ทำทุกอย่างแทนเราได้หมด นั่นอาจเป็นจุดจบของอารยธรรมมนุษย์ พวกเราเอาไงดี ยั๊งงง 555+

เมื่อคืนแอดนั่งดูสารคดีสั้นของ Bloomberg Originals ชื่อตอน “ความหมายที่แท้จริงของ AI สำหรับมนุษย์” มี Prof. Hannah Fry เป็น Host ดำเนินรายการ สนุกมากกก เหมือนดูหนังเลย

สรุปไฮไลท์สำคัญจากสารคดีนี้ เปิดเส้นทางสู่ AGI แอดรัก อ. Hannah

สิบล้านปีก่อน มีลิง Gorilla สายพันธุ์หนึ่งกำเนิดขึ้นมาด้วยความบังเอิญ และค่อยๆวิวัฒนาการมาเป็น Homo Sapiens มนุษย์ที่ฉลาดกว่าสิ่งมีชีวิตอื่นๆบนโลกนี้

มนุษย์ทำให้เกิดการสูญพันธ์ุของสิ่งมีชีวิตหลาย Species บนโลก ยิ่งเราฉลาดขึ้นเท่าไหร่ หลายสิ่งยิ่งโดนทำลายมากขึ้นเท่านั้น กลัวแล้ว 555+

นักวิจัย AI เรียกปัญหานี้ว่า "The Gorilla Problem" เมื่อสิ่งมีชีวิตบางสายพันธุ์ที่ฉลาดกว่ากลายเป็นภัยต่อสิ่งมีชีวิตอื่นๆ

ตั้งแต่ OpenAI เปิดตัว ChatGPT ในเดือน พ.ย. 2022 เทคโนโลยี AI ค่อยๆกลายเป็น “Existential Threat” สำหรับมนุษย์ ที่สร้างขึ้นมาโดยมนุษย์เอง อ้าว 555+

ความฝันสูงสุดของนักวิจัย AI คือการไปให้ถึง “AGI” หรือ Artificial General Intelligence เครื่องจักรที่สามารถทำงานทุกอย่างได้เหมือนกับมนุษย์คนหนึ่ง

สัปดาห์ที่แล้ว OpenAI เพิ่งเปิดตัวโมเดลภาษาเวอร์ชันใหม่ “o1” ที่เคลมว่าสามารถคิดก่อนตอบคำถามเราได้ “Thinking through problems before they respond.”

โมเดล AI ในยุคต่อไปจะเริ่มมี Quality หลายอย่างที่ใกล้กับมนุษย์มากขึ้น เช่น Thinking, Reasoning และ Imagining ถ้าเราคิดก่อนตอบได้ โมเดลก็ควรจะทำได้แบบเดียวกัน

อีกหนึ่งความท้าทายของการสร้าง AI คือการอธิบายคำว่า “Intelligence” ทุกวันนี้เรายังเถียงกันอยู่เลยว่าสิ่งนี้คืออะไร แถมความรู้เกี่ยวกับสมองพวกเรายังจำกัดมากๆ

หรือจะบอกว่า มนุษย์พยายามจะเข้าใจทุกอย่าง แต่เรายังไม่รู้จัก “สมอง” ตัวเองเลย ยั๊งงง 555+

Intelligence ของมนุษย์และเอไอแตกต่างกันอย่างสิ้นเชิง AI ไม่ใช่ “Replica” หรือร่างก๊อปปี้ของสมองแน่ๆ ChatGPT พูดภาษาเราได้ แต่ไม่ได้แปลว่ามันจะเข้าใจภาษาได้แบบเราจริงๆ

Hannah บอกว่าถ้า AI จะคิดและทำได้เหมือนเรา มันต้องมีความสามารถสามอย่างต่อไปนี้

1. มีที่สำหรับเก็บความรู้ และประมวลผล (ในแง่ Hardware อันนี้คือ CPU + Memory/ Storage)
2. สามารถแก้ปัญหายากๆได้ Hannah ถามขำๆว่า “ยาก” แปลว่าอะไรก่อน 555+
3. เรียนรู้ มีเหตุผล เข้าใจและตอบสนองกับสิ่งแวดล้อมรอบตัวได้

จากข้อ 10.3 ตอนนี้นักวิจัยพยายามจะเอา AI ออกมาใช้งานในชีวิตจริง ด้วยการสร้างร่างให้กับมัน “Embodied AI” เข้าไปอยู่ในร่างหุ่นยนต์

บริษัทเทคเจ้าใหญ่ๆอย่าง Google, Microsoft, Apple ใช้เงินลงทุนมหาศาล มีแนวโน้มว่าจะเพิ่มขึ้นทุกปีเพื่อพัฒนา AI ให้เก่งขึ้นเรื่อยๆ เงินลงทุนส่วนนี้ใกล้จะแซงหน้างานวิจัยวิทยาศาสตร์พื้นฐานของโลกแล้ว

คาดการณ์กันว่าผลประโยชน์ที่จะได้จากการสร้าง AGI จะมีมูลค่ามากกว่า 1 ล้านล้านล้าน USD (10^15) โหดมาก ทุกคนแข่งกันเพื่อผลประโยชน์นี้ Incentive มันช่างรุนแรงเหลือเกิน

“ถ้าวันหนึ่ง AI ทำแทนเราได้ทุกอย่าง มนุษย์อาจไม่เหลือแรงกระตุ้นที่อยากจะทำอะไรอีก ผมคิดว่านั่นคือจุดจบของอารยธรรมมนุษย์” - Stuart Russell

แต่ก็มีนักวิจัยอีกหลายคนที่ไม่เห็นด้วยกับ อ. Russell หลายคนยังเชื่อว่ากว่าจะไปถึง AGI คงต้องใช้เวลาอีกหลายสิบปี หรืออาจจะไม่มีวันเป็นไปได้เลยด้วย

เงื่อนไขสำคัญที่จะปลดล็อค AGI คือความรู้และความเข้าใจ “สมอง” ของพวกเราอย่างถ่องแท้ ซึ่ง Progress เรื่องนี้ในปัจจุบันอยู่ที่ประมาณ 0.2% (จากร้อย) อ้าว 555+

Edward Boyden นักวิจัยของ MIT เล่าให้ Hannah ฟังเกี่ยวกับโปรเจ็ค “Digital Brain Maps” ด้วยความเชื่อว่า เราจะเข้าใจอะไรสักอย่างจริงๆตอนเราสร้างแผนที่ของสิ่งนั้นได้ สมองก็เช่นกัน

เทคโนโลยีที่เราใช้สร้างแผนที่ในปัจจุบัน สามารถทำได้กับสมองเล็กๆของหนอน C. Elegans Worm ที่มีประมาณ 302 นิวรอนเท่านั้น

ก้าวต่อไปคือการ Scale เทคโนโลยีแผนที่นี้มาวิเคราะห์สมองหนูที่มีประมาณ 100 ล้านนิวรอน ก่อนนำมาใช้ Map สมองมนุษย์ที่มีประมาณหนึ่งแสนล้านนิวรอน คอมต้องแรงขนาดไหน 555+

Ilya Sutskever ผู้สร้าง ChatGPT เคยให้สัมภาษณ์ว่า AGI เวอร์ชันแรกของโลกน่าจะต้องใช้พลังงานพอๆกับ 10 ล้านครัวเรือนเลยทีเดียว

วันที่เราสามารถสร้างแผนที่ที่สมบูรณ์ของสมองมนุษย์ได้เมื่อไหร่ AGI อาจจะเป็นจริงได้วันนั้นเช่นกัน แต่ Hannah คิดว่า “น่าจะอีกนานนนน” เย้

บทสรุปของวีดีโอนี้บอกว่าสมองมนุษย์คือระบบที่มีความซับซ้อนที่สุดในโลก

ความท้าทายที่ยากที่สุดของการสร้าง True Intelligence (AGI) คือการรู้จักและเข้าใจสมองของพวกเราเอง

แอดนึกถึง Stoic Quote ของ Publilius Syrus “Would you have a great empire? Rule over yourself.” อยากมีอาณาจักรที่ยิ่งใหญ่ ต้องเริ่มจากการปกครองตนเอง

ถ้าวันนี้มีใครบอกว่า “AI จะมาแทนที่เราได้” คำกล่าวนี้ยังเป็นได้แค่ความฝันเท่านั้น .. ตื่น! ยั๊งงง 555+

ดูสารคดีนี้แบบเต็มๆ 24:01 นาทีได้ที่ช่อง Bloomberg Originals ควรค่าแก่การรับชมมากๆ คุ้มค่าเน็ต ลุยคร้าบทุกคน

ได้เขียนเรื่อง AI มาเดือนหนึ่งพอดี ต้องปัดฝุ่นหน่อย เย้ 555+ หนังสือ Hello World ของ อ. Hannah เขียนอธิบายเรื่อง Algorithms อ่านสนุกมาก เพื่อนๆที่สนใจเรื่องนี้ แนะนำเลยค้าบ

PodDash - One Lesson At A Time 💯