แดนนี่เฮอร์นันเดซบนพยากรณ์และ NS คนขับรถของความก้าวหน้าของ AI
บริษัทต่างๆ ใช้การฝึกอบรมด้านการคำนวณมากกว่า 300,000 เท่าสำหรับระบบ AI ที่ดีที่สุดในปัจจุบันมากกว่าที่เคยใช้ในปี 2555 และนวัตกรรมอัลกอริธึมยังทำให้พวกเขามีประสิทธิภาพมากกว่าเดิมถึง 25 เท่าในงานเดียวกัน
นี่คือผลลัพธ์พาดหัวของเอกสารสองฉบับล่าสุด – AI และ ComputeและAI และประสิทธิภาพ – จาก Foresight Team ที่ OpenAI ในกรณีที่วันนี้ผมได้พูดคุยกับหนึ่งในผู้เขียน, Danny Hernandez ที่เข้าร่วม OpenAI หลังจากที่ช่วยพัฒนาวิธีการพยากรณ์ดีกว่าที่กระตุกและเปิดใจบุญสุนทาน
แดนนี่กับฉันคุยกันว่าจะเข้าใจผลลัพธ์ของทีมอย่างไรและมีความหมายอย่างไร (และไม่ได้หมายความถึง) ว่าเราควรจะคิดอย่างไรเกี่ยวกับความก้าวหน้าของ AI ในอนาคต
การอภิปรายเกี่ยวกับอนาคตของ AI บางครั้งอาจเป็นนามธรรมและเป็นทฤษฎีได้ Danny หวังว่าการให้การวัดผลอย่างเข้มงวดของข้อมูลบางอย่างเกี่ยวกับความก้าวหน้าของ AI จะช่วยให้เราเข้าใจได้ดีขึ้นว่าอะไรเป็นสาเหตุของความก้าวหน้านั้น รวมถึงการโต้เถียงกันทั่วไปเกี่ยวกับอนาคตของ AI ในการทำความเข้าใจร่วมกันในด้านนี้ให้ดียิ่งขึ้น
หากเสียงการวิจัยครั้งนี้น่าสนใจที่คุณอาจจะสนใจที่จะสมัครเข้าร่วมทีมสุขุม OpenAI ของ – พวกเขากำลังจ้างวิศวกรวิจัย
ในการให้สัมภาษณ์ แดนนี่และฉัน (อาร์เดน โคห์เลอร์) ยังได้พูดคุยกันในหัวข้ออื่นๆ มากมาย ได้แก่:
คำถามที่ผู้เชี่ยวชาญจะเชื่อ
เส้นทางสู่การทำงานที่ OpenAI . ของแดนนี่
ประโยชน์ของ “ขอบเขตการตัดสินใจ”
ความสำคัญของกฎของมัวร์สำหรับคนที่ใส่ใจอนาคตในระยะยาว
สิ่งที่ค้นพบของทีม Foresight Team ของ OpenAI อาจบ่งบอกถึงนโยบาย
คำถามที่ว่าความก้าวหน้าในการทำงานของระบบ AI เป็นเชิงเส้นหรือไม่
ทีมความปลอดภัยที่ OpenAI และผู้ที่พวกเขาต้องการจ้าง
แนวคิดหนึ่งในการหาใครสักคนเพื่อเป็นแนวทางในการเรียนรู้ของคุณ
ความสำคัญของความเชี่ยวชาญด้านฮาร์ดแวร์ในการสร้างผลกระทบเชิงบวก
ประเด็นสำคัญ
คำถามที่ผู้เชี่ยวชาญจะเชื่อ
คุณสามารถคิดเกี่ยวกับการทำความเข้าใจผู้เชี่ยวชาญต่างๆ ว่าเป็นความไม่แน่นอนของแบบจำลอง คุณไม่รู้ว่าผู้เชี่ยวชาญคนใดในโลกนี้ถูกต้อง หากคุณสามารถเลือกผู้เชี่ยวชาญที่จะรับฟังในฐานะผู้นำ ที่จะแก้ปัญหาทั้งหมดของคุณได้ ถ้าคุณเป็นแบบ “ฉันฟังผู้เชี่ยวชาญคนไหนในเวลาที่ต่างกัน” แสดงว่าคุณได้แก้ปัญหาความเป็นผู้นำทั้งหมดแล้ว ดังนั้นการประเมินผู้เชี่ยวชาญจึงเป็นปัญหาสำคัญ และถ้าคุณสามารถอธิบายข้อโต้แย้งของพวกเขาได้ แสดงว่าคุณได้เข้าใจมันแล้ว และหลีกเลี่ยงโหมดความล้มเหลวนี้ ในขณะที่คุณสามารถจินตนาการได้ว่ามีผู้เชี่ยวชาญบางคน พวกเขาโต้เถียงกับคุณ คุณอธิบายกลับไม่ได้จริงๆ สำหรับพวกเขา หมายความว่าคุณไม่เข้าใจพวกเขาจริงๆ และหลังจากนั้น คุณจะเสียใจเพราะคุณจะตัดสินใจว่าคุณจะไม่ทำถ้าคุณเข้าใจข้อโต้แย้งของพวกเขาจริงๆ
กฎของมัวร์
แนวโน้มระยะยาวเป็นกฎของมัวร์ ไม่ว่าจะเกิดอะไรขึ้นที่นั่น และนั่นคือสิ่งที่ฉันคิดบ่อยขึ้น และสิ่งที่นักระยะยาวควรสนใจมากกว่า หากคุณเป็นเหมือนนักระยะยาว กฎของมัวร์ก็ยิ่งใหญ่มากในช่วง 20 ถึง 30 ปีข้างหน้า ไม่ว่าจะเกิดอะไรขึ้น แม้ว่าเลขชี้กำลังจะลดลงบ้าง แต่คุณสนใจจริงๆ ว่าเลขชี้กำลังใหม่คืออะไร หรือไม่มีเลขชี้กำลัง
และอาจเป็นไปได้ว่าเมื่อคุณซูมออกในประวัติศาสตร์ของมนุษยชาติในอีกร้อยปีข้างหน้า สิ่งปัจจุบันของเราคือความคลาดเคลื่อน และกฎของมัวร์ก็แค่กลับไปเป็นความเร็วเดิมหรือเร่งความเร็วหรืออะไรก็ตาม แต่ถ้าคุณคิดว่าแนวโน้มการประมวลผลที่น่าสนใจที่สุดคืออะไร มันคือกฎของมัวร์ และนั่นคือแนวโน้มการคำนวณที่น่าสนใจที่สุดในระยะยาว และสิ่งที่เกิดขึ้นส่วนใหญ่ในการคำนวณประเภทต่อไปนี้ หากคุณอายุหกสิบเศษและคุณรู้ว่ากฎของมัวร์จะดำเนินต่อไปเป็นเวลานาน คุณพร้อมที่จะทำนายอินเทอร์เน็ตและพร้อมที่จะทำนายสมาร์ทโฟน และคุณพร้อมที่จะอายุ 30 และ 40 ปี การลงทุนทางวิทยาศาสตร์ขั้นพื้นฐานมาอย่างยาวนานจากการรู้ข้อเท็จจริงแบบนี้ และคุณยังสามารถอยู่ในตำแหน่งนั้นได้ ถ้าคุณคิดว่าคุณรู้ว่าจะเกิดอะไรขึ้นกับกฎของมัวร์
ทีมมองการณ์ไกลที่ OpenAI
ทีม Foresight พยายามทำความเข้าใจวิทยาศาสตร์ที่เป็นพื้นฐานของแมชชีนเลิร์นนิงและแนวโน้มมหภาคใน ML และคุณอาจคิดว่ามันเป็นการพยายามแจ้งข้อมูลในการตัดสินใจเกี่ยวกับเรื่องนี้ สิ่งนี้ควรแจ้งวาระการวิจัย ควรแจ้งว่าผู้คนคิดอย่างไรกับการให้ข้อมูลแก่ผู้กำหนดนโยบาย เป็นข้อมูลให้กับผู้ที่กำลังคิดเกี่ยวกับ AI หรือไม่ เป็นข้อมูลให้กับผู้คนในอุตสาหกรรม แต่คุณอาจคิดว่ามันเป็นแค่การพยายามทำให้เคร่งครัดจริงๆ ซึ่งก็เหมือนกับวิธีคิดอีกอย่างหนึ่ง เหมือนกับที่นักฟิสิกส์เก่าและนักฟิสิกส์ส่วนใหญ่ต้องการจะเข้าใจสิ่งต่างๆ
ความเชี่ยวชาญด้านฮาร์ดแวร์
ฉันคิดว่าความเชี่ยวชาญด้านฮาร์ดแวร์นั้นคุ้มค่าไม่น้อย ตัวอย่างเช่น คนประเภทที่ฉันสนใจมากที่สุดในการพยายามคาดการณ์ที่ดีเกี่ยวกับกฎของมัวร์และแนวโน้มอื่นๆ คือคนที่สร้างชิปมาระยะหนึ่งแล้วหรือทำงานสร้างชิปมาระยะหนึ่งแล้ว . ฉันคิดว่ามีคนไม่มากนัก ฉันไม่เคยเห็นใครซักคนจากภูมิหลังนั้นที่ทำงานด้านนโยบาย แต่ฉันเดาว่าพวกเขาอาจมีประโยชน์มากในบางครั้ง และมันสมเหตุสมผลที่จะลองเริ่มต้นตอนนี้โดยคำนึงถึงสิ่งนั้นในใจ แต่นั่นเป็นการเก็งกำไรสวย ฉันรู้เรื่องนี้น้อยกว่าประเภทการพยากรณ์ ฉันคิดว่าการคาดการณ์ฮาร์ดแวร์นั้นน่าสนใจมาก
รับความแม่นยำเกี่ยวกับความเชื่อของคุณ
หากคุณเชื่อว่าความก้าวหน้าของ AI นั้นรวดเร็ว ความก้าวหน้าจะเป็นอย่างไรที่จะทำให้คุณเชื่อได้ว่าช้า วาดภาพห้าปีต่อจากนี้ ความคืบหน้าช้ามีลักษณะอย่างไรสำหรับคุณ และตอนนี้คุณก็แบบ “ใช่แล้ว ความคืบหน้าช้าจริงๆ” และสิ่งที่อาจเกิดขึ้นได้จะทำให้คุณเชื่อว่ามันเร็วจริงๆ แต่คุณสามารถระบุสิ่งที่จะอัปเดตคุณให้ชัดเจนสำหรับตัวคุณเองและผู้อื่นได้ และสำหรับการตัดสินใจครั้งใหญ่ โดยทั่วไปแล้วสิ่งนี้จะคุ้มค่า
การลงทุนในนวัตกรรมเพื่ออนาคตของเศรษฐกิจเป็นประเด็นหลักของงบประมาณสัปดาห์นี้ Hammond เน้นย้ำถึงประโยชน์ทางเศรษฐกิจของนวัตกรรม โดย AI คาดการณ์ว่าจะเพิ่มประสิทธิภาพการทำงานได้ถึง 30% ในบางอุตสาหกรรม และเพิ่ม GDP ได้ถึง 10% ภายในปี 2030 ยุทธศาสตร์อุตสาหกรรมที่จะเกิดขึ้นของรัฐบาลจะเน้นการลงทุนภาครัฐในด้านที่สำคัญสำหรับนวัตกรรม เช่น การวิจัยและ การพัฒนาและการสื่อสารดิจิทัล
ตามคำมั่นสัญญาล่าสุดของนายกรัฐมนตรีในการลงทุนในภาคเทคโนโลยีของสหราชอาณาจักร เราคาดว่าจะให้ความสำคัญกับนวัตกรรมในงบประมาณของสัปดาห์นี้ เรายินดีต้อนรับเงินทุนเพิ่มเติมสำหรับการพัฒนา AI ในสหราชอาณาจักร แต่ 75 ล้าน£คำมั่นสัญญาที่มีแนวโน้มที่จะแคระโดยประเทศอื่น ๆ กระแทกที่จะเป็นผู้นำระดับโลกใน AI เช่นประเทศจีนและแคนาดา
สหราชอาณาจักรมาจากจุดแข็งในการแข่งขันเพื่อพัฒนาปัญญาประดิษฐ์ที่ดีที่สุดในโลกเพราะเรามีมหาวิทยาลัยวิจัยระดับโลก ทักษะที่หลากหลาย และตลาดทุนที่ยืดหยุ่น สิ่งเหล่านี้ทำให้สหราชอาณาจักรเป็นหนึ่งในสถานที่ที่ดีที่สุดในโลกในการเริ่มต้นธุรกิจและจ้างผู้มีความสามารถ เพื่อให้สามารถแข่งขันได้ รัฐบาลจำเป็นต้องลงทุนและลงทุนใน AI มากขึ้น
เรายินดีให้ความสำคัญงบประมาณในการลงทุนในทักษะดิจิตอลและทุนมนุษย์ การสร้างกลุ่มผู้เชี่ยวชาญที่ใหญ่ขึ้นและสมบูรณ์ยิ่งขึ้นเกี่ยวกับ AI เป็นการลงทุนที่ยอดเยี่ยม จะต้องเสริมด้วยความพยายามที่เกี่ยวข้องเพื่อให้แน่ใจว่าสหราชอาณาจักรได้รับประโยชน์สูงสุดจากการลงทุนนอกเหนือจากช่วงชีวิตของปริญญาเอกและทุน เราคาดหวังว่านักศึกษาปริญญาเอก 450 คนจะมีความสามารถระดับนานาชาติที่โดดเด่นและเราหวังว่าพวกเขาจะมีแรงจูงใจที่จะอยู่ในสหราชอาณาจักร นอกจากนี้เรายังต้องการเห็นโอกาสที่ดีกว่าสำหรับปริญญาเอกที่เพิ่งสร้างใหม่ในการทำงานให้กับมหาวิทยาลัยและรัฐบาลของสหราชอาณาจักร และไม่เพียงแต่สำหรับบริษัทเทคโนโลยีที่ร่ำรวยที่สุดในสหราชอาณาจักรและต่างประเทศ
โดยเฉพาะอย่างยิ่งด้วยนโยบายติดตามผลที่ถูกต้อง ทุนใหม่และตำแหน่งปริญญาเอกที่สร้างขึ้นมีแนวโน้มที่จะให้ผลตอบแทนในระยะยาวมากกว่าการลงทุนในบริษัทหรือเทคโนโลยีเฉพาะ เช่น รถยนต์ไร้คนขับ Hammond ให้ความสำคัญกับรถยนต์ไร้คนขับเป็นอย่างมาก เนื่องจากมีการใช้งาน AI และการเรียนรู้ของเครื่องจักรอีกมากมาย ซึ่งสหราชอาณาจักรมีสภาพการเริ่มต้นที่ดีกว่า ในอนาคตข้างหน้า รัฐบาลจะมองหาพื้นที่ที่สหราชอาณาจักรมีความได้เปรียบเชิงเปรียบเทียบ เช่น แมชชีนเลิร์นนิงในการดูแลสุขภาพ หรือการประยุกต์ใช้ในด้านการเกษตรเป็นอย่างดี การเน้นที่รถยนต์ไร้คนขับอาจดึงดูดจิตวิญญาณ แต่ก็มีอีกหลายสิ่งที่น่าสนใจเกิดขึ้นในอุตสาหกรรมเทคโนโลยีและ R&D ของสหราชอาณาจักรที่เท่าเทียมกัน (หรือมากกว่า) ที่สมควรได้รับเงินทุนจากรัฐบาล
สุดท้ายเรายินดีต้อนรับการประกาศของศูนย์ครั้งแรกของโลกสำหรับข้อมูลจริยธรรมและนวัตกรรม ประเด็นด้านจริยธรรมเกี่ยวกับ AI และเทคโนโลยีใหม่อื่น ๆ เป็นคำถามที่ใหญ่ที่สุดที่มนุษยชาติกำลังเผชิญอยู่ในปัจจุบัน และเป็นการดีสำหรับสหราชอาณาจักรที่จะเป็นผู้นำในการแก้ไขปัญหาเหล่านี้ เราได้พูดถึงความสำคัญของจริยธรรมในการตอบสนองต่อการทบทวน AI ของรัฐบาล โดยเราแย้งว่ากรอบจริยธรรมและระเบียบข้อบังคับสำหรับ AI นั้นมีความสำคัญ หาก AI จะเป็นพลังที่ดีในสังคม
ปัจจุบันสหราชอาณาจักรอยู่ในตำแหน่งที่ดีในฐานะผู้นำระดับโลกด้าน AI การรับทราบถึงความสำคัญของเทคโนโลยีที่เป็นนวัตกรรม เช่น AI สำหรับอนาคตของเศรษฐกิจของเราตามงบประมาณนี้เป็นขั้นตอนที่สำคัญ เพื่อให้แน่ใจว่าสหราชอาณาจักรยังคงเป็นผู้นำในอนาคต รัฐบาลจะต้องรักษาและกระชับความมุ่งมั่นต่อ AI
หากมีสิ่งใดที่ประวัติศาสตร์ได้สอนเรา ก็คือผู้คนไม่ลำเอียง การเหยียดเชื้อชาติ การกีดกันกีดกันทางเพศ และปิตาธิปไตยแบบต่างเพศเกิดขึ้นในสถาบัน องค์กร และชุมชนของเรา เพื่ออ้างถึงนักเคลื่อนไหวทางสังคมคนหนึ่ง “อคติดูเหมือนจะอยู่ในอากาศที่เราหายใจเข้าไป” เป็นเพราะความเป็นจริงเหล่านี้ที่ผู้คน โดยเฉพาะอย่างยิ่งคนชายขอบ ยังคงวิพากษ์วิจารณ์สถาบันและโครงสร้าง เรารู้ว่าการตัดสินใจของมนุษย์ได้รับผลกระทบจากอคติโดยนัยและชัดแจ้งไม่ใช่แค่ในประวัติศาสตร์เท่านั้น แต่ยังรวมถึงทุกวันนี้ด้วย
การศึกษาได้แสดงให้เห็นซ้ำแล้วซ้ำอีกว่ามนุษย์ทำให้การตัดสินใจขึ้นอยู่กับสัญชาตญาณของความผิดพลาด ผู้คนถูกกีดกันจากการให้ความเห็นที่ไม่เห็นด้วยเนื่องจากกลัวว่าจะทำให้การทำงานร่วมกันของกลุ่มไม่พอใจ การตัดสินของมนุษย์เต็มไปด้วยการเหมารวมและอคติ – อุบัติเหตุของผู้ท้าชิงเป็นตัวอย่างของการตัดสินใจที่ไม่ดีที่การคิดแบบกลุ่มมักนำไปสู่ มันเป็นคำตอบโดยตรงสำหรับความผิดพลาดเหล่านี้ของวิจารณญาณของมนุษย์ที่มีสาขาของการตัดสินใจตามหลักฐานเศรษฐศาสตร์พฤติกรรมและจิตวิทยาพฤติกรรมเป็นพาหะ
[NPC4]การเพิ่มขึ้นของอัลกอริธึมอาจดูเหมือนเป็นวิธีที่น่าสนใจในการหลีกเลี่ยงการตัดสินใจที่ไม่เหมาะสมที่บางครั้งมนุษย์ทำ เครื่องมือในการตัดสินใจแบบอัลกอริทึมใช้ข้อมูลจำนวนมากเพื่อสรุปผลและให้คำแนะนำ ในปี 2010 Andrew McAfee ได้ประกาศเครื่องมือในการตัดสินใจเกี่ยวกับอัลกอริธึมว่าเป็นอนาคตของการตัดสินใจในบทความ Harvard Business Review การประยุกต์ใช้งานของอัลกอริทึมการตัดสินใจในด้านของการฉายรังสีและการแพทย์คาดการณ์อยู่แล้วนำผลลัพธ์ที่ผู้ป่วยดีขึ้น อัลกอริธึมยังได้รับความสนใจอย่างกว้างขวางในด้านการตลาด การตรวจสอบ และการตรวจจับการฉ้อโกง ด้วยผลลัพธ์ที่หลากหลาย
อาจมีคนคาดหวังว่าอัลกอริธึมจะถูกมองว่าเป็นผู้ชี้ขาดที่เป็นกลางในข้อพิพาท หรือเป็นผู้จัดหางานที่เป็นกลางมากขึ้น แต่พวกเขาไม่ได้ นักวิจัยตั้งข้อสังเกตว่าผู้คนอาศัยการตัดสินของมนุษย์ แม้จะทราบถึงข้อบกพร่องของการตัดสินใจของมนุษย์ก็ตาม ข้อสังเกตเหล่านี้จะมีความสำคัญสำหรับรัฐบาล เนื่องจากภาครัฐต้องการใช้ปัญญาประดิษฐ์ (AI) ในการปรับปรุงการให้บริการสาธารณะ ผู้คนไม่ได้ตื่นตระหนกเป็นพิเศษกับการใช้เทคโนโลยีในรูปแบบของแพลตฟอร์มออนไลน์เช่นภาษีเทอร์โบหรือแดชบอร์ด ปัญหามักเกิดขึ้นเมื่อใช้อัลกอริธึมในการตัดสินซึ่งส่งผลกระทบอย่างมากต่อชีวิตของประชาชน เช่น การพิจารณาโทษอาชญากร หรือตัดสินใจว่าใครควรได้รับเงินสวัสดิการ เครื่องจักรมีความชาญฉลาดมากขึ้นเรื่อยๆ และสามารถให้การตัดสินที่แม่นยำและชาญฉลาดมากขึ้น แต่ดูเหมือนว่ามนุษย์ยังคงไว้วางใจเพื่อนมนุษย์ในขอบเขตของการตัดสินใจบางอย่าง
เราอาจไม่เข้าใจกระบวนการคิดภายในของมนุษย์เสมอไป แต่เมื่อมีคนทำผิดพลาด คุณสามารถถามพวกเขาว่าทำไม และอาจถึงกับท้าทายการตัดสินใจในกระบวนการอุทธรณ์อย่างเป็นทางการ ในทางตรงกันข้าม เครื่องจักรทำการตัดสินใจที่มักจะอยู่นอกขอบเขตของทั้งเจ้าหน้าที่ของรัฐและพลเมืองทั่วไป ความทึบนี้อาจสร้างความไม่ไว้วางใจในผลลัพธ์ของการตัดสินใจด้วยอัลกอริธึม การมีส่วนร่วมของมนุษย์ในการตัดสินใจสามารถรู้สึกยุติธรรมมากขึ้น เนื่องจากผู้คนได้รับสิทธิ์ในการมีส่วนร่วมในกระบวนการ และเข้าใจถึงพื้นฐานของการตัดสินใจ
รัฐบาลควรคิดเกี่ยวกับวิธีการทำให้แน่ใจว่านักพัฒนาระบบอัลกอริธึมยังคงเปิดกว้างเกี่ยวกับวิธีการทำงานของเครื่องมือเหล่านี้ และนักพัฒนาจะต้องรับผิดชอบต่อผลลัพธ์ของการตัดสินใจโดยใช้ข้อมูลอัลกอริธึม โดยเฉพาะอย่างยิ่งในกรณีที่ระบบ AI ซับซ้อนจนแม้แต่ผู้ที่มีมุมมองโดยรวมก็ไม่สามารถอธิบายความล้มเหลวและความสำเร็จของระบบได้ รัฐบาลจะจัดการกับคำถามเหล่านี้อย่างไรและอย่างไร มีแนวโน้มที่จะกำหนดว่าการนำ AI ไปใช้ในรัฐบาลจะประสบความสำเร็จเพียงใด และประชาชนจะมองว่าสิ่งนี้ถูกมองว่าชอบด้วยกฎหมายหรือไม่
ในการสัมภาษณ์วันนี้ Ajeya Cotra นักวิเคราะห์วิจัยอาวุโสของ Open Philanthropy อธิบายว่าทำไมการทดลองทางความคิดจากกลุ่มปรัชญาที่รู้จักกันในชื่อ ‘การให้เหตุผลแบบมานุษยวิทยา’ จึงมีความเกี่ยวข้องในการหาว่าเราควรชี้นำการบริจาคเพื่อการกุศลของเราไปที่ใด
นักคิดบางคนทั้งภายในและภายนอก Open Philanthropy เชื่อว่าการบริจาคเพื่อการกุศลควรได้รับคำแนะนำจาก’ระยะยาว’ซึ่งเป็นแนวคิดที่เราสามารถทำได้ดีที่สุดหากเรามุ่งเน้นที่ผลกระทบจากการกระทำของเราที่มีต่ออนาคตในระยะยาวเป็นหลัก
Ajeya คิดว่าเพื่อให้แนวคิดนั้นสมเหตุสมผล จำเป็นต้องมีโอกาสที่ดีที่เราสามารถชำระดาวเคราะห์ดวงอื่นและระบบสุริยะและสร้างสังคมที่มีขนาดใหญ่มากเมื่อเทียบกับสิ่งที่เป็นไปได้บนโลกและด้วยความสามารถที่กระจายออกไป เพื่อป้องกันตนเองจากการสูญพันธุ์เป็นเวลานาน
แต่ลองนึกภาพว่ามนุษยชาติมีอนาคตที่เป็นไปได้สองทางข้างหน้า: ไม่ว่าเราจะมีอนาคตที่ใหญ่โตเช่นนั้น ซึ่งท้ายที่สุดแล้วมีคนนับล้านล้านคน หรือเราจะกำจัดตัวเองในไม่ช้า ดังนั้นจึงมั่นใจได้ว่ามีเพียงรอบเดียวเท่านั้น 100 พันล้านคนเคยมีชีวิตอยู่
หากในที่สุดจะมีมนุษย์ 1,000 ล้านล้าน เราควรคิดอย่างไรเกี่ยวกับข้อเท็จจริงที่ว่าเราพบว่าตัวเองยังอยู่ในช่วงเริ่มต้นของประวัติศาสตร์ การเป็นมนุษย์ 1 แสนล้านคนแรกอย่างเรานั้น เท่ากับการเดินออกไปข้างนอกและเห็นกล่องของคุณ 3 ตัว สงสัย! หากอนาคตจะมีผู้คนมากมายหลายล้านล้าน โอกาสที่พวกเราจะปรากฏตัวเร็วอย่างน่าประหลาดนั้นต่ำมากจริงๆ
หากเรายอมรับการเปรียบเทียบนี้ บางทีเราอาจมั่นใจได้ว่ามนุษยชาติมีความเสี่ยงสูงที่จะสูญพันธุ์โดยอาศัยสิ่งที่เรียกว่า ‘ ข้อโต้แย้งวันโลกาวินาศ ‘ เพียงอย่างเดียว
หากเป็นเรื่องจริง บางทีเราควรใส่ทรัพยากรของเราให้มากขึ้นเพื่อหลีกเลี่ยงภัยคุกคามการสูญพันธุ์ที่เห็นได้ชัด เช่น สงครามนิวเคลียร์และการระบาดใหญ่ แต่ในทางกลับกัน การโต้แย้งอาจแสดงให้เห็นว่าเราไม่น่าจะบรรลุอนาคตที่ยาวนานและมั่นคงได้อย่างไม่น่าเชื่อ ไม่ว่าเราจะทำอะไร และเราควรจะลืมในระยะยาว และมุ่งความสนใจไปที่ที่นี่และตอนนี้แทน
[NPC5]มีนักวิจารณ์หลายคนเกี่ยวกับ ‘การโต้แย้งวันโลกาวินาศ’ ตามทฤษฎีนี้ และอาจเป็นไปได้ว่ามันไม่ได้ผลตามหลักเหตุผล นี่คือเหตุผลที่ Ajeya ใช้เวลาในการสืบสวนเรื่องนี้ โดยมีเป้าหมายในการมอบเงินช่วยเหลือเพื่อการกุศลที่ดีขึ้นในท้ายที่สุด
ในการสนทนานี้ Ajeya และ Rob พูดคุยถึงทั้งข้อโต้แย้งในวันโลกาวินาศและความท้าทายที่ Open Phil เผชิญกับความสมดุลระหว่างการให้ความสำคัญกับแนวคิดใหญ่ๆ อย่างจริงจัง กับการไม่เข้าไปยุ่งเกี่ยวกับข้อโต้แย้งเชิงปรัชญาที่อาจกลายเป็นการเห่าผิดต้นไม้โดยสิ้นเชิง