Get in my Think Art.

AI Alignment Podcast: ความไม่แน่นอนทางศีลธรรมและเส้นทางสู่ AI Alignment กับ William MacAskill

AI Alignment Podcast: ความไม่แน่นอนทางศีลธรรมและเส้นทางสู่ AI Alignment กับ William MacAskill

AI Alignment Podcast: ความไม่แน่นอนทางศีลธรรมและเส้นทางสู่ AI Alignment กับ William MacAskill

jumbo jili

เราจะก้าวหน้าในการจัดตำแหน่ง AI ได้อย่างไรเนื่องจากความไม่แน่นอนทางศีลธรรม? อะไรคือวิธีในอุดมคติในการแก้ไขระบบค่านิยมที่ขัดแย้งกันและมุมมองด้านศีลธรรมระหว่างบุคคล? เราควรดำเนินการเกี่ยวกับการจัดตำแหน่ง AI อย่างไรเนื่องจากเราไม่แน่ใจเกี่ยวกับทฤษฎีเชิงบรรทัดฐานและเชิงอภิปรัชญาของเรา? ควรรวบรวมความชอบและบุคคลในอุดมคติอย่างไรในบริบทของความไม่แน่นอนของเรา

สล็อต

ความไม่แน่นอนทางศีลธรรมและเส้นทางสู่ AI Alignment กับ William MacAskill เป็นพอดคาสต์ที่ห้าในซีรี่ส์ AI Alignment ใหม่ ซึ่งจัดโดย Lucas Perry สำหรับผู้ที่ยังใหม่ ซีรีส์นี้จะครอบคลุมและสำรวจปัญหาการจัดตำแหน่ง AI ในโดเมนที่หลากหลาย ซึ่งสะท้อนถึงลักษณะสหวิทยาการพื้นฐานของการจัดตำแหน่ง AI ในวงกว้าง เราจะหารือกับนักวิจัยด้านเทคนิคและที่ไม่ใช่ด้านเทคนิคในด้านต่างๆ เช่น แมชชีนเลิร์นนิง ความปลอดภัยของ AI ธรรมาภิบาล การประสานงาน จริยธรรม ปรัชญา และจิตวิทยาที่เกี่ยวข้องกับโครงการสร้าง AI ที่เป็นประโยชน์ หากฟังดูน่าสนใจสำหรับคุณ เราหวังว่าคุณจะเข้าร่วมการสนทนาโดยติดตามเราหรือสมัครรับพอดแคสต์ของเราบนYoutube , SoundCloudหรือไซต์/แอปพลิเคชันพอดแคสต์ที่คุณต้องการ
หากคุณสนใจที่จะสำรวจลักษณะสหวิทยาการของการจัดแนว AI เราขอแนะนำให้คุณดูภูมิทัศน์เบื้องต้นที่นี่ซึ่งจะเริ่มทำแผนที่พื้นที่นี้
ในพอดแคสต์นี้ Lucas ได้พูดคุยกับ William MacAskill จะเป็นอาจารย์ของปรัชญาที่ University of Oxford และเป็นผู้ร่วมก่อตั้งของศูนย์ที่มีประสิทธิภาพไม่เห็นแก่ตัว , การให้สิ่งที่เราสามารถและ80,000 ชั่วโมง วิลล์ช่วยสร้างขบวนการเห็นแก่ผู้อื่นอย่างมีประสิทธิภาพ และงานเขียนของเขามุ่งเน้นไปที่ประเด็นความไม่แน่นอนทางทฤษฎีเชิงบรรทัดฐานและการตัดสินใจเป็นหลัก เช่นเดียวกับประเด็นทั่วไปในจริยธรรม
ลูคัส : เฮ้ ทุกคน ยินดีต้อนรับกลับสู่ซีรี่ส์ AI Alignment Podcast ที่สถาบันอนาคตแห่งชีวิต ฉันชื่อ Lucas Perry และวันนี้เราจะมาพูดคุยกับ William MacAskill เกี่ยวกับความไม่แน่นอนทางศีลธรรมและตำแหน่งในการจัดแนว AI หากคุณสนุกไปกับซีรีส์นี้และพบว่ามันน่าสนใจหรือมีคุณค่า มันช่วยได้มากถ้าคุณสามารถแชร์มันบนโซเชียลมีเดียและติดตามเราบนแพลตฟอร์มการฟังที่คุณต้องการ
วิลล์เป็นศาสตราจารย์ด้านปรัชญาที่มหาวิทยาลัยอ็อกซ์ฟอร์ดและเป็นผู้ร่วมก่อตั้งศูนย์เพื่อการเห็นแก่ผู้อื่นอย่างมีประสิทธิภาพ การให้สิ่งที่เราทำได้ และ 80,000 ชั่วโมง วิลล์ช่วยสร้างขบวนการเห็นแก่ประโยชน์ผู้อื่นอย่างมีประสิทธิภาพ และงานเขียนของเขามุ่งเน้นไปที่ประเด็นความไม่แน่นอนทางทฤษฎีเชิงบรรทัดฐานและการตัดสินใจเป็นหลัก เช่นเดียวกับประเด็นทั่วไปและจริยธรรม ดังนั้น โดยไม่ต้องกังวลใจอีกต่อไป ฉันให้คุณ William MacAskill
ใช่ วิลล์ ขอบคุณมากที่มาฟังพอดแคสต์ มันเยี่ยมมากที่มีคุณอยู่ที่นี่
วิล: ขอบคุณที่รับฉัน
ลูคัส: งั้น ฉันว่าเราเริ่มกันเลยดีกว่า คุณสามารถบอกเราได้เล็กน้อยเกี่ยวกับงานที่คุณทำเมื่อเร็วๆ นี้ในแง่ของงานของคุณในด้านอภิปรัชญาและความไม่แน่นอนทางศีลธรรมในช่วงสองสามปีที่ผ่านมา และการพัฒนานั้นเป็นอย่างไร
วิลล์: เยี่ยมมาก หัวข้อปริญญาเอกของฉันเกี่ยวกับความไม่แน่นอนทางศีลธรรม และฉันเพิ่งจะลงรายละเอียดในหนังสือเกี่ยวกับหัวข้อนี้ แนวคิดในที่นี้คือชื่นชมความจริงที่ว่าเรามักไม่ค่อยแน่ใจว่าเราควรทำอย่างไร กล่าวในทางศีลธรรม เป็นไปได้เช่นกันที่เราควรไม่แน่ใจเกี่ยวกับสิ่งที่เราควรทำตามหลักศีลธรรม จริยธรรมเป็นเรื่องที่ยากมาก มีความไม่เห็นด้วยมากมาย คงจะมั่นใจมากเกินไปที่จะคิดว่า “โอ้ ฉันเข้าใจมุมมองทางศีลธรรมที่ถูกต้องแล้ว” งานของฉันจึงไม่ได้เน้นที่คำถามที่ว่าเราควรมั่นใจแค่ไหน แต่เราควรทำอย่างไรหากเราไม่แน่ใจ
โดยเฉพาะอย่างยิ่ง ข้าพเจ้าพิจารณาประเด็นว่าเราจะใช้เหตุผลแบบเดียวกับที่เราประยุกต์ใช้กับความไม่แน่นอนเกี่ยวกับข้อเท็จจริงกับความไม่แน่นอนทางศีลธรรมได้หรือไม่ โดยเฉพาะอย่างยิ่ง เราสามารถใช้สิ่งที่เรียกว่า “ทฤษฎีอรรถประโยชน์ที่คาดไว้” ซึ่งเป็นที่ยอมรับกันอย่างกว้างขวางว่าอย่างน้อยก็ประมาณว่าถูกต้องในความไม่แน่นอนเชิงประจักษ์ เราสามารถประยุกต์ใช้ในลักษณะเดียวกันในกรณีของความไม่แน่นอนทางศีลธรรมได้หรือไม่?
ลูคัส: ถูกต้อง ต่อจากนี้ไป คุณก็มีหนังสือที่คุณกำลังทำงานเกี่ยวกับความไม่แน่นอนทางศีลธรรมที่ยังไม่ได้ตีพิมพ์ คุณเพิ่งขยายการสำรวจนี้ในหนังสือเล่มนั้นโดยเจาะลึกลงไปในนั้นหรือไม่?
จะ: ถูกตัอง. จริงๆ แล้ว มีน้อยมากที่เขียนเกี่ยวกับความไม่แน่นอนทางศีลธรรม อย่างน้อยในยุคปัจจุบัน อย่างน้อยก็สัมพันธ์กับความสำคัญของมัน ฉันคิดว่านี่เป็นวินัยที่ควรศึกษามากเท่ากับการศึกษาผลสืบเนื่องหรือสัญญานิยมหรือ Kantianism แต่ในยุคปัจจุบัน มีหนังสือเล่มเดียวที่เขียนเกี่ยวกับหัวข้อนี้ และเขียนเมื่อ 18 ปีที่แล้ว หรือตีพิมพ์เมื่อ 18 ปีที่แล้ว สิ่งที่เราต้องการให้เป็น อย่างแรกเลย เป็นเพียงการแนะนำเบื้องต้นเกี่ยวกับหัวข้อเท่านั้น มันเขียนร่วมกับฉันในฐานะผู้เขียนนำ แต่ร่วมเขียนกับ Toby Ord และ Krista Bickfest โดยจัดวางสิ่งที่เราเห็นว่ามีแนวโน้มมากที่สุด เส้นทางไปข้างหน้าในแง่ของการจัดการกับความท้าทายที่ต้องเผชิญกับการตัดสินใจภายใต้ความไม่แน่นอนทางศีลธรรม
ลูคัส : สุดยอด ดังนั้น ฉันเดาว่า ก้าวต่อไปที่นี่ คุณมีพอดคาสต์ที่คุณทำกับร็อบ วิบลินแล้ว: 80,000 ชั่วโมง ดังนั้น ฉันเดาว่าเราสามารถหลีกเลี่ยงไม่ให้ครอบคลุมพื้นฐานมากมายเกี่ยวกับมุมมองของคุณเกี่ยวกับการใช้อรรถประโยชน์ที่คาดหวังอย่างมีหลักการในการให้เหตุผลทางศีลธรรมและความไม่แน่นอนทางศีลธรรม เพื่อตัดสินใจว่าควรทำอย่างไรเมื่อไม่แน่ใจว่าควรทำอย่างไร ผู้คนสามารถฟังพอดแคสต์นั้นได้ ซึ่งฉันจะให้ลิงก์ไปในคำอธิบาย
คงจะดีเช่นกัน เพียงเพื่อให้เข้าใจโดยทั่วไปว่าความลำเอียงทางจริยธรรมของเมตาของคุณโดยทั่วไปในตอนนี้มีแนวโน้มที่จะโกหกที่ใด ดังนั้นตำแหน่งทางจริยธรรมของเมตาประเภทใดที่คุณมักจะให้ความเชื่อถือมากที่สุด

สล็อตออนไลน์

วิลล์: โอเค นั่นเป็นคำถามที่ดีมาก ‘เพราะว่าในทุกเรื่อง ฉันคิดว่าดีกว่าที่จะพูดถึงระดับของความเชื่อมากกว่าความเชื่อแบบสัมบูรณ์ โดยปกติ ถ้าคุณถามคำถามนี้กับนักปรัชญา เราจะพูดว่า “ฉันเป็นคนทำลายล้าง” หรือ “ฉันเป็นนักสัจนิยมทางศีลธรรม” หรืออะไรทำนองนั้น ฉันคิดว่าควรแยกความเชื่อของคุณออกไปจะดีกว่า ดังนั้นฉันคิดว่าฉันอยู่ระหว่าง 50/50 ระหว่างการทำลายล้างหรือทฤษฎีข้อผิดพลาดกับบางสิ่งที่ไม่ทำลายล้าง
โดยที่ทฤษฎีการทำลายล้างหรือทฤษฎีความผิดพลาด ฉันแค่หมายถึงข้อความทางศีลธรรมเชิงบวกใดๆ หรือข้อความเชิงบรรทัดฐานหรือคำประเมิน ซึ่งรวมถึงคุณควรเพิ่มความสุขให้สูงสุด หรือถ้าคุณต้องการเงินจำนวนมาก คุณควรจะเป็นนายธนาคาร หรือความเจ็บปวดไม่ดี ในมุมมองนี้ สิ่งเหล่านั้นล้วนเป็นเท็จ การกล่าวอ้างเชิงบวก เชิงบรรทัดฐาน หรือเชิงประเมินทั้งหมดเป็นเท็จ ดังนั้นจึงเป็นมุมมองที่ต่างไปจากเดิมอย่างสิ้นเชิง และเราสามารถพูดคุยเพิ่มเติมเกี่ยวกับเรื่องนั้นได้ ถ้าคุณต้องการ
ในแง่ของความเชื่อที่เหลือของฉัน มุมมองที่ฉันเห็นอกเห็นใจมากที่สุดในแง่ของสิ่งที่ครอบงำความสนใจทางจิตของฉันส่วนใหญ่เป็นรูปแบบที่ค่อนข้างแข็งแกร่งของความสมจริงทางศีลธรรม ยังไม่ชัดเจนว่าควรเรียกว่าสัจนิยมเชิงธรรมชาตินิยมหรือสัจนิยมเชิงธรรมชาตินิยมแบบธรรมชาตินิยม แต่สิ่งสำคัญคือความดีและความชั่วเป็นคุณสมบัติทางศีลธรรมพื้นฐานเหล่านี้และเป็นคุณสมบัติของประสบการณ์
สิ่งที่มีค่าคือสิ่งที่เหนือกว่าในสภาวะที่มีสติ โดยเฉพาะอย่างยิ่งสภาวะที่ดีหรือสภาวะที่ไม่ดี และวิธีที่เรารู้เกี่ยวกับสภาวะเหล่านี้เป็นเพียงประสบการณ์โดยตรงกับสิ่งเหล่านี้ เพียงแค่ทำความคุ้นเคยกับสภาพเช่นความเจ็บปวดทำให้เรามีเหตุผลในการคิดว่าเราควรจะมีสิ่งนี้น้อยลงในโลก นั่นคือมุมมองที่ฉันชอบในแง่ที่ว่าฉันน่าจะตั้งรับมากที่สุดในห้องสัมมนา
แล้วฉันก็ให้ความเชื่อถือน้อยลงในสองสามมุมมอง หนึ่งคือมุมมองที่เรียกว่า “อัตวิสัยนิยม” ซึ่งเป็นแนวคิดที่ว่าสิ่งที่คุณควรทำนั้นถูกกำหนดในความหมายบางอย่างจากสิ่งที่คุณต้องการจะทำ มุมมองที่ง่ายที่สุดก็คือเมื่อฉันพูดว่า “ฉันควรทำ X” นั่นก็หมายความว่าฉันต้องการทำ X ในทางใดทางหนึ่ง หรือรุ่นที่ซับซ้อนกว่านั้นจะเป็นอัตวิสัยในอุดมคติ โดยที่เมื่อฉันพูดว่าฉันควรทำ X หมายความว่าฉันในอุดมคติในแบบฉบับของตัวเองบางคนต้องการให้ตัวเองอยากทำ X บางทีถ้าฉันมีความรู้จำนวนจำกัดและมีพลังในการคำนวณที่ชัดเจนกว่านี้ และ เร็ว ๆ นี้. ฉันรู้สึกเห็นใจน้อยกว่าคนที่ฉันรู้จักนิดหน่อย เราจะเข้าไปที่
แล้วมุมมองสุดท้ายที่ฉันไม่ค่อยเห็นอกเห็นใจต่อกันก็คือการไม่รับรู้ซึ่งจะเป็นความคิดที่ว่าถ้อยคำทางศีลธรรมของเรา … ดังนั้นเมื่อฉันพูดว่า “การฆาตกรรมเป็นสิ่งที่ผิด” ฉันไม่ได้พยายามเสนอข้อเสนอ สิ่งที่พวกเขาทำก็แค่แสดงอารมณ์บางอย่างของฉัน เช่น “ยุก ฆาตกรรม อืม” แบบเดียวกับที่ฉันพูดแบบนั้น ไม่ได้แสดงข้อเสนออะไร แค่แสดงทัศนคติที่ดีหรือแง่ลบ และอีกครั้ง ฉันไม่พบว่ามีความเป็นไปได้อย่างยิ่ง ด้วยเหตุผลที่เราสามารถเข้าไปหาได้
ลูคัส: ใช่แล้ว สองมุมมองแรกนั้นเป็นทัศนะของนักคิด ซึ่งทำให้พวกเขาตกอยู่ภายใต้ทฤษฎีเชิงความหมาย ซึ่งคุณคิดว่าผู้คนกำลังพูดความจริงหรือข้อความเท็จ เมื่อพวกเขาอ้างข้อเท็จจริงทางศีลธรรม และอีกทฤษฎีหนึ่งในความสมจริงทางศีลธรรมของคุณเป็นทั้งมุมมองเชิงอภิปรัชญา ซึ่งผมคิดว่าน่าจะเป็นสิ่งที่เราสนใจเป็นส่วนใหญ่ในแง่ของปัญหาการจัดตำแหน่งของ AI
มีปัญหาอื่นๆ ใน metaethics เช่น เกี่ยวกับความหมายตามที่คุณเพิ่งพูดถึง คุณรู้สึกราวกับว่าคุณให้ความสำคัญกับการไม่มีความรู้ความเข้าใจ แต่ก็มีมุมมองที่สมเหตุสมผล เช่นเดียวกันกับปัญหาในญาณวิทยาทางศีลธรรม เราจะรู้เกี่ยวกับอภิธรรมได้อย่างไร และเหตุใดเราจึงควรปฏิบัติตามหลักจริยธรรมหากอภิธานศัพท์มีข้อเท็จจริง คุณตกอยู่ในค่ายไหน?
[NPC4]วิล: ฉันคิดว่ามุมมองทั้งหมดนั้นเชื่อมโยงกันค่อนข้างดี ดังนั้นญาณวิทยาทางศีลธรรมประเภทใดที่คุณมีนั้นขึ้นอยู่กับอย่างใกล้ชิด ฉันคิดว่า คุณมีมุมมองเชิงอภิปรัชญาประเภทใด และที่จริงฉันคิดว่าบ่อยครั้งคือ เกี่ยวข้องอย่างใกล้ชิดกับทัศนะประเภทใดในจริยธรรมเชิงบรรทัดฐานที่คุณมี ดังนั้น มุมมองทางโลกเชิงปรัชญาที่ฉันชอบ อย่างที่เคยเป็น ที่ฉันปกป้องไว้ในห้องสัมมนา คือมุมมองเชิงบรรทัดฐานแบบคลาสสิก เป็นผู้ใช้ประโยชน์แบบคลาสสิก ดังนั้นสิ่งเดียวที่สำคัญคือสภาวะจิตใจเชิงบวกหรือเชิงลบ
ในแง่ของญาณวิทยาทางศีลธรรม วิธีที่เราเข้าถึงสิ่งที่มีค่าเป็นเพียงการประสบกับมัน ดังนั้นในลักษณะเดียวกับที่เราเข้าถึงสภาวะที่มีสติสัมปชัญญะ นอกจากนี้ยังมีบางวิธีที่คุณไม่สามารถทำได้แค่ คุณรู้ไหม ทำไมเราควรเพิ่มผลรวมของประสบการณ์ที่ดีมากกว่าผลิตภัณฑ์ หรืออะไรอย่างอื่น? นั่นคือมุมมองที่คุณต้องได้รับจากการให้เหตุผลมากกว่าแค่จากประสบการณ์ล้วนๆ
ญาณวิทยาส่วนหนึ่งของฉันดึงดูดทุกความสามารถที่น่ากลัวนี้ ที่เราต้องให้เหตุผลเกี่ยวกับเรื่องนามธรรม แต่มันเป็นคณะแบบเดียวกับที่ใช้เมื่อเราคิดเกี่ยวกับคณิตศาสตร์ หรือทฤษฎีเซต หรือสาขาอื่นๆ ของปรัชญา อย่างไรก็ตาม ถ้าฉันมีมุมมองที่ต่างออกไป ดังนั้น สมมติว่าเราเป็นอัตวิสัย ญาณวิทยาทางศีลธรรมก็ดูแตกต่างไปมาก จริงๆ แล้ว คุณแค่กำลังไตร่ตรองถึงค่านิยมของตัวเอง บางทีกำลังดูสิ่งที่คุณจะทำในสถานการณ์ที่แตกต่างกัน และอื่นๆ สะท้อนความชอบของคุณเอง และนั่นเป็นวิธีที่ถูกต้องในการไปสู่มุมมองทางศีลธรรมที่ถูกต้อง
นอกจากนี้ยังมีมุมมองเชิงอภิปรัชญาที่เรียกว่า “คอนสตรัคติวิสต์” ซึ่งฉันไม่ใช่คนที่ดีที่สุดที่จะพูดคุยด้วยอย่างแน่นอน แต่ในมุมมองนั้น อีกครั้ง ไม่ใช่มุมมองที่เป็นจริง แต่ในมุมมองนี้ เราแค่มีความเชื่อและสัญชาตญาณหลายอย่าง และมุมมองทางศีลธรรมที่ถูกต้องเป็นเพียงการจัดระบบที่ดีที่สุด และความเชื่อหรือสัญชาตญาณในลักษณะเดียวกับคุณ อาจคิดว่า … เช่นเดียวกับภาษาศาสตร์ มันคือวิทยาศาสตร์ แต่โดยพื้นฐานแล้วขึ้นอยู่กับว่าสัญชาตญาณทางภาษาของเราเป็นอย่างไร มันเป็นเพียงการจัดระบบของพวกเขา
ในมุมมองนั้น ญาณวิทยาทางศีลธรรมจะเกี่ยวกับการไตร่ตรองถึงสัญชาตญาณทางศีลธรรมของคุณเอง คุณเพิ่งได้ข้อมูลทั้งหมดนี้ ซึ่งเป็นวิธีที่ดูเหมือนกับคุณ พูดตามหลักศีลธรรม แล้วคุณก็แค่ทำการจัดระบบ ดังนั้นฉันจึงรู้สึกว่าคำถามเกี่ยวกับญาณวิทยาทางศีลธรรมไม่สามารถตอบได้ในสุญญากาศ คุณต้องคิดถึงมุมมองเชิงอภิปรัชญาเกี่ยวกับอภิปรัชญาของจริยธรรมไปพร้อม ๆ กัน
ลูคัส: ฉันคิดว่าฉันค่อนข้างสนใจที่นี่ และแค่เจาะลึกความเชื่อถือ 50% ที่คุณให้กับมุมมองสัจนิยมทางศีลธรรมของคุณ ซึ่งน่าสนใจมากเพราะเป็นมุมมองที่ผู้คนมักไม่มี ฉันเดาว่าในพื้นที่ความมีเหตุผลของวิทยาการคอมพิวเตอร์ AI พื้นที่ EA ฉันเดาว่าผู้คนมักจะมีผู้ต่อต้านความเป็นจริงทางศีลธรรมจำนวนมากในพื้นที่นี้
ในพอดคาสต์ที่แล้วของฉัน ฉันได้คุยกับ David Pearce และดูเหมือนว่าเขาจะมีความเห็นแบบนี้ และฉันสงสัยว่าคุณจะแกะกล่องของคุณออกมาหน่อยได้ไหม ซึ่งเขาเชื่อว่าความทุกข์และความสุขจะเปิดเผย การเข้าถึงความสุข / ความเจ็บปวดที่สร้างขึ้นในจักรวาล เช่นเดียวกับที่คุณคิดว่าจิตใจเป็นลักษณะที่เป็นกลางของโลก เพราะแท้จริงแล้วมันเป็นลักษณะทางวัตถุของโลก และปรากฏการณ์วิทยาและประสบการณ์ของแต่ละคนก็มีวัตถุประสงค์ในลักษณะเดียวกับที่ใครบางคนอาจประสบกับรอยแดงอย่างเป็นกลาง และใน ความรู้สึกเดียวกับที่พวกเขาสามารถประสบความเจ็บปวดอย่างเป็นกลาง
สำหรับฉันแล้ว ดูเหมือนและฉันไม่เข้าใจมุมมองนี้อย่างถ่องแท้ แต่ข้ออ้างก็คือว่ามีคุณสมบัติหรือคุณสมบัติบางอย่างในตัวของความทุกข์หรือความสุขทางใจที่เปิดเผยคุณค่าในตัวของมัน
วิล : ครับ
ลูคัส: คุณช่วยแกะมันออกอีกหน่อยเกี่ยวกับอภิปรัชญาของสิ่งนั้นและมันหมายความว่าอย่างไร?
จะ: ดูเหมือนว่า David Pearce และฉันมีมุมมองที่ค่อนข้างคล้ายกัน ฉันคิดว่าการอาศัยการเปรียบเทียบอย่างมากกับหรือการเปรียบเทียบอย่างใกล้ชิดกับความรู้สึกตัวจะช่วยได้ โดยลองนึกภาพว่าคุณเป็นนักวิทยาศาสตร์หุ่นยนต์ คุณไม่มีประสบการณ์ที่มีสติสัมปชัญญะเลย แต่คุณกำลังทำวิทยาศาสตร์แฟนซีทั้งหมดอยู่ ต่อจากนั้นคุณก็เขียนหนังสือเกี่ยวกับโลกออกมา และฉันก็แบบว่า “นี่ มีสิ่งที่คุณพลาดไป มันเหมือนกับประสบการณ์ที่มีสติ” และคุณ นักวิทยาศาสตร์หุ่นยนต์ จะพูดว่า “ว้าว นี่มันบ้าไปแล้ว คุณกำลังพูดว่าเรื่องเล็ก ๆ น้อย ๆ มีความรู้สึกส่วนตัวกับพวกเขาหรือไม่? เช่น ทำไมบนโลกนี้ถึงเชื่ออย่างนั้นล่ะ? นั่นเป็นเพียงความเข้าใจที่เป็นธรรมชาติของโลก” และมันก็เป็นความจริง มันไม่สมเหตุสมผลเลยจากสิ่งที่เรารู้ตอนนี้ เป็นปรากฏการณ์ที่แปลกมากที่จะเกิดขึ้นในโลก
วิลล์: ดังนั้น หนึ่งในข้อโต้แย้งที่กระตุ้นทฤษฎีข้อผิดพลาดก็คือแนวคิดที่ว่า ถ้าค่านิยมมีอยู่จริง มันก็จะแปลกมาก สิ่งที่แม็คกี้เรียกว่า “แปลกประหลาด” มันแปลกมากที่โดยหลักการของมีดโกนของ Occam ที่ไม่เพิ่มสิ่งแปลก ๆ ลงใน ontology ของเรา เราควรถือว่าไม่มีอยู่จริง
[NPC5]แต่การโต้แย้งนั้นจะได้ผลเช่นเดียวกันกับประสบการณ์ที่มีสติสัมปชัญญะ และการตอบสนองที่ดีที่สุดที่เรามีคือการพูดว่า ไม่ แต่ฉันรู้ว่าฉันมีสติ และเพียงแค่บอกโดยไตร่ตรอง ฉันคิดว่าเราสามารถใช้การโต้แย้งแบบเดียวกัน เมื่อพูดถึงคุณสมบัติของสติเช่นกัน นั่นคือความดีหรือความชั่วของประสบการณ์ที่มีสติสัมปชัญญะบางอย่าง
ตอนนี้ฉันแค่อยากให้คุณดูเป็นทฤษฎีโดยสิ้นเชิง ลองนึกภาพว่าคุณไม่ได้คิดเกี่ยวกับปรัชญาเลย หรือแม้แต่วิทยาศาสตร์เลย และฉันแค่จะถามคุณ ฉีกเล็บของคุณออก หรืออะไรสักอย่าง แล้วฉันก็พูดว่า “นั่นเป็นประสบการณ์ที่ไม่ดีหรือเปล่า” และคุณจะตอบว่าใช่