AI Alignment Podcast: การเรียนรู้การเสริมแรงผกผันและการอนุมานความชอบของมนุษย์ด้วย Dylan Hadfield-Menell jumbo jili Inverse Reinforcement Learning and Inferring Human Preferences เป็นพอดคาสต์แรกในชุด AI Alignment ใหม่ ซึ่งจัดโดย Lucas Perry ชุดนี้จะครอบคลุมและสำรวจปัญหาการจัดตำแหน่ง AI ในโดเมนที่หลากหลาย ซึ่งสะท้อนถึงลักษณะสหวิทยาการพื้นฐานของการจัดตำแหน่ง AI ในวงกว้าง เราจะหารือกับนักวิจัยด้านเทคนิคและที่ไม่ใช่ด้านเทคนิคในหลากหลายด้าน เช่น การเรียนรู้ของเครื่อง ความปลอดภัยของ AI การกำกับดูแล การประสานงาน จริยธรรม ปรัชญา และจิตวิทยา ที่เกี่ยวข้องกับโครงการสร้าง AI ที่เป็นประโยชน์ หากฟังดูน่าสนใจสำหรับคุณ เราหวังว่าคุณจะเข้าร่วมการสนทนาโดยติดตามหรือสมัครรับข้อมูลจาก Youtube, Soundcloud […]

AI Alignment Podcast: ความปลอดภัยของ AI ความคิดที่เป็นไปได้ และโลกจำลองด้วย Roman Yampolskiy jumbo jili การรักษาความปลอดภัยในโลกไซเบอร์มีบทบาทอย่างไรในการจัดแนว AI และความปลอดภัย? ความสมบูรณ์ของ AI คืออะไร? Space of Mind Design คืออะไร และบอกอะไรเราเกี่ยวกับความปลอดภัยของ AI? ความเป็นไปได้ของเครื่องจักรจะเข้ากับพื้นที่นี้ได้อย่างไร? เราสามารถพิสูจน์การรั่วไหลของภาวะเอกฐานเพื่อให้แน่ใจว่าเราสามารถทดสอบ AGI ได้หรือไม่? และทฤษฎีความซับซ้อนในการคำนวณคืออะไรกันแน่? สล็อต AI Safety, Possible Minds และ Simulated Worlds เป็นพอดคาสต์ที่สามในซีรีส์ AI Alignment ใหม่ ซึ่งจัดโดย Lucas Perry สำหรับผู้ที่ยังใหม่ […]

AI Alignment Podcast: หลักธรรมของความสุข ความทุกข์ และปัญญาประดิษฐ์กับ Brian Tomasik และ David Pearce jumbo jili metaethics มีบทบาทอย่างไรในการจัดแนว AI และความปลอดภัย? เส้นทางสู่การจัดตำแหน่ง AI จะเปลี่ยนไปอย่างไรเมื่อพิจารณาจากมุมมองเชิงอภิปรัชญาที่ต่างกัน ประเด็นในญาณวิทยา แรงจูงใจ และความชอบธรรมส่งผลต่อการจัดตำแหน่งค่านิยมอย่างไร? สถานะเลื่อนลอยของความทุกข์และความสุขคืออะไร? อะไรคือความแตกต่างระหว่างสัจนิยมทางศีลธรรมและการต่อต้านสัจนิยม และแต่ละมุมมองมีพื้นฐานมาจากอะไร? และสิ่งนี้เกี่ยวข้องอะไรกับ AI จริงๆ? สล็อต Metaethics of Joy, Suffering และ AI Alignment เป็นพอดคาสต์ที่สี่ในชุด AI Alignment ใหม่ ซึ่งจัดโดย Lucas Perry สำหรับผู้ที่ยังใหม่ […]

AI Alignment Podcast: ความไม่แน่นอนทางศีลธรรมและเส้นทางสู่ AI Alignment กับ William MacAskill jumbo jili เราจะก้าวหน้าในการจัดตำแหน่ง AI ได้อย่างไรเนื่องจากความไม่แน่นอนทางศีลธรรม? อะไรคือวิธีในอุดมคติในการแก้ไขระบบค่านิยมที่ขัดแย้งกันและมุมมองด้านศีลธรรมระหว่างบุคคล? เราควรดำเนินการเกี่ยวกับการจัดตำแหน่ง AI อย่างไรเนื่องจากเราไม่แน่ใจเกี่ยวกับทฤษฎีเชิงบรรทัดฐานและเชิงอภิปรัชญาของเรา? ควรรวบรวมความชอบและบุคคลในอุดมคติอย่างไรในบริบทของความไม่แน่นอนของเรา สล็อต ความไม่แน่นอนทางศีลธรรมและเส้นทางสู่ AI Alignment กับ William MacAskill เป็นพอดคาสต์ที่ห้าในซีรี่ส์ AI Alignment ใหม่ ซึ่งจัดโดย Lucas Perry สำหรับผู้ที่ยังใหม่ ซีรีส์นี้จะครอบคลุมและสำรวจปัญหาการจัดตำแหน่ง AI ในโดเมนที่หลากหลาย ซึ่งสะท้อนถึงลักษณะสหวิทยาการพื้นฐานของการจัดตำแหน่ง AI ในวงกว้าง เราจะหารือกับนักวิจัยด้านเทคนิคและที่ไม่ใช่ด้านเทคนิคในด้านต่างๆ เช่น แมชชีนเลิร์นนิง ความปลอดภัยของ AI […]

AI Alignment Podcast: ในการกลายเป็นความจริงทางศีลธรรมกับ Peter Singer jumbo jili มีข้อเท็จจริงเช่นข้อเท็จจริงทางศีลธรรมหรือไม่? ถ้าเป็นเช่นนั้นเราจะสามารถเข้าถึงพวกเขาได้อย่างไร ปีเตอร์ ซิงเกอร์ เริ่มต้นอาชีพของเขาในฐานะผู้ชอบผลประโยชน์และต่อต้านสัจนิยมทางศีลธรรม จากนั้นเมื่อเวลาผ่านไปก็กลายเป็นผู้ชอบใช้ประโยชน์ตามหลักศีลธรรมและเป็นนักสัจนิยมทางศีลธรรม การเปลี่ยนแปลงดังกล่าวเกิดขึ้นได้อย่างไร และตำแหน่งใดที่สามารถป้องกันได้ดีกว่ากัน? วัตถุนิยมในจริยธรรมอาจส่งผลต่อการจัดตำแหน่ง AI อย่างไร ทั้งหมดนี้มีความหมายต่ออนาคตของ AI อย่างไร สล็อต เรื่อง Becoming a Moral Realist with Peter Singer เป็นพอดคาสต์ที่หกในซีรีส์ AI Alignment ซึ่งจัดโดย Lucas Perry สำหรับผู้ที่ยังใหม่ ซีรีส์นี้จะครอบคลุมและสำรวจปัญหาการจัดตำแหน่ง AI ในโดเมนที่หลากหลาย ซึ่งสะท้อนถึงลักษณะสหวิทยาการพื้นฐานของการจัดตำแหน่ง AI ในวงกว้าง เราจะหารือกับนักวิจัยด้านเทคนิคและที่ไม่ใช่ด้านเทคนิคในด้านต่างๆ […]

AI Alignment Podcast: การเรียนรู้การเสริมแรงผกผันและสถานะของ AI Alignment กับ Rohin Shah jumbo jili การเรียนรู้การเสริมแรงผกผัน (IRL) มีบทบาทอย่างไรในการจัดตำแหน่ง AI ประเด็นใดที่ทำให้ IRL ซับซ้อน และสิ่งนี้ส่งผลต่อประโยชน์ของวิธีการเรียนรู้การกำหนดลักษณะนี้อย่างไร กระบวนทัศน์ของการจัดตำแหน่ง AI แบบใดที่เราควรใช้เมื่อพิจารณาถึงข้อกังวลดังกล่าวการเรียนรู้การเสริมแรงผกผันและสถานะของ AI Alignment กับ Rohin Shah เป็นพอดคาสต์ที่เจ็ดในซีรี่ส์ AI Alignment Podcast ซึ่งจัดโดย Lucas Perry สำหรับผู้ที่เพิ่งมาใหม่ ซีรีส์นี้ครอบคลุมและสำรวจปัญหาการจัดตำแหน่ง AI ในโดเมนที่หลากหลาย ซึ่งสะท้อนถึงลักษณะสหวิทยาการพื้นฐานของการจัดตำแหน่ง AI ในวงกว้าง เราจะหารือกับนักวิจัยด้านเทคนิคและที่ไม่ใช่ด้านเทคนิคในด้านต่างๆ เช่น แมชชีนเลิร์นนิง ธรรมาภิบาล […]

AI Alignment Podcast: การเรียนรู้การเสริมแรงผกผันแบบมีส่วนร่วมกับ Dylan Hadfield-Menell (Beneficial AGI 2019) jumbo jili อะไรเป็นแรงจูงใจในการเรียนรู้การเสริมแรงผกผันแบบมีส่วนร่วม? เราได้อะไรจากการปรับบริบทความพยายามด้านความปลอดภัยของเราใหม่จากมุมมองของ CIRL ระบบ Pre-AGI มีบทบาทใดในการขยายกระบวนการเชิงบรรทัดฐานการเรียนรู้การเสริมแรงผกผันแบบมีส่วนร่วมกับ Dylan Hadfield-Menell เป็นพอดคาสต์ที่แปดในชุด AI Alignment Podcast ซึ่งจัดโดย Lucas Perry และได้รับการบันทึกไว้ในการประชุม Beneficial AGI 2018 ในเปอร์โตริโก สำหรับผู้ที่ยังใหม่ ชุดนี้ครอบคลุมและสำรวจปัญหาการจัดตำแหน่ง AI ในโดเมนที่หลากหลาย ซึ่งสะท้อนถึงลักษณะสหวิทยาการพื้นฐานของการจัดตำแหน่ง AI ในวงกว้าง ลูคัสจะพูดคุยกับนักวิจัยด้านเทคนิคและที่ไม่ใช่ด้านเทคนิคในด้านต่างๆ เช่น แมชชีนเลิร์นนิง ธรรมาภิบาล จริยธรรม ปรัชญา และจิตวิทยาที่เกี่ยวข้องกับโครงการสร้าง […]

AI Alignment Podcast: ปัญหานายพลไบแซนไทน์ การวางยาพิษ และการเรียนรู้ของเครื่องแบบกระจายกับ El Mahdi El Mhamdi (Beneficial AGI 2019) jumbo jili แม่ทัพสามคนโหวตว่าจะโจมตีหรือหนีจากการล้อมปราสาท นายพลคนหนึ่งทุจริตและสองคนไม่ได้ จะเกิดอะไรขึ้นเมื่อนายพลที่ทุจริตส่งคำตอบที่แตกต่างกันไปยังนายพลอีกสองคนความผิดไบเซนไทน์คือ“ สภาพของระบบคอมพิวเตอร์กระจายโดยเฉพาะอย่างยิ่งระบบที่ส่วนประกอบอาจล้มเหลวและมีข้อมูลที่ไม่สมบูรณ์อยู่กับว่าเป็นองค์ประกอบที่ล้มเหลวในการคำนวณ คำนี้ใช้ชื่อจากอุปมานิทัศน์ “ปัญหานายพลไบแซนไทน์” พัฒนาขึ้นเพื่ออธิบายสภาวะนี้ โดยที่นักแสดงต้องเห็นด้วยกับกลยุทธ์ร่วมกันเพื่อหลีกเลี่ยงความล้มเหลวของระบบที่ร้ายแรง แต่นักแสดงบางคนไม่น่าเชื่อถือ “ สล็อต ปัญหาของนายพลไบแซนไทน์และปัญหาที่เกี่ยวข้องในการรักษาเครือข่ายคอมพิวเตอร์แบบกระจายที่เชื่อถือได้นั้นส่องสว่างสำหรับทั้งการจัดตำแหน่ง AI และเครือข่ายสมัยใหม่ที่เราโต้ตอบด้วยเช่น Youtube, Facebook หรือ Google การสำรวจพื้นที่นี้ทำให้เราเห็นข้อจำกัดของการคำนวณแบบกระจายที่เชื่อถือได้ ข้อกังวลด้านความปลอดภัยและภัยคุกคามในพื้นที่นี้ และการแลกเปลี่ยนที่เราจะต้องทำเพื่อระดับประสิทธิภาพหรือความปลอดภัยที่แตกต่างกันThe Byzantine Generals’ Problem, Poisoning, and Distributed Machine Learning with […]

FLI Podcast: ความก้าวหน้าและความท้าทายของ AI ในปี 2018 กับ David Krueger และ Roman Yampolskiy jumbo jili ทุกเดือนมกราคม เราชอบที่จะมองย้อนกลับไปในช่วง 12 เดือนที่ผ่านมาเกี่ยวกับความก้าวหน้าที่เกิดขึ้นในโลกของปัญญาประดิษฐ์ ยินดีต้อนรับสู่พอดคาสต์ “นวัตกรรม AI” ประจำปีของเรา ฉบับปี 2018Ariel ได้เข้าร่วมในการหวนกลับครั้งนี้โดยนักวิจัย Roman Yampolskiy และ David Krueger Roman เป็นนักวิจัยและศาสตราจารย์ด้านความปลอดภัยของ AI ที่มหาวิทยาลัย Louisville เมื่อเร็ว ๆ นี้นอกจากนี้เขายังได้ตีพิมพ์หนังสือ ปัญญาประดิษฐ์ความปลอดภัยและการรักษาความปลอดภัย David เป็นผู้สมัครระดับปริญญาเอกในห้องปฏิบัติการ Mila ที่มหาวิทยาลัยมอนทรีออล ซึ่งเขาทำงานเกี่ยวกับการเรียนรู้เชิงลึกและความปลอดภัยของ AI […]

AI Alignment Podcast: ความรู้ความเข้าใจของมนุษย์และธรรมชาติของความฉลาดกับ Joshua Greene jumbo jili “ วิธีทำเรารวมแนวคิดความคิดรูปแบบ? ความคิดเดียวกันนี้จะแสดงออกมาในรูปของคำพูดได้อย่างไร เมื่อเทียบกับสิ่งที่คุณมองเห็นหรือได้ยินในดวงตาและหูของจิตใจ สมองของคุณแยกแยะสิ่งที่คิดจากสิ่งที่เชื่อจริง ๆ ได้อย่างไร ถ้าฉันเล่าเรื่องประกอบให้คุณฟัง เมื่อวานฉันเล่นบาสเก็ตบอลกับเลอบรอน เจมส์ บางทีคุณอาจจะเชื่อฉัน แล้วฉันก็พูดว่า โอ้ ฉันแค่ล้อเล่น มันไม่ได้เกิดขึ้นจริงๆ คุณยังคงมีความคิดอยู่ในหัว แต่ในกรณีหนึ่ง คุณกำลังนำเสนอว่าเป็นสิ่งที่จริง ในอีกกรณีหนึ่ง คุณกำลังแสดงเป็นบางสิ่งที่เป็นเท็จ หรือบางทีคุณอาจกำลังแสดงสิ่งนั้นว่าเป็นสิ่งที่อาจเป็นจริง และคุณ’ ไม่แน่ใจ สำหรับสัตว์ส่วนใหญ่ ความคิดที่เข้ามาในหัวจะเข้ามาโดยการรับรู้ และค่าเริ่มต้นก็คือความคิดเหล่านั้นเท่านั้น แต่มนุษย์มีความสามารถในการสร้างความบันเทิงให้กับความคิดทุกประเภทโดยไม่ต้องเชื่อ คุณสามารถเชื่อได้ว่ามันเป็นเท็จ หรือคุณอาจเป็นคนไม่เชื่อเรื่องพระเจ้า และนั่นไม่ใช่สิ่งสำคัญสำหรับการเก็งกำไรเท่านั้น แต่ยังจำเป็นสำหรับการวางแผน คุณต้องสามารถจินตนาการถึงความเป็นไปได้ที่ยังไม่เกิดขึ้นจริง นี่คือสิ่งที่เรากำลังพยายามทำความเข้าใจ จากนั้นฉันคิดว่าโครงการทำความเข้าใจวิธีที่มนุษย์ทำนั้นค่อนข้างขนานกับโครงการพยายามสร้างปัญญาประดิษฐ์ทั่วไป” -โจชัว กรีน สล็อต […]