Get in my Think Art.

Day: September 13, 2021

วิธีสร้าง AI ที่สามารถนำทางโลกของเราได้อย่างปลอดภัย — บทสัมภาษณ์กับ Andre Platzer

วิธีสร้าง AI ที่สามารถนำทางโลกของเราได้อย่างปลอดภัย — บทสัมภาษณ์กับ Andre Platzer

วิธีสร้าง AI ที่สามารถนำทางโลกของเราได้อย่างปลอดภัย — บทสัมภาษณ์กับ Andre Platzer jumbo jili ในช่วงสองสามทศวรรษที่ผ่านมา ความก้าวหน้าทางเทคโนโลยีอย่างไม่เคยปรากฏมาก่อนทำให้เราอัปเกรดและปรับปรุงโครงสร้างพื้นฐานส่วนใหญ่ของเราให้ทันสมัย ​​และแก้ปัญหาด้านลอจิสติกส์ที่มีมายาวนานมากมาย ตัวอย่างเช่น แอพสมาร์ทโฟนที่ขับเคลื่อนด้วย AI ของ Babylon Health ช่วยประเมินและจัดลำดับความสำคัญผู้ป่วย 1.2 ล้านคนในลอนดอนเหนือ การโอนเงินทางอิเล็กทรอนิกส์ช่วยให้เราสามารถส่งเงินได้ทันทีเกือบทุกที่ในโลกและในช่วง 20 ปีที่ผ่านมาGPS ได้ปฏิวัติ วิธีการนำทางของเรา เราติดตามและจัดส่งสินค้าอย่างไร และเราควบคุมการจราจรอย่างไร สล็อต อย่างไรก็ตาม การเติบโตแบบทวีคูณนั้นมาพร้อมกับชุดของอุปสรรคที่ต้องสำรวจ ปัญหาที่สำคัญที่สุดคือเป็นเรื่องยากมากที่จะคาดการณ์ว่าเทคโนโลยีต่างๆ จะพัฒนาไปอย่างไร ดังนั้นจึงเป็นเรื่องยากที่จะวางแผนสำหรับอนาคตและดูแลให้มีคุณลักษณะด้านความปลอดภัยที่จำเป็นความไม่แน่นอนนี้น่าเป็นห่วงอย่างยิ่งเมื่อพูดถึงเทคโนโลยีที่อาจก่อให้เกิดความท้าทายด้านอัตถิภาวนิยม เช่น ปัญญาประดิษฐ์ เป็นต้นอย่างไรก็ตาม แม้ว่า AI ในอนาคตจะมีลักษณะที่คาดเดาไม่ได้ ความท้าทายบางอย่างก็คาดเดาได้ ในกรณีนี้ ไม่ว่าเส้นทางการพัฒนาที่เอเจนต์ AI จะใช้ในท้ายที่สุดจะเป็นอย่างไร […]

AI Alignment Podcast: การเรียนรู้การเสริมแรงผกผันและสถานะของ AI Alignment กับ Rohin Shah

AI Alignment Podcast: การเรียนรู้การเสริมแรงผกผันและสถานะของ AI Alignment กับ Rohin Shah

AI Alignment Podcast: การเรียนรู้การเสริมแรงผกผันและสถานะของ AI Alignment กับ Rohin Shah jumbo jili การเรียนรู้การเสริมแรงผกผัน (IRL) มีบทบาทอย่างไรในการจัดตำแหน่ง AI ประเด็นใดที่ทำให้ IRL ซับซ้อน และสิ่งนี้ส่งผลต่อประโยชน์ของวิธีการเรียนรู้การกำหนดลักษณะนี้อย่างไร กระบวนทัศน์ของการจัดตำแหน่ง AI แบบใดที่เราควรใช้เมื่อพิจารณาถึงข้อกังวลดังกล่าวการเรียนรู้การเสริมแรงผกผันและสถานะของ AI Alignment กับ Rohin Shah เป็นพอดคาสต์ที่เจ็ดในซีรี่ส์ AI Alignment Podcast ซึ่งจัดโดย Lucas Perry สำหรับผู้ที่เพิ่งมาใหม่ ซีรีส์นี้ครอบคลุมและสำรวจปัญหาการจัดตำแหน่ง AI ในโดเมนที่หลากหลาย ซึ่งสะท้อนถึงลักษณะสหวิทยาการพื้นฐานของการจัดตำแหน่ง AI ในวงกว้าง เราจะหารือกับนักวิจัยด้านเทคนิคและที่ไม่ใช่ด้านเทคนิคในด้านต่างๆ เช่น แมชชีนเลิร์นนิง ธรรมาภิบาล […]

AI Alignment Podcast: การเรียนรู้การเสริมแรงผกผันแบบมีส่วนร่วมกับ Dylan Hadfield-Menell (Beneficial AGI 2019)

AI Alignment Podcast: การเรียนรู้การเสริมแรงผกผันแบบมีส่วนร่วมกับ Dylan Hadfield-Menell (Beneficial AGI 2019)

AI Alignment Podcast: การเรียนรู้การเสริมแรงผกผันแบบมีส่วนร่วมกับ Dylan Hadfield-Menell (Beneficial AGI 2019) jumbo jili อะไรเป็นแรงจูงใจในการเรียนรู้การเสริมแรงผกผันแบบมีส่วนร่วม? เราได้อะไรจากการปรับบริบทความพยายามด้านความปลอดภัยของเราใหม่จากมุมมองของ CIRL ระบบ Pre-AGI มีบทบาทใดในการขยายกระบวนการเชิงบรรทัดฐานการเรียนรู้การเสริมแรงผกผันแบบมีส่วนร่วมกับ Dylan Hadfield-Menell เป็นพอดคาสต์ที่แปดในชุด AI Alignment Podcast ซึ่งจัดโดย Lucas Perry และได้รับการบันทึกไว้ในการประชุม Beneficial AGI 2018 ในเปอร์โตริโก สำหรับผู้ที่ยังใหม่ ชุดนี้ครอบคลุมและสำรวจปัญหาการจัดตำแหน่ง AI ในโดเมนที่หลากหลาย ซึ่งสะท้อนถึงลักษณะสหวิทยาการพื้นฐานของการจัดตำแหน่ง AI ในวงกว้าง ลูคัสจะพูดคุยกับนักวิจัยด้านเทคนิคและที่ไม่ใช่ด้านเทคนิคในด้านต่างๆ เช่น แมชชีนเลิร์นนิง ธรรมาภิบาล จริยธรรม ปรัชญา และจิตวิทยาที่เกี่ยวข้องกับโครงการสร้าง […]

AI Alignment Podcast: ปัญหานายพลไบแซนไทน์ การวางยาพิษ และการเรียนรู้ของเครื่องแบบกระจายกับ El Mahdi El Mhamdi (Beneficial AGI 2019)

AI Alignment Podcast: ปัญหานายพลไบแซนไทน์ การวางยาพิษ และการเรียนรู้ของเครื่องแบบกระจายกับ El Mahdi El Mhamdi (Beneficial AGI 2019)

AI Alignment Podcast: ปัญหานายพลไบแซนไทน์ การวางยาพิษ และการเรียนรู้ของเครื่องแบบกระจายกับ El Mahdi El Mhamdi (Beneficial AGI 2019) jumbo jili แม่ทัพสามคนโหวตว่าจะโจมตีหรือหนีจากการล้อมปราสาท นายพลคนหนึ่งทุจริตและสองคนไม่ได้ จะเกิดอะไรขึ้นเมื่อนายพลที่ทุจริตส่งคำตอบที่แตกต่างกันไปยังนายพลอีกสองคนความผิดไบเซนไทน์คือ“ สภาพของระบบคอมพิวเตอร์กระจายโดยเฉพาะอย่างยิ่งระบบที่ส่วนประกอบอาจล้มเหลวและมีข้อมูลที่ไม่สมบูรณ์อยู่กับว่าเป็นองค์ประกอบที่ล้มเหลวในการคำนวณ คำนี้ใช้ชื่อจากอุปมานิทัศน์ “ปัญหานายพลไบแซนไทน์” พัฒนาขึ้นเพื่ออธิบายสภาวะนี้ โดยที่นักแสดงต้องเห็นด้วยกับกลยุทธ์ร่วมกันเพื่อหลีกเลี่ยงความล้มเหลวของระบบที่ร้ายแรง แต่นักแสดงบางคนไม่น่าเชื่อถือ “ สล็อต ปัญหาของนายพลไบแซนไทน์และปัญหาที่เกี่ยวข้องในการรักษาเครือข่ายคอมพิวเตอร์แบบกระจายที่เชื่อถือได้นั้นส่องสว่างสำหรับทั้งการจัดตำแหน่ง AI และเครือข่ายสมัยใหม่ที่เราโต้ตอบด้วยเช่น Youtube, Facebook หรือ Google การสำรวจพื้นที่นี้ทำให้เราเห็นข้อจำกัดของการคำนวณแบบกระจายที่เชื่อถือได้ ข้อกังวลด้านความปลอดภัยและภัยคุกคามในพื้นที่นี้ และการแลกเปลี่ยนที่เราจะต้องทำเพื่อระดับประสิทธิภาพหรือความปลอดภัยที่แตกต่างกันThe Byzantine Generals’ Problem, Poisoning, and Distributed Machine Learning with […]