โร้ดแมปการแข่งขัน AI เพื่อช่วยรับประกันการพัฒนา AGI . อย่างปลอดภัย jumbo jili โร้ดแม็ปเป็นเครื่องมือที่มีประโยชน์ที่ช่วยให้เรามองไปในอนาคต คาดการณ์เส้นทางที่เป็นไปได้ที่แตกต่างกัน และระบุด้านที่อาจนำเสนอโอกาสหรือปัญหา จุดมุ่งหมายคือการแสดงภาพสถานการณ์ต่าง ๆ เพื่อเตรียมการ และหลีกเลี่ยงสถานการณ์ที่อาจนำไปสู่อนาคตที่ไม่พึงประสงค์หรือภัยพิบัติที่เลวร้ายยิ่งกว่านั้น นอกจากนี้ยังเป็นแบบฝึกหัดสำหรับการมองเห็นอนาคตที่ต้องการและค้นหาเส้นทางที่เหมาะสมที่สุดในการบรรลุเป้าหมาย สล็อต แนะนำโรดแมพแผนงานนี้แสดงให้เห็นสามสถานการณ์สมมติในการพัฒนาระบบปัญญาประดิษฐ์ทั่วไป (AGI) จากมุมมองของบริษัทในจินตนาการ (C1) จุดสนใจหลักอยู่ที่การแข่งขัน AI ซึ่งผู้มีส่วนได้ส่วนเสียพยายามเข้าถึง AI ที่ทรงพลังและผลกระทบต่อความปลอดภัย โดยจะระบุการตัดสินใจที่เป็นไปได้ของผู้มีส่วนได้ส่วนเสียใน “สถานการณ์ต่างๆ” ต่างๆ ซึ่งนำไปสู่ผลลัพธ์ที่หลากหลาย รหัสสีของสัญญาณไฟจราจรใช้เพื่อแสดงภาพผลลัพธ์ที่เป็นไปได้ โดยสีเขียวแสดงผลลัพธ์ที่เป็นบวก สีแดง — ค่าลบและสีส้ม — อยู่ระหว่างกลางจุดมุ่งหมายของแผนงานนี้ไม่ใช่เพื่อนำเสนอสถานการณ์ที่เป็นไปได้ทั้งหมดแก่ผู้ชม แต่ด้วยตัวอย่างที่ชัดเจนสองสามตัวอย่าง แผนงานมุ่งเน้นไปที่ AGI เป็นหลัก ซึ่งน่าจะมีศักยภาพในการเปลี่ยนแปลงและสามารถส่งผลกระทบต่อสังคมได้อย่างมากแผนงานนี้จงใจลองเสี่ยงในสถานการณ์สุดโต่งบางสถานการณ์เพื่อกระตุ้นการอภิปรายเกี่ยวกับบทบาทของ AGI ในการเปลี่ยนกระบวนทัศน์สถานการณ์ที่ 1 […]

การหยุดชะงักทางเศรษฐกิจและการหนี AI: รัฐบาลสามารถทำอะไรได้บ้าง? jumbo jili “ องค์กรระหว่างประเทศและธรรมาภิบาลที่มีอยู่พยายามดิ้นรนเพื่อให้ทันกับการเปลี่ยนแปลงทางเทคโนโลยี ”: ด้วยคำแถลงนี้ ฟรานซิส ฟุคุยามะ ได้รวบรวมความรู้สึกทั่วไปของการอภิปรายด้าน AI ในการประชุมสุดยอดรัฐบาลโลกปี 2018 ที่ดูไบอย่างเรียบร้อย สล็อต การประชุมสุดยอดรัฐบาลโลกนำผู้นำที่มีอิทธิพล 4,000 คนจากภาครัฐและเอกชน นักคิดที่มีชื่อเสียง และผู้กำหนดนโยบายจากทั่วโลกมารวมตัวกันเป็นเวลาสามวันของการอภิปราย จุดมุ่งหมายคือเพื่อหารือเกี่ยวกับอนาคตของรัฐบาลและปรับปรุงชีวิตของประชาชน รวมถึงการใช้ประโยชน์จากเทคโนโลยีที่เป็นนวัตกรรม เช่น ปัญญาประดิษฐ์ (AI)ประเด็นหลักที่เกิดจากการพูดคุยและโต้วาทีคือความสำคัญของการสร้างสมดุลระหว่างการดำเนินการของรัฐบาลในระยะสั้นกับกฎระเบียบระหว่างประเทศในระยะยาวในการพัฒนา AIการดำเนินการระยะสั้นรัฐบาลทั่วโลกกำลังต่อสู้กับคำถามเดียวกันเกี่ยวกับ AI: มันคืออะไร? มันทำอะไรได้บ้าง? มีความหมายต่อประเทศของเราอย่างไร? มีคำถามเร่งด่วนสามข้อที่รัฐบาลต้องตอบในระยะสั้น:จะจัดการการเปลี่ยนแปลงในระบบเศรษฐกิจได้อย่างไร? คาดการณ์ว่า AI จะทำให้เกิดการหยุดชะงักทางเศรษฐกิจอย่างมากโดยเฉพาะอย่างยิ่งจากการเปลี่ยนแปลงของตลาดแรงงาน รัฐบาลควรมีกลยุทธ์ที่ครอบคลุมในการจัดการการเปลี่ยนแปลงทางเศรษฐกิจเหล่านี้ รวมถึงการตกงานที่อาจเกิดขึ้นจะมั่นใจได้อย่างไรว่าการใช้ AI สะท้อนถึงค่านิยมของประเทศคุณ? การพัฒนา AI ควรมีเอกลักษณ์เฉพาะตัวตามสถานการณ์และค่านิยมของแต่ละประเทศ อันตรายของการพัฒนา AI […]

การใช้แมชชีนเลิร์นนิงเพื่อจัดการกับความเสี่ยงด้าน AI jumbo jili ในการประชุม EA Global 2016 ฉันได้บรรยายเรื่อง “ การใช้การเรียนรู้ของเครื่องเพื่อจัดการกับความเสี่ยงด้าน AI ”:เป็นไปได้ว่าระบบปัญญาประดิษฐ์ทั่วไปในอนาคตจะมีคุณสมบัติหลายอย่างที่เหมือนกันกับระบบการเรียนรู้ของเครื่องในปัจจุบัน ถ้าเป็นเช่นนั้น เราจะมั่นใจได้อย่างไรว่าระบบเหล่านี้ทำงานได้อย่างมีประสิทธิภาพตามที่ตั้งใจไว้ เราหารือเกี่ยวกับวาระทางเทคนิคสำหรับโครงการใหม่ที่ MIRI ซึ่งเน้นที่คำถามนี้ สล็อต เป้าหมายของวาระการวิจัยนี้การพูดคุยนี้เป็นเรื่องเกี่ยวกับวาระการวิจัยใหม่ที่มุ่งเป้าไปที่การใช้การเรียนรู้ของเครื่องเพื่อทำให้ระบบ AI ปลอดภัยแม้ในระดับความสามารถที่สูงมาก ฉันจะเริ่มต้นด้วยการสรุปเป้าหมายของวาระการวิจัย จากนั้นให้เจาะลึกมากขึ้นในหกชั้นเรียนปัญหาที่เรามุ่งเน้นคำสั่งเป้าหมายสำหรับวาระการประชุมทางเทคนิคนี้คือการที่เราต้องการที่จะรู้วิธีการฝึกอบรมอย่างชาญฉลาดกว่ามนุษย์ระบบ AI ที่จะดำเนินการอย่างใดอย่างหนึ่งหรือมากกว่าขนาดใหญ่ที่มีประโยชน์งานในโลกสมมติฐานบางประการในวาระการวิจัยนี้ทำให้:ระบบ AI ในอนาคตมีแนวโน้มที่จะดูเหมือนระบบ ML ยุคปัจจุบันที่มีประสิทธิภาพมากขึ้นในหลาย ๆ ด้าน เราอาจได้อัลกอริธึมการเรียนรู้เชิงลึกที่ดีขึ้น เป็นต้น แต่เรายังคงต้องพึ่งพาบางอย่างเช่น การเรียนรู้เชิงลึกเป็นอย่างมากปัญญาประดิษฐ์ทั่วไป (AGI) มีแนวโน้มที่จะพัฒนาในไม่ช้านี้ (กล่าวคือในอีกไม่กี่ทศวรรษข้างหน้า)การสร้างAGI ที่เน้นงานเป็นความคิดที่ดีและเราสามารถก้าวหน้าได้ในวันนี้ด้วยการศึกษาวิธีการทำเช่นนั้นฉันไม่มั่นใจว่าสมมติฐานทั้งสามนี้เป็นความจริง แต่ฉันคิดว่าเป็นไปได้มากพอที่จะได้รับความสนใจจากชุมชน AI มากพอๆ กับสถานการณ์ทางเลือกที่เป็นไปได้มากที่สุดระบบ AI […]

AI ที่เป็นมิตร: เป้าหมายที่ตรงกัน jumbo jili ยิ่งมีเครื่องจักรที่ชาญฉลาดและทรงพลังมากเท่าไหร่ ก็ยิ่งมีความสำคัญมากขึ้นเท่านั้นที่เป้าหมายของพวกเขาจะสอดคล้องกับเป้าหมายของเรา ตราบใดที่เราสร้างเครื่องจักรที่ค่อนข้างงี่เง่า คำถามไม่ได้อยู่ที่ว่าเป้าหมายของมนุษย์จะชนะในท้ายที่สุดหรือไม่ แต่เป็นเพียงปัญหาที่เครื่องจักรเหล่านี้สามารถก่อให้เกิดมนุษยชาติได้ก่อนที่เราจะหาวิธีแก้ไขปัญหาการจัดตำแหน่งเป้าหมาย อย่างไรก็ตาม หากมีการปลดปล่อย superintelligence มันจะเป็นอีกทางหนึ่ง เนื่องจากความฉลาดคือความสามารถในการบรรลุเป้าหมาย ดังนั้น AI ที่ฉลาดหลักแหลมนั้นสามารถบรรลุเป้าหมายได้ดีกว่ามนุษย์เรามาก ดังนั้นจะชนะ . สล็อต หากคุณต้องการสัมผัสกับเป้าหมายของเครื่องจักรสำคัญกว่าคุณในตอนนี้ เพียงดาวน์โหลดเอ็นจิ้นหมากรุกที่ล้ำสมัยแล้วลองเอาชนะมัน คุณจะไม่มีวันทำ และมันจะแก่เร็ว…กล่าวอีกนัยหนึ่งความเสี่ยงที่แท้จริงของ AGI ไม่ใช่ความอาฆาตพยาบาท แต่เป็นความสามารถ AI ที่ฉลาดหลักแหลมจะเก่งมากในการบรรลุเป้าหมาย และหากเป้าหมายเหล่านั้นไม่สอดคล้องกับเป้าหมายของเรา เราก็มีปัญหา ผู้คนไม่ได้คิดซ้ำสองเกี่ยวกับน้ำท่วมจอมปลวกเพื่อสร้างเขื่อนไฟฟ้าพลังน้ำ ดังนั้นอย่าวางมนุษยชาติไว้ในตำแหน่งของมดเหล่านั้น นักวิจัยส่วนใหญ่จึงโต้แย้งว่าหากเราจบลงด้วยการสร้างความฉลาดหลักแหลม เราควรตรวจสอบให้แน่ใจว่าเป็นสิ่งที่ Eliezer Yudkowsky ผู้บุกเบิกด้านความปลอดภัยของ AI เรียกว่า “AI ที่เป็นมิตร”: AI ที่มีเป้าหมายสอดคล้องกับเราการค้นหาวิธีจัดเป้าหมายของ […]

การแข่งขันมอบรางวัลความปลอดภัย AI ระดับนานาชาติปี 2018 jumbo jili I. อนาคตของ AI: การเก็บเกี่ยวผลประโยชน์ในขณะที่หลีกเลี่ยงหลุมพรางเป็นเวลาหลายปีแล้วที่การวิจัยด้านปัญญาประดิษฐ์ (AI) ได้มุ่งเน้นอย่างเหมาะสมกับความท้าทายในการทำให้ AI มีประสิทธิภาพ ด้วยความสำเร็จครั้งสำคัญเมื่อเร็วๆ นี้ และสัญญาในอนาคตที่ดี ความสำเร็จเมื่อเร็วๆ นี้ทำให้เกิดคำถามสำคัญ: เราจะแน่ใจได้อย่างไรว่าพลังที่เพิ่มขึ้นของ AI นั้นตรงกับภูมิปัญญาที่เพิ่มขึ้นซึ่งเราจัดการด้วย ใน จดหมายเปิดผนึก ในปี 2558 กลุ่มนักวิจัย AI ชั้นนำระดับนานาชาติจากภาควิชาการและอุตสาหกรรมแย้งว่าความสำเร็จนี้ทำให้การวิจัยมีความสำคัญและทันเวลา รวมถึงวิธีการทำให้ระบบ AI แข็งแกร่ง และเป็น ประโยชน์รวมถึงทิศทางการวิจัยที่เป็นรูปธรรมที่สามารถ ถูกไล่ล่าในวันนี้ ในต้นปี 2560 กลุ่มผู้นำ AI ในวงกว้างได้ดำเนินการต่อไปและลงนามในหลักการ AI ของ Asilomarซึ่งระบุความต้องการ AI ที่เป็นประโยชน์โดยละเอียดยิ่งขึ้น […]