Get in my Think Art.

Day: September 11, 2021

ปัญหาการใช้เหตุผลในการอ้างอิงตนเองใน AI ที่พัฒนาตนเอง: บทสัมภาษณ์กับ Ramana Kumar ตอนที่ 2

ปัญหาการใช้เหตุผลในการอ้างอิงตนเองใน AI ที่พัฒนาตนเอง: บทสัมภาษณ์กับ Ramana Kumar ตอนที่ 2

ปัญหาการใช้เหตุผลในการอ้างอิงตนเองใน AI ที่พัฒนาตนเอง: บทสัมภาษณ์กับ Ramana Kumar ตอนที่ 2 jumbo jili เมื่อพูดถึงปัญญาประดิษฐ์ การโต้เถียงมักเกิดขึ้นเกี่ยวกับการกระทำที่ “ปลอดภัย” และ “ไม่ปลอดภัย” ในฐานะที่เป็นRamana Kumarนักวิจัยด้านความปลอดภัยของ AGI ที่DeepMindได้ตั้งข้อสังเกตว่าข้อกำหนดนี้เป็นแบบอัตนัยและ “สามารถกำหนดได้เฉพาะในส่วนที่เกี่ยวกับค่าของผู้ใช้และผู้รับผลประโยชน์ของระบบ AI เท่านั้น” สล็อต โชคดีที่คำถามเหล่านี้มักถูกมองข้ามเมื่อเผชิญกับปัญหาทางเทคนิคที่เกี่ยวข้องกับการสร้างตัวแทน AI ที่ปลอดภัย เนื่องจากปัญหาเหล่านี้ไม่ได้เกี่ยวข้องกับการระบุว่าอะไรถูกหรือเหมาะสมทางศีลธรรม จากมุมมองทางเทคนิค คำว่า “ความปลอดภัย” ถูกกำหนดได้ดีที่สุดในฐานะตัวแทน AI ที่ดำเนินการอย่างสม่ำเสมอซึ่งนำไปสู่ผลลัพธ์ที่ต้องการ โดยไม่คำนึงถึงผลลัพธ์ที่ต้องการเหล่านั้นในแง่นี้ Kumar อธิบายว่า เมื่อพูดถึงการสร้างเอเจนต์ AI ที่ได้รับมอบหมายให้ปรับปรุงตัวเอง “ปัญหาทางเทคนิคของการสร้างตัวแทนที่ปลอดภัยนั้นส่วนใหญ่ไม่ขึ้นกับความหมายของคำว่า ‘ปลอดภัย’ เนื่องจากปัญหาส่วนใหญ่เป็นอย่างไร เพื่อสร้างตัวแทนที่ทำบางสิ่งได้อย่างน่าเชื่อถือ ไม่ว่าสิ่งนั้นคืออะไร ในลักษณะที่วิธีการทำงานต่อไปแม้ในขณะที่ตัวแทนที่กำลังพิจารณาจะมีความสามารถมากขึ้นเรื่อยๆ”กล่าวโดยย่อ […]

AI Alignment Podcast: ภาพรวมของการจัดแนว AI ทางเทคนิคกับ Rohin Shah (ตอนที่ 1)

AI Alignment Podcast: ภาพรวมของการจัดแนว AI ทางเทคนิคกับ Rohin Shah (ตอนที่ 1)

AI Alignment Podcast: ภาพรวมของการจัดแนว AI ทางเทคนิคกับ Rohin Shah (ตอนที่ 1) jumbo jili พื้นที่ของการวิจัยการจัดตำแหน่ง AI นั้นมีไดนามิกสูงและมักจะเป็นเรื่องยากที่จะได้ภาพทิวทัศน์จากมุมสูง พอดคาสต์นี้เป็นส่วนแรกของสองส่วนที่พยายามแก้ไขบางส่วนโดยให้ภาพรวมขององค์กรที่เข้าร่วมในการวิจัย AI ทางเทคนิค ทิศทางการวิจัยเฉพาะของพวกเขา และวิธีที่แนวทางเหล่านี้ทั้งหมดมารวมกันเพื่อประกอบเป็นความพยายามในการจัดแนว AI ทางเทคนิค ในส่วนแรกนี้ Rohin เคลื่อนตัวตามลำดับผ่านองค์กรวิจัยทางเทคนิคในพื้นที่นี้และแกะสลักผ่านพื้นที่นี้ด้วยปรัชญาการวิจัยที่แตกต่างกัน นอกจากนี้เรายังเจาะลึกข้อมูลเฉพาะของแนวทางต่างๆ มากมายในด้านความปลอดภัยของ AI สำรวจจุดที่พวกเขาไม่เห็นด้วย หารือเกี่ยวกับคุณสมบัติต่างๆ ที่พยายามพัฒนา/รักษา และรับฟังความคิดเห็นของ Rohin ในแนวทางต่างๆ เหล่านี้ สล็อต ในพอดแคสต์นี้ ลูคัสได้พูดคุยกับโรฮิน ชาห์ Rohin เป็นนักศึกษาปริญญาเอกปีที่ 5 ที่ UC Berkeley […]