Get in my Think Art.

Tag: Cotton-Barratt

เพิ่มประสิทธิภาพการวิจัยความปลอดภัยของ AI: บทสัมภาษณ์กับ Owen Cotton-Barratt

เพิ่มประสิทธิภาพการวิจัยความปลอดภัยของ AI: บทสัมภาษณ์กับ Owen Cotton-Barratt

เพิ่มประสิทธิภาพการวิจัยความปลอดภัยของ AI: บทสัมภาษณ์กับ Owen Cotton-Barratt jumbo jili ปัญญาประดิษฐ์ก่อให้เกิดความเสี่ยงมากมายต่อมนุษยชาติ ตั้งแต่ข้อกังวลเรื่องความเป็นส่วนตัว ไปจนถึงอคติแบบอัลกอริทึมและการตัดสินใจแบบ “กล่องดำ” ไปจนถึงคำถามที่กว้างขึ้นเกี่ยวกับการจัดตำแหน่งคุณค่า การพัฒนาตนเองแบบเรียกซ้ำ และความเสี่ยงจากการดำรงอยู่จากความฉลาดหลักแหลม ไม่มีปัญหาด้านความปลอดภัยของ AI สล็อต การวิจัยด้านความปลอดภัยของ AI มีเป้าหมายเพื่อแก้ไขปัญหาเหล่านี้ทั้งหมด แต่ด้วยเงินทุนที่จำกัดและนักวิจัยน้อยเกินไป การแลกเปลี่ยนในการวิจัยจึงหลีกเลี่ยงไม่ได้ เพื่อให้แน่ใจว่าชุมชนความปลอดภัยของ AI สามารถจัดการกับคำถามที่สำคัญที่สุด นักวิจัยต้องจัดลำดับความสำคัญของสาเหตุOwen Cotton-Barratt พร้อมด้วยเพื่อนร่วมงานของเขาที่ Future of Humanity Institute (FHI) และ Center for Effective Altruism (CEA) พิจารณาถึง ‘สาเหตุการจัดลำดับความสำคัญ’ สำหรับชุมชนความปลอดภัยของ AI พวกเขาวิเคราะห์ว่าโครงการใดมีแนวโน้มที่จะช่วยลดความเสี่ยงจากภัยพิบัติหรือการมีอยู่จริงจากระบบ AI […]