การแข่งขันมอบรางวัลความปลอดภัย AI ระดับนานาชาติปี 2018
I. อนาคตของ AI: การเก็บเกี่ยวผลประโยชน์ในขณะที่หลีกเลี่ยงหลุมพราง
เป็นเวลาหลายปีแล้วที่การวิจัยด้านปัญญาประดิษฐ์ (AI) ได้มุ่งเน้นอย่างเหมาะสมกับความท้าทายในการทำให้ AI มีประสิทธิภาพ ด้วยความสำเร็จครั้งสำคัญเมื่อเร็วๆ นี้ และสัญญาในอนาคตที่ดี ความสำเร็จเมื่อเร็วๆ นี้ทำให้เกิดคำถามสำคัญ: เราจะแน่ใจได้อย่างไรว่าพลังที่เพิ่มขึ้นของ AI นั้นตรงกับภูมิปัญญาที่เพิ่มขึ้นซึ่งเราจัดการด้วย ใน จดหมายเปิดผนึก ในปี 2558 กลุ่มนักวิจัย AI ชั้นนำระดับนานาชาติจากภาควิชาการและอุตสาหกรรมแย้งว่าความสำเร็จนี้ทำให้การวิจัยมีความสำคัญและทันเวลา รวมถึงวิธีการทำให้ระบบ AI แข็งแกร่ง และเป็น ประโยชน์รวมถึงทิศทางการวิจัยที่เป็นรูปธรรมที่สามารถ ถูกไล่ล่าในวันนี้ ในต้นปี 2560 กลุ่มผู้นำ AI ในวงกว้างได้ดำเนินการต่อไปและลงนามในหลักการ AI ของ Asilomarซึ่งระบุความต้องการ AI ที่เป็นประโยชน์โดยละเอียดยิ่งขึ้น
หลักการของ Asilomar ประการแรกคือ“ เป้าหมายของการวิจัย AI ควรจะสร้างไม่ใช่ปัญญาที่ไร้ทิศทาง แต่เป็นปัญญาที่เป็นประโยชน์”และข้อที่สองระบุว่า“ การลงทุนใน AI ควรมาพร้อมกับเงินทุนสำหรับการวิจัยเพื่อให้แน่ใจว่ามีประโยชน์รวมถึงคำถามที่มีหนาม ในสาขาวิทยาการคอมพิวเตอร์ เศรษฐศาสตร์ กฎหมาย จริยธรรม และสังคมศึกษา…” เป้าหมายของคำขอข้อเสนอนี้คือการสนับสนุนการวิจัยที่ตอบสนองเป้าหมายเหล่านี้และเป้าหมายอื่น ๆ ที่ระบุโดยหลักการ
จุดเน้นของ RFP นี้อยู่ที่การวิจัยทางเทคนิคหรือโครงการอื่น ๆ ที่ช่วยให้สามารถพัฒนา AI ที่เป็นประโยชน์ต่อสังคมและแข็งแกร่งในแง่ที่ว่าผลประโยชน์มีการรับประกัน: ระบบ AI ของเราต้องทำในสิ่งที่เราต้องการให้พวกเขาทำ
ครั้งที่สอง เกณฑ์การประเมินและคุณสมบัติของโครงการ
การแข่งขันมอบทุนประจำปี 2018 นี้เป็นรอบที่สองของโครงการมอบทุนหลายล้านดอลลาร์ที่ ประกาศในเดือนมกราคม 2015และจะมอบทุนจำนวนนับล้านแก่นักวิจัยในสถาบันการศึกษาและสถาบันไม่แสวงหาผลกำไรอื่นๆ สำหรับโครงการที่มีระยะเวลาสูงสุดสามปี เริ่มตั้งแต่วันที่ 1 กันยายน 2018 . ผลความคืบหน้าจากรอบแรก อยู่ที่นี่. หลังจากการเปิดตัวรอบแรก ด้านความปลอดภัยของ AI ได้ขยายตัวขึ้นอย่างมากในแง่ของสถาบัน กลุ่มวิจัย และแหล่งเงินทุนที่มีศักยภาพที่จะเข้าสู่ภาคสนาม อย่างไรก็ตาม หลายประเด็นเหล่านี้มุ่งเน้นไปที่ประเด็นที่เกิดขึ้นทันทีหรือในระยะสั้นที่เกี่ยวข้องกับการคาดการณ์ของแมชชีนเลิร์นนิงและระบบ AI ในปัจจุบัน เนื่องจากมีการใช้กันอย่างแพร่หลายมากขึ้น ยังมีทรัพยากรค่อนข้างน้อยที่ทุ่มเทให้กับประเด็นที่จะมีความสำคัญหาก/เมื่อการวิจัย AI บรรลุเป้าหมายเดิม: การสร้างปัญญาประดิษฐ์ทั่วไป (AGI) ที่สามารถ (หรือสามารถเรียนรู้ที่จะ) ทำงานได้ดีกว่ามนุษย์ในงานด้านความรู้ความเข้าใจทั้งหมด (ดูหลักการ Asilomar 19- 23).
เพื่อผลลัพธ์เชิงบวกสูงสุดการแข่งขันแบบให้ทุนครั้งใหม่นี้จึงมุ่งเน้นไปที่ Artificial General Intelligenceการวิจัยโดยเฉพาะสำหรับ AGI ที่ปลอดภัยและเป็นประโยชน์ ข้อเสนอการให้ทุนที่ประสบความสำเร็จอาจเกี่ยวข้องโดยตรงกับประเด็นของ AGI หรืออธิบายให้ชัดเจนว่างานที่เสนอเป็นก้าวสำคัญสู่ AGI ที่ปลอดภัยและเป็นประโยชน์ได้อย่างไร
เช่นเดียวกับรอบที่แล้ว การสมัครขอรับทุนจะขึ้นอยู่กับกระบวนการแข่งขันของการตรวจสอบโดยผู้เชี่ยวชาญที่เป็นความลับ คล้ายกับที่ใช้โดยหน่วยงานด้านเงินทุนทางวิทยาศาสตร์รายใหญ่ของสหรัฐฯ โดยผู้ตรวจสอบจะได้รับการยอมรับว่าเป็นผู้เชี่ยวชาญในสาขาที่เกี่ยวข้อง
เงินช่วยเหลือโครงการ (ประมาณ $50,000- $400K ต่อโครงการ) แต่ละโครงการจะให้ทุนแก่ผู้ทำงานร่วมกันกลุ่มเล็กๆ ที่สถาบันวิจัยอย่างน้อยหนึ่งแห่งสำหรับโครงการวิจัยที่มุ่งเน้นระยะเวลาสูงสุดสามปี ข้อเสนอจะได้รับการประเมินตามความ เฉพาะเจาะจง และ ผลกระทบ :
หัวข้อ : RFP นี้จำกัดเฉพาะการวิจัยที่มีจุดมุ่งหมายเพื่อช่วยให้เกิดประโยชน์สูงสุดในสังคมของ AGI โดยไม่ได้มุ่งเน้นอย่างชัดเจนที่เป้าหมายมาตรฐานในการทำให้ AI มีความสามารถมากขึ้น แต่มุ่งเน้นที่การทำให้มีประสิทธิภาพและ/หรือเป็นประโยชน์มากขึ้น ในการปรึกษาหารือกับองค์กรอื่นๆ FLI ได้ระบุรายการปัญหาที่ค่อนข้างเฉพาะและโครงการที่น่าสนใจโดยเฉพาะในด้านความปลอดภัยของ AGI สิ่งเหล่านี้จะเป็นทั้งตัวอย่างและหัวข้อสำหรับการพิจารณาเป็นพิเศษ
ในตัวอย่าง RFP ของเรา เราแสดงรายการหัวข้อการวิจัยและคำถามที่เกี่ยวข้องกับ RFP นี้ นอกจากนี้เรายังดู proposers เพื่อ FLI ของ ภูมิทัศน์ของการวิจัยด้านความปลอดภัย AI และ การสำรวจเอกสารกำกับยาเช่นเดียวกับปี 2015 ลำดับความสำคัญของการวิจัยและการสำรวจที่เกี่ยวข้อง
จำนวนเงินที่เกี่ยวข้องของเงินทุนสำหรับพื้นที่ต่างๆ ไม่ได้ถูกกำหนดไว้ล่วงหน้า แต่จะได้รับการปรับให้เหมาะสมเพื่อสะท้อนถึงจำนวนและคุณภาพของแอปพลิเคชันที่ได้รับ โดยคร่าวๆ ความคาดหวังคือวิทยาการคอมพิวเตอร์ประมาณ 70% และสาขาเทคนิคที่เกี่ยวข้องอย่างใกล้ชิด เศรษฐศาสตร์ กฎหมาย จริยธรรม สังคมวิทยา นโยบาย การศึกษา และการเผยแพร่ประชาสัมพันธ์ประมาณ 30%
ผลกระทบ : ข้อเสนอจะได้รับการจัดอันดับตามผลกระทบเชิงบวกที่คาดหวังต่อดอลลาร์ โดยคำนึงถึงปัจจัยที่เกี่ยวข้องทั้งหมด เช่น:
คุณค่าทางปัญญาที่แท้จริง ความเข้มงวดทางวิทยาศาสตร์ และความคิดริเริ่ม
ผลิตภัณฑ์ที่มีโอกาสประสบความสำเร็จและมีความสำคัญสูงหากประสบความสำเร็จ (เช่น การวิจัยที่มีความเสี่ยงสูงสามารถสนับสนุนได้ตราบเท่าที่ผลตอบแทนที่เป็นไปได้นั้นสูงมากเช่นกัน)
โอกาสที่การวิจัยจะเปิดแนวใหม่ของการสอบสวนทางวิทยาศาสตร์ที่มีผล
ความเป็นไปได้ของการวิจัยในกรอบเวลาที่กำหนด
คุณสมบัติของผู้วิจัยหลักและทีมงานตามหัวข้อที่เสนอ
ส่วนที่ให้ทุนอาจมีบทบาทในการพัฒนาอาชีพ
ประสิทธิผลด้านต้นทุน: สนับสนุนงบประมาณที่จำกัดเพื่อเพิ่มผลการวิจัยของโครงการโดยรวม โดยเน้นที่ผลตอบแทนทางวิทยาศาสตร์ต่อดอลลาร์มากกว่าต่อข้อเสนอ
ศักยภาพในการสร้างผลกระทบต่อชุมชนในวงกว้างและประชาชนทั่วไปผ่านการเผยแพร่และเผยแพร่ผลการวิจัยอย่างมีประสิทธิผล
การมีส่วนร่วมของชุมชนที่เหมาะสม (เช่น การมีส่วนร่วมของผู้ร่วมวิจัย [หรือผู้กำหนดนโยบาย] ในเรื่องความปลอดภัยของ AI นอกอเมริกาเหนือและยุโรป)
ข้อเสนอที่แข็งแกร่งจะทำให้ FLI ประเมินผลกระทบได้ง่ายโดยระบุอย่างชัดเจนถึงสิ่งที่พวกเขาตั้งเป้าไว้ (สิ่งพิมพ์ อัลกอริธึม ซอฟต์แวร์ เหตุการณ์ ฯลฯ) และเมื่อใด (หลังจากปีที่ 1, 2 และ 3 เป็นต้นไป) ข้อเสนอจะมีให้โดยเสรี (สิ่งพิมพ์แบบเปิด ซอฟต์แวร์โอเพ่นซอร์ส ฯลฯ) ตามความเหมาะสม
เพื่อเพิ่มผลกระทบต่อดอลลาร์ให้เกิดประโยชน์สูงสุด RFP นี้มีจุดมุ่งหมายเพื่อเสริม ไม่ใช่เสริม เงินทุนทั่วไป เราต้องการเปิดใช้งานการวิจัยที่เนื่องจากการมุ่งเน้นในระยะยาวหรือลักษณะที่ไม่ใช่เชิงพาณิชย์ การเก็งกำไร หรือไม่ใช่กระแสหลัก มิฉะนั้นจะไม่มีประสิทธิภาพเนื่องจากขาดทรัพยากรที่มีอยู่ ดังนั้น แม้ว่าจะมีการทับซ้อนกันอย่างหลีกเลี่ยงไม่ได้ แต่ข้อเสนอที่เข้มงวดทางวิทยาศาสตร์ซึ่งเป็นผู้สมัครที่ดีสำหรับการให้ทุน FLI โดยทั่วไปจะไม่เป็นผู้สมัครที่ดีสำหรับการระดมทุนโดย NSF, DARPA, R&D ขององค์กร ฯลฯ – และในทางกลับกัน เพื่อให้มีคุณสมบัติเหมาะสม การวิจัยต้องมุ่งเน้นที่การทำให้ AI แข็งแกร่ง/มีประโยชน์มากขึ้น เมื่อเทียบกับเป้าหมายมาตรฐานในการทำให้ AI มีความสามารถมากขึ้น และจะต้องเกี่ยวข้องกับ AGI
การใช้เงินทุนสนับสนุนที่ยอมรับได้สำหรับ Project Grants ได้แก่:
เงินเดือนและสวัสดิการนักศึกษา/หลังปริญญาเอก/นักวิจัย
เงินเดือนภาคฤดูร้อนและการสอนแบบกู้ยืมเงินสำหรับนักวิชาการ
การสนับสนุนโครงการเฉพาะในช่วงวันหยุด
ความช่วยเหลือในการเขียนหรือจัดพิมพ์หนังสือหรือบทความในวารสาร รวมถึงค่าหน้าเพจ
ค่าเผื่อเล็กน้อยสำหรับอุปกรณ์ห้องปฏิบัติการคอมพิวเตอร์และอุปกรณ์การวิจัยอื่น ๆ ที่สมเหตุสมผล
ค่าเดินทางพอประมาณ
การพัฒนาเวิร์กช็อป การประชุม หรือการบรรยายสำหรับมืออาชีพในสาขาที่เกี่ยวข้อง
ค่าโสหุ้ยสูงสุด 15% (โปรดทราบว่าหากนี่เป็นปัญหากับสถาบันของคุณ หรือหากองค์กรของคุณไม่แสวงหาผลกำไร คุณสามารถติดต่อ FLI เพื่อเรียนรู้เกี่ยวกับองค์กรอื่นๆ ที่สามารถช่วยจัดการเงินช่วยเหลือ FLI ให้กับคุณได้)
Subawards ท้อแท้แต่เป็นไปได้ในสถานการณ์พิเศษ
สาม. ขั้นตอนการสมัคร
เพื่อประหยัดเวลาสำหรับทั้งคุณและผู้ตรวจสอบใบสมัครจะได้รับการยอมรับทางอิเล็กทรอนิกส์ผ่านแบบฟอร์มมาตรฐานบนเว็บไซต์ของเรา (คลิกที่นี่สำหรับใบสมัคร) และประเมินผลเป็นสองส่วนดังนี้:
ข้อเสนอเบื้องต้น — ครบกำหนด 25 กุมภาพันธ์ 2018, 23:59 น. ตามเวลาตะวันออก — ต้องรวมถึง:
สรุปโครงการ 200-500 คำ โดยระบุอย่างชัดเจนว่าเหตุใดจึงเป็นหัวข้อเฉพาะและมีผลกระทบ
ร่างคำอธิบายงบประมาณไม่เกิน 200 คำ รวมถึงค่าใช้จ่ายทั้งหมดโดยประมาณตลอดอายุรางวัลและคำอธิบายว่าจะใช้เงินอย่างไร
PDF Curriculum Vitae for the Principal Investigator รวมถึง
ประวัติการศึกษาและการจ้างงาน
รายการสิ่งพิมพ์ฉบับเต็ม
ไม่บังคับ: หาก PI มีสิ่งพิมพ์ก่อนหน้านี้ที่เกี่ยวข้องกับการวิจัยที่เสนอ พวกเขาอาจระบุรายการได้สูงสุดห้ารายการเช่นกัน รวมตัวแทนและสิ่งพิมพ์ที่เกี่ยวข้องสูงสุด 10 รายการ เราต้องการที่จะสนับสนุนให้ PI เข้าสู่พื้นที่การวิจัยที่เกี่ยวข้องซึ่งพวกเขาอาจไม่เคยมีโอกาสมาก่อน ดังนั้นจึงไม่จำเป็นต้องมีการเผยแพร่ที่เกี่ยวข้องก่อนหน้านี้
คณะกรรมการตรวจสอบที่ประกอบโดย FLI จะกลั่นกรองข้อเสนอเริ่มต้นแต่ละรายการตามเกณฑ์ในส่วนที่ II จากการประเมินของพวกเขา ผู้วิจัยหลัก (PI) อาจได้รับเชิญให้ส่งข้อเสนอฉบับสมบูรณ์ในวันที่หรือประมาณวันที่ 23 มีนาคม 2018 โดยอาจได้รับข้อเสนอแนะจากผู้ตรวจสอบเพื่อปรับปรุงข้อเสนอ โปรดทราบว่าไม่ว่าผู้ตรวจทานในเชิงบวกอาจเกี่ยวกับข้อเสนอในขั้นใดก็ตาม แต่อาจยังคงถูกปฏิเสธการให้เงินสนับสนุนหลังจากการตรวจสอบโดยเพื่อนฉบับสมบูรณ์
ข้อเสนอทั้งหมด — ครบกำหนด 20 พฤษภาคม 2018 — ต้องรวมถึง:
ใบปะหน้า
บทคัดย่อโครงงาน 200 คำ เหมาะสำหรับตีพิมพ์ในวารสารวิชาการ
สรุปโครงงานไม่เกิน 200 คำ อธิบายงานและความสำคัญต่อฆราวาส
คำอธิบายโดยละเอียดของงานวิจัยที่เสนอ โดยมีหน้า 11 จุดที่เว้นระยะระหว่าง 5 ถึง 15 หน้า รวมถึงข้อความสั้นๆ ว่าใบสมัครเหมาะสมกับโครงการวิจัยปัจจุบันของผู้สมัครอย่างไร และคำอธิบายว่าผลลัพธ์จะสื่อสารออกไปในวงกว้างได้อย่างไร วงการวิทยาศาสตร์และประชาชนทั่วไป
งบประมาณโดยละเอียดตลอดอายุของรางวัล พร้อมการแจกแจงเหตุผลและการใช้ประโยชน์ (ควรร่างโดยเจ้าหน้าที่ให้ทุนของสถาบันหรือเทียบเท่า)
รายชื่อสำหรับบุคลากรอาวุโสของโครงการทุกคน ของการสนับสนุนทางการเงินทั้งหมดที่มีอยู่และที่รอดำเนินการ รวมถึงชื่อโครงการ แหล่งเงินทุน วันที่ จำนวนเงิน และสถานะ (ปัจจุบันหรืออยู่ระหว่างดำเนินการ)
หลักฐานแสดงสถานะการยกเว้นภาษีของสถาบันผู้รับทุน หากไม่ใช่มหาวิทยาลัยในสหรัฐอเมริกา สำหรับข้อมูลเกี่ยวกับการกำหนดสถานะการยกเว้นภาษีขององค์กรและสถาบันระหว่างประเทศ โปรดดูข้อมูลที่นี่
ทางเลือก: ชื่อผู้ตัดสินที่แนะนำสามคน
Curricula Vitae สำหรับบุคลากรอาวุโสของโครงการทุกคน รวมไปถึง:
ประวัติการศึกษาและการจ้างงาน
รายการอ้างอิงของสิ่งพิมพ์ก่อนหน้าสูงสุดห้าฉบับที่เกี่ยวข้องกับการวิจัยที่เสนอ และสิ่งพิมพ์ที่เป็นตัวแทนเพิ่มเติมสูงสุดห้ารายการ
รายการสิ่งพิมพ์ฉบับเต็ม
[NPC5]ข้อเสนอฉบับสมบูรณ์จะผ่านกระบวนการแข่งขันของผู้เชี่ยวชาญภายนอกและการตรวจสอบโดยผู้เชี่ยวชาญที่เป็นความลับ โดยประเมินตามเกณฑ์ที่อธิบายไว้ในส่วนที่ III คณะกรรมการตรวจสอบของนักวิทยาศาสตร์ในสาขาที่เกี่ยวข้องจะประชุมกันเพื่อจัดลำดับข้อเสนอขั้นสุดท้าย ซึ่งจะกำหนดผู้ชนะทุน และทำการปรับงบประมาณหากจำเป็น คำแนะนำเกี่ยวกับรางวัลสาธารณะจะมีขึ้นในหรือประมาณวันที่ 31 กรกฎาคม 2018