NS กรณีสำหรับอาคารความเชี่ยวชาญถึงงานบนเรา AI นโยบาย,และอย่างไรถึงทำมัน
ที่ 80,000 ชั่วโมง เราคิดว่าผู้คนจำนวนมากควรสร้างความเชี่ยวชาญเพื่อทำงานตามนโยบายของสหรัฐอเมริกา (US) ที่เกี่ยวข้องกับผลกระทบระยะยาวของการพัฒนาและการใช้ปัญญาประดิษฐ์ (AI)
ในบทความนี้ เราจะลงรายละเอียดเพิ่มเติมเกี่ยวกับการอ้างสิทธิ์นี้ ตลอดจนอภิปรายข้อโต้แย้งที่เห็นด้วยและคัดค้าน นอกจากนี้เรายังสรุปสั้น ๆ ว่าเส้นทางอาชีพใดที่มุ่งเป้าหมายและหารือว่าคนประเภทใดที่เราคิดว่าน่าจะเหมาะกับบทบาทเหล่านี้มากที่สุด
บทความนี้อิงจากการสนทนาหลายครั้งกับเจ้าหน้าที่ระดับสูงของรัฐบาลสหรัฐฯ สามคน พนักงานของรัฐบาลกลางสามคนที่ทำงานเกี่ยวกับปัญหาด้านวิทยาศาสตร์และเทคโนโลยี เจ้าหน้าที่รัฐสภาสามคน และบุคคลอื่นๆ อีกหลายคนที่เคยทำหน้าที่เป็นที่ปรึกษารัฐบาลจากภายในสถาบันการศึกษาและองค์กรไม่แสวงหาผลกำไร เรายังได้พูดคุยกับนักวิทยาศาสตร์วิจัยหลายคนที่ห้องปฏิบัติการ AI ชั้นนำและในแวดวงวิชาการ ตลอดจนผู้เชี่ยวชาญที่เกี่ยวข้องจากมูลนิธิและองค์กรไม่แสวงหาผลกำไร
อายุยัง 20 ปี Terah Lyons ได้ก้าวขึ้นสู่จุดสูงสุดของโลกนโยบายปัญญาประดิษฐ์ (AI)
ไม่ถึงสองปีหลังจากสำเร็จการศึกษาระดับปริญญาตรีจากฮาร์วาร์ด เธอทำงานในทำเนียบขาวของโอบามา โดยเขียนรายงานเกี่ยวกับนโยบายของฝ่ายบริหารเกี่ยวกับ AI ที่นั่นเธอได้ก่อตั้ง White House Initiative เกี่ยวกับ AI ซึ่งเป็นผู้นำแคมเปญเผยแพร่ประชาสัมพันธ์ระดับชาติเกี่ยวกับนโยบาย AI
วันนี้ เธอเป็นผู้นำ Partnership on AI ซึ่งเป็นองค์กรไม่แสวงผลกำไรที่ก่อตั้งโดย Facebook, Amazon, Google และยักษ์ใหญ่ด้านเทคโนโลยีอื่นๆ องค์กรไม่แสวงหากำไรนี้มีจุดมุ่งหมายที่จะพัฒนาและแบ่งปันแนวปฏิบัติที่ดีที่สุดเกี่ยวกับ AI และประกอบด้วยพันธมิตรตั้งแต่ ACLU ถึง Apple ไปจนถึง Future of Humanity Institute ที่ Oxford University
Terah เป็นแนวหน้าของกลุ่มผู้เชี่ยวชาญด้านนโยบายที่กำลังเติบโตซึ่งพยายามต่อสู้กับผลกระทบของ AI ที่จะเกิดขึ้นในศตวรรษที่ 21
ปัญหาที่ต้องแก้ไข
“ในขณะที่เราพิจารณาถึงแนวทางเชิงบวกทั้งหมดที่จะใช้ AI ในอนาคต รัฐบาลยังต้องพิจารณาถึงวิธีที่มันสามารถนำมาใช้เพื่อทำร้ายบุคคลและสังคม และเตรียมพร้อมสำหรับวิธีการบรรเทาอันตรายเหล่านี้”
— คณะอนุกรรมการเทคโนโลยีสารสนเทศ คณะกรรมการกำกับดูแลและการปฏิรูปรัฐบาล สภาผู้แทนราษฎรแห่งสหรัฐอเมริกากันยายน 2561
ที่ 80,000 ชั่วโมง เราคิดว่าสิ่งหนึ่งที่สร้างผลกระทบมากที่สุดที่ผู้คนสามารถทำได้คือการทำให้มั่นใจว่าการเปลี่ยนผ่านสู่โลกที่มีเทคโนโลยี AI ขั้นสูงจะเป็นประโยชน์ต่อมนุษยชาติทั้งหมด เราไม่พยายามที่จะพิสูจน์ข้อเรียกร้องนี้ที่นี่ แต่เราจะเรียกให้ผู้อ่านเหล่านี้ หนังสือและทรัพยากรเหล่านี้จะทำให้กรณีนี้
เราสามารถจัดหมวดหมู่ความก้าวหน้าที่ต้องทำเป็นสองส่วนกว้างๆ: ความปลอดภัยของ AI และนโยบาย AI เรากล่าวถึงแต่ละพื้นที่ด้านล่าง
ความปลอดภัยของ AI
“[T] โหมดความล้มเหลวของเทคโนโลยี AI นั้นไม่ค่อยเข้าใจ [การทำงานเพื่อทำให้ AI แข็งแกร่งขึ้น] เป็นสิ่งจำเป็นสำหรับกระทรวงกลาโหมในการปรับใช้เทคโนโลยี AI โดยเฉพาะอย่างยิ่งกับขอบยุทธวิธีที่ต้องการประสิทธิภาพที่เชื่อถือได้”
— คำอธิบาย AI Next Campaign , DARPA , US Department of Defense, กันยายน 2018
ความก้าวหน้าประเภทหนึ่งอยู่ที่การวิจัยด้านความปลอดภัยของ AI ตามที่อธิบายในโปรไฟล์ของเราเกี่ยวกับปัญหานี้ ฟิลด์ย่อยนี้ในวิทยาการคอมพิวเตอร์ได้ตอบคำถามทางเทคนิคเกี่ยวกับวิธีตรวจสอบให้แน่ใจว่าระบบ AI ขั้นสูงทำในสิ่งที่เราต้องการให้พวกเขาทำโดยไม่มีผลข้างเคียงที่ไม่ต้องการ มันถูกศึกษาโดยกลุ่มที่ชอบศ. จวร์ตรัสเซลเซ็นเตอร์ได้ที่มนุษย์ได้ AIที่มหาวิทยาลัยเบิร์กลีย์ทีมความปลอดภัยของ OpenAI , ทีมความปลอดภัย DeepMind ของฟอร์ดของมหาวิทยาลัยในอนาคตของมนุษยชาติกลุ่มความปลอดภัยของสถาบัน ,และMIRI
ทีมความปลอดภัยของ DeepMind ให้ภาพรวมระดับสูงที่ดีของงานที่จำเป็นในฟิลด์นี้ในโพสต์นี้ ภาพรวมภูมิทัศน์ทางเลือกมีอยู่ใน ‘ ปัญหาที่เป็นรูปธรรมในความปลอดภัยของ AI ‘ ( สรุป ) นอกจากนี้เรายังมีพอดคาสต์กับ Paul Christiano นักวิจัยด้านความปลอดภัยของ OpenAIซึ่งให้รายละเอียดเกี่ยวกับมุมมองของเขาในด้านนี้
นโยบาย AI
ประเภทอื่น ๆ ของความคืบหน้าต้องเป็นในสิ่งที่ OpenAI ได้เรียกท้าทายนโยบาย AI ด้านล่างนี้คือการจัดหมวดหมู่โดยย่อบางส่วนที่ทับซ้อนกันของปัญหาที่เป็นศูนย์กลางของความท้าทายด้านนโยบาย AI ที่เรากังวลมากที่สุด:
สร้างความมั่นใจว่าการแบ่งปันผลประโยชน์ในวงกว้างจากการพัฒนาระบบ AI ที่ทรงพลัง
หลีกเลี่ยงการแข่งขันทางการทหารที่ทวีความรุนแรงขึ้นหรือความขัดแย้งที่เกิดจากระบบ AI ที่ทรงพลังมากขึ้น
ตรวจสอบให้แน่ใจว่ากลุ่มที่พัฒนา AI ทำงานร่วมกันเพื่อหลีกเลี่ยงการพัฒนาที่เป็นคู่แข่งและกำลังพัฒนาและใช้คุณลักษณะด้านความปลอดภัยแทน
เมื่อเราพูดถึงนโยบาย AI ที่นี่ เราไม่ได้หมายถึงกฎหมายและนโยบายที่เป็นทางการเท่านั้น แต่ยังหมายถึงบรรทัดฐานที่ใช้ร่วมกันระหว่างนักแสดง แนวปฏิบัติที่ดีที่สุด สัญญาส่วนตัว และอื่นๆ
เราไม่ได้ลงรายละเอียดเกี่ยวกับความท้าทายของนโยบาย AI ที่นี่ แต่จะอ้างอิงผู้อ่านไปยังโพสต์นี้ซึ่งสรุปหัวข้อและให้ตัวอย่างงานที่เป็นประโยชน์ในพื้นที่นี้
การอัปเดตในเดือนธันวาคม 2020: ในขณะที่เขียนบทความนี้ในปี 2018 ชุมชนการกำกับดูแล AI ยังไม่ได้กำหนดเงื่อนไขสำหรับความท้าทายด้านนโยบาย AIดังนั้นเราจึงใช้คำศัพท์ที่ OpenAI เสนอ หากเราเขียนบทความนี้ในวันนี้ เราน่าจะใช้คำว่าAI ธรรมาภิบาลแทนตาม GovAI ที่ Oxford UniversityและOpen Philanthropyเนื่องจากคำนี้ได้รับการนำไปใช้อย่างกว้างขวาง
ที่ 80,000 ชั่วโมง เราคิดว่าการสร้างความมั่นใจว่า AI ขั้นสูงจะเป็นประโยชน์ต่อมนุษยชาติทั้งหมดจำเป็นต้องมีความก้าวหน้าอย่างมากทั้งในด้านความปลอดภัยของ AI และการกำกับดูแล AI โดยเฉพาะอย่างยิ่งในงานที่มีมุมมองระยะยาวซึ่งพิจารณาระบบ AI ขั้นสูง ความประทับใจของเราคือสองหัวข้อนี้มีความสำคัญคล้ายกัน เนื่องจากทั้งสองดูเหมือนจะแก้ไขได้ยาก และเพราะดูเหมือนว่าเราจะต้องแก้ปัญหาทั้งสองหัวข้อเพื่อดูผลลัพธ์ที่เป็นประโยชน์จากการปรับใช้ระบบ AI ขั้นสูง แม้ว่าเราจะเห็นว่าความท้าทายทั้งสองนี้มีความสำคัญใกล้เคียงกัน แต่ความปลอดภัยของ AI นั้นเป็นสาขาที่เก่ากว่า ดังนั้นในปัจจุบันจึงมีผู้คนที่ทำงานเกี่ยวกับความปลอดภัยของ AI มากกว่าที่ทำงานเกี่ยวกับนโยบาย AI เราเคยเขียนเกี่ยวกับความปลอดภัยของ AI มาก่อนและในส่วนที่เหลือของบทความนี้ เราเน้นที่นโยบาย AI
AI ขั้นสูงเป็นปัญหาการประสานงาน
“เรามีความท้าทายในการประสานงาน และจำเป็นต้องหาจุดโฟกัส… ที่ช่วยให้เราทำงานร่วมกันอย่างสร้างสรรค์เพื่อต่อสู้กับปัญหาเหล่านี้ในวันพรุ่งนี้ — ด้วยข้อมูลเพิ่มเติม และเมื่อความปลอดภัยของเราไม่ตกอยู่ในอันตราย”
— Brendan McCord, Joint AI Center, กระทรวงกลาโหมสหรัฐ, พูดที่ The Aspen Instituteในเดือนพฤศจิกายน 2018
เช่นเดียวกับปัญหาสมัยใหม่อื่นๆ การกำกับดูแล AI ถือเป็นปัญหาการประสานงาน 4องค์ประกอบหนึ่งของปัญหาการประสานงานนี้คือการรับรู้ถึงรางวัลจากการเร่งพัฒนาความสามารถของ AI อาจสร้างการแข่งขันจากด้านล่างสุด นั่นคือพวกเขาสร้างแรงจูงใจในการตัดการวิจัยเกี่ยวกับความปลอดภัยของ AIและมุ่งเน้นไปที่การเพิ่มความสามารถของ AI เพื่อก้าวไปข้างหน้าในการแข่งขันที่รับรู้
การแข่งรถในลักษณะนี้อาจเป็นการต่อต้านแม้กระทั่งจากผลประโยชน์ส่วนตัวของนักแสดง 5นอกจากนี้การรับรู้หรือเข้าใจการแข่งขันจะรุนแรงการพัฒนาของคู่แข่ง6เป็นแข่งขันทางด้านอาวุธนิวเคลียร์ได้ในช่วงสงครามเย็นที่อาจเกิดขึ้นแม้กระทั่งนำไปสู่ความขัดแย้ง ในสถานการณ์เช่นนี้ การขาดการประสานงานจะเสี่ยงต่อผลลัพธ์ที่แย่ที่สุดสำหรับผู้ดำเนินการทุกคน ในขณะที่การตอบสนองที่ประสานกันซึ่งฝ่ายต่างๆ ให้คำมั่นล่วงหน้าอย่างน่าเชื่อถือในการแบ่งปันผลประโยชน์ในวงกว้างอาจให้ผลลัพธ์ที่ดีสำหรับทุกคน 7
การแก้ปัญหาการประสานงานในลักษณะนี้จะต้องใช้การประสานงานระหว่างผู้เล่นหลักจำนวนหนึ่ง เป็นเรื่องยากที่จะทราบว่านักแสดงคนใดอาจมีส่วนร่วมในการพัฒนาระบบ AI ขั้นสูง แต่ผู้สมัครที่เป็นไปได้นั้นรวมถึงห้องปฏิบัติการและรัฐการพัฒนา AI ชั้นนำ
คำจำกัดความ: ปัญญาประดิษฐ์ทั่วไปและระบบ AI ขั้นสูงประเภทอื่น
ปัญญาประดิษฐ์ทั่วไป (AGI)เป็นระบบที่มีอิสระสูงตามสมมุติฐานที่เรากำหนดว่าสามารถทำงานได้ดีกว่ามนุษย์ในงานที่มีคุณค่าทางเศรษฐกิจมากที่สุด 8คำนี้มักใช้ตรงกันข้ามกับAI แบบแคบซึ่งสามารถทำงานได้ดีกว่ามนุษย์ในงานทางปัญญาเฉพาะเช่นการเล่นเกมกระดาน Go แต่ไม่สามารถดำเนินการนอกขอบเขตความเชี่ยวชาญได้เช่นหากอัลกอริทึมพยายามควบคุมหุ่นยนต์ที่พยายาม เพื่อจัดโต๊ะ
ทั้ง AGI และ AI แบบแคบอยู่ในสเปกตรัม และเราใช้คำว่าระบบ AI ขั้นสูงเป็นคำที่คลุมเครือและกว้างกว่าซึ่งรวมถึง AGI และระบบ AI แบบแคบในอนาคตที่มีความสามารถน้อยกว่า AGI แต่ยังมีความสามารถมากกว่าระบบ AI ที่มีอยู่ในปัจจุบันอย่างมาก .
นักแสดงหลัก
ในขณะนี้ การวิจัยและพัฒนา AI ที่ล้ำสมัยที่สุดดำเนินการโดยนักแสดงเอกชนที่ไม่ใช่ภาครัฐ ห้องปฏิบัติการ AI ชั้นนำที่กำลังพัฒนา AGI ได้แก่ DeepMind และ OpenAI
นักวิจัยที่ DeepMind และ OpenAI กำลังศึกษาความท้าทายด้านนโยบาย AI และการสนทนาเกี่ยวกับวิธีการดำเนินการในประเด็นเหล่านี้เกิดขึ้นผ่านกลุ่มอุตสาหกรรม เช่น ความร่วมมือด้าน AI ที่Terah Lyonsทำงาน
รัฐบาลมักมีอำนาจหน้าที่ในการแก้ไขปัญหาสังคมที่กดดัน ดังนั้นจึงลงทุนน้อยลงในปัญหาระยะยาวและปัญหาการเก็งกำไรมากขึ้น ด้วย AI การรวมกันของความไม่แน่นอนและอัตราความก้าวหน้าทางเทคโนโลยีที่อาจรวดเร็วทำให้ผลกระทบระยะยาวอาจเกี่ยวข้องกับการตัดสินใจในไม่ช้า อย่างไรก็ตาม เรายังไม่เห็นหลักฐานว่ารัฐบาลมีส่วนร่วมกับการเก็งกำไรและความเสี่ยงในระยะยาว เราพูดคุยญาติขาดการมีส่วนร่วมโดยรัฐบาลสหรัฐฯในระบบ AI ที่สูงขึ้นในส่วนด้านล่าง
มีหลายวิธีในการปรับปรุงการประสานงานระหว่างนักแสดงที่อาจเกี่ยวข้องกับความท้าทายนี้ เมื่อพิจารณาถึงความทะเยอทะยานของจีนที่จะเป็นผู้นำโลกในด้าน AI ภายในปี 2573 เราคิดว่าทางเลือกอื่นที่มีแนวโน้มจะเป็น”ผู้เชี่ยวชาญของจีน”โดยมุ่งเน้นที่ AI เราครอบคลุมเส้นทางนี้ที่อื่น
ในบทความนี้ เราพูดถึงสิ่งที่เราคิดว่าเป็นหนึ่งในเส้นทางที่สำคัญที่สุดและถูกละเลย: ช่วยพัฒนานโยบายที่เกี่ยวข้องกับการพัฒนาและการนำระบบ AI ขั้นสูงไปใช้ในสังคม โดยมุ่งเน้นที่รัฐบาลสหรัฐฯ
งานนี้อาจเกี่ยวข้องกับการวิจัยกลยุทธ์ที่สามารถช่วยเพิ่มโอกาสของผลลัพธ์ที่ดี หรือช่วยกำหนดหรือใช้นโยบายของรัฐบาลเกี่ยวกับกลยุทธ์ที่มีแนวโน้มว่าจะเป็นไปได้ หรือทั้งสองอย่างรวมกัน
เราคิดว่าสำหรับผู้อ่านที่เป็นพลเมืองสหรัฐฯ อาชีพด้านนโยบายสาธารณะของ AI อาจเป็นหนึ่งในโอกาสทางอาชีพที่มีผลกระทบมากที่สุดในปัจจุบัน
เราหมายถึงอะไรโดยอาชีพด้านนโยบายสาธารณะของ US AI?
เรากำลังกำหนดอาชีพด้านนโยบายสาธารณะของ AI ของสหรัฐอเมริกาว่าเป็นเส้นทางอาชีพใดๆ ที่มีเป้าหมายหลักเพื่อปรับปรุงการมีส่วนร่วมและตอบสนองต่อ AI ในท้ายที่สุดของรัฐบาลสหรัฐฯ
ส่วนใดของนโยบาย AI ที่เราคิดว่าสำคัญที่สุดในการทำงาน
ภายในหมวดหมู่อาชีพด้านนโยบายสาธารณะของ AI ของสหรัฐอเมริกา เรามีความสนใจเป็นพิเศษในอาชีพที่มุ่งปรับปรุงการตอบสนองของรัฐบาลในท้ายที่สุด และการมีส่วนร่วมกับระบบ AI ขั้นสูง เนื่องจากเราคิดว่าสิ่งนี้น่าจะรวมถึงโอกาสที่ส่งผลกระทบสูงสุดในสาขา นโยบายสาธารณะของ AI เนื่องจากระบบที่ทรงพลังกว่ามักจะส่งผลกระทบทางสังคมมากกว่า และสถานการณ์กรณีเลวร้ายที่สุดมีแนวโน้มที่จะเป็นหายนะมากกว่าด้วยระบบ AI ขั้นสูง
[NPC5]แม้ว่าระบบ AI ขั้นสูงจะมีผลกระทบเกินขนาด แต่การตัดสินใจในวันนี้อาจเป็นกุญแจสำคัญในการกำหนดสภาพแวดล้อมที่มีการพัฒนาและปรับใช้ระบบ AI ขั้นสูง มีแนวโน้มว่าจะมีการพึ่งพาเส้นทางและการวนรอบความคิดเห็นในวิธีที่ผู้คนคิดและตอบสนองต่อปัญหา AI ปัจจุบันที่จะส่งผลกระทบต่อการพัฒนาศักยภาพและการใช้งานระบบ AI ขั้นสูง 9
ในทำนองเดียวกัน วันนี้เราสามารถเรียนรู้และช่วยสร้างความไว้วางใจและความร่วมมือในประเด็นระยะสั้น ก่อนที่จะจัดการกับความท้าทายด้านนโยบายที่ยุ่งยากมากขึ้นซึ่งเกี่ยวข้องกับระบบ AI ขั้นสูง นอกจากนี้ ประเด็นปัจจุบันใน AI ยังให้โอกาสในการสร้างความเชี่ยวชาญ อิทธิพล ความสัมพันธ์ และทุนในอาชีพ