Get in my Think Art.

พอดคาสต์: AI ที่เป็นประโยชน์และความหวังที่มีอยู่ในปี 2018

พอดคาสต์: AI ที่เป็นประโยชน์และความหวังที่มีอยู่ในปี 2018

พอดคาสต์: AI ที่เป็นประโยชน์และความหวังที่มีอยู่ในปี 2018

jumbo jili

สำหรับพวกเราส่วนใหญ่ ปี 2017 เป็นรถไฟเหาะ ตั้งแต่ภัยคุกคามด้านนิวเคลียร์ที่เพิ่มขึ้นไปจนถึงความก้าวหน้าอันน่าทึ่งใน AI ไปจนถึงวงจรข่าวที่บ้าคลั่ง แต่ถึงแม้ว่าข่าวต่างๆ จะท้อใจได้ง่าย แต่เราที่ FLI ก็พบว่าตัวเองมีความหวังว่าเรายังคงสามารถสร้างอนาคตที่สดใสได้ ในตอนนี้ ทีม FLI กล่าวถึงปีที่ผ่านมาและโมเมนตัมที่เราได้สร้างขึ้น ซึ่งรวมถึง: Asilomar Principles, การแข่งขันด้านความปลอดภัย AI 2018 ของเรา, การประชุมเชิงปฏิบัติการ Long Beach ล่าสุดเกี่ยวกับ Value Alignment และวิธีที่เราให้เกียรติหนึ่งในอารยธรรม ฮีโร่ที่ยิ่งใหญ่ที่สุด

สล็อต

การถอดเสียงแบบเต็ม:
เอเรียล:ฉันชื่อเอเรียล คอนน์ สถาบันอนาคตแห่งชีวิต อย่างที่คุณอาจสังเกตเห็นว่าปี 2017 เป็นปีที่ค่อนข้างดราม่า ที่จริงแล้ว โดยที่ฉันไม่ได้เอ่ยถึงสิ่งใดเป็นพิเศษ ฉันยินดีที่จะเดิมพันว่าคุณมีตัวอย่างอยู่ในหัวอยู่แล้วว่าปีนี้เป็นปีที่บ้าบออะไร แต่ถึงแม้ว่าข่าวต่างๆ จะท้อใจได้ง่าย แต่เราที่ FLI ก็พบว่าตัวเองมีความหวังว่าเรายังคงสามารถสร้างอนาคตที่สดใสได้ แต่ฉันจะให้ Max Tegmark ประธาน FLI บอกคุณมากกว่านี้หน่อย
แม็กซ์:ฉันคิดว่ามันสำคัญเมื่อเราย้อนกลับไปดูข่าวปีต่างๆ เพื่อทำความเข้าใจว่าสิ่งต่าง ๆ เชื่อมโยงกันอย่างไร ตัวอย่างเช่น ละครที่เราติดตามกับ Kim Jung Un และ Donald Trump และ Putin ที่มีอาวุธนิวเคลียร์ เชื่อมโยงกับการพัฒนาปัญญาประดิษฐ์ทั้งหมดจริงๆ เพราะในทั้งสองกรณี เรามีเทคโนโลยีที่ทรงพลังจนไม่ชัดเจน ว่ามนุษย์เรามีปัญญาเพียงพอที่จะจัดการได้ดี และนั่นเป็นเหตุผลที่ฉันคิดว่ามันสำคัญมากที่เราทุกคนจะทำงานต่อไปเพื่อพัฒนาภูมิปัญญานี้ต่อไป เพื่อให้แน่ใจว่าเราสามารถใช้เทคโนโลยีที่ทรงพลังเหล่านี้ เช่น พลังงานนิวเคลียร์ เช่น ปัญญาประดิษฐ์ เช่น เทคโนโลยีชีวภาพ และอื่นๆ เพื่อช่วยจริงๆ มากกว่าที่จะทำร้ายเรา .
เอเรียล: และมันก็คุ้มค่าที่จะจดจำว่าส่วนหนึ่งของสิ่งที่ทำให้ปีนี้เป็นปีที่น่าทึ่งก็คือยังมีเรื่องดีๆ บางอย่างที่เกิดขึ้นอีกด้วย ตัวอย่างเช่น ในเดือนมีนาคมของปีนี้ ฉันนั่งอยู่ในห้องที่ร้อนอบอ้าวในนิวยอร์กซิตี้ โดยกลุ่มบุคคลที่มีความเอาใจใส่และทุ่มเทจากทั่วโลกพูดคุยกันว่าพวกเขาวางแผนที่จะโน้มน้าวให้สหประชาชาติสั่งห้ามอาวุธนิวเคลียร์ทุกครั้งและตลอดไป ฉันไม่คิดว่าใครในห้องในวันนั้นตระหนักได้ว่าไม่เพียงแต่พวกเขาจะประสบความสำเร็จ แต่ภายในเดือนธันวาคมของปีนี้ การรณรงค์ระหว่างประเทศเพื่อยกเลิกอาวุธนิวเคลียร์ที่นำโดยเบียทริซ ฟิห์น จะได้รับรางวัลโนเบลสาขาสันติภาพสำหรับความพยายามของพวกเขา และในขณะที่เราทำสุดความสามารถเพื่อช่วยในความพยายามนั้น เรื่องราวที่ยิ่งใหญ่ของเราเองก็คือการประชุม Beneficial AI Conference ที่เราจัดขึ้นที่ Asilomar California พวกเราหลายคนที่ FLI รู้สึกตื่นเต้นที่จะพูดคุยเกี่ยวกับ Asilomar
แอนโธนี่:ฉันจะพูดอย่างไม่ต้องสงสัยเลยว่าเรื่องใหญ่ที่ฉันรู้สึกสำคัญที่สุดและรู้สึกตื่นเต้นที่สุดคือการประชุมใหญ่ในเมือง Asilomar และรวบรวมหลักการ Asilomar จากส่วนกลาง
แม็กซ์:ฉันจะเลือกการประชุม Asilomar ที่เราจัดขึ้นเมื่อต้นปีนี้ ซึ่งมีผลงานเป็น 23 Asilomar Principles ซึ่งได้รับการลงนามโดยนักวิจัย AI กว่าพันคนทั่วโลก
Vika: ฉันตื่นเต้นมากเกี่ยวกับการประชุม Asilomar ที่เราจัดขึ้นในปีนี้ นี่เป็นภาคต่อของการประชุมเปอร์โตริโกของ FLI ซึ่งในขณะนั้นเป็นผู้เปลี่ยนเกมอย่างแท้จริงในแง่ของการทำให้ความปลอดภัยของ AI เป็นกระแสหลักมากขึ้นและเชื่อมโยงผู้คนที่ทำงานด้านความปลอดภัยของ AI กับชุมชนการเรียนรู้ของเครื่องและรวมทั้งสองเข้าด้วยกัน ฉันคิดว่า Asilomar ทำได้ดีมากในการสานต่อสิ่งนั้น
Max:ฉันตื่นเต้นมากเกี่ยวกับเรื่องนี้ เพราะรู้สึกว่ามันได้ช่วยงานด้านความปลอดภัยของ AI ในกระแสหลักจริงๆ ไม่ใช่แค่เรื่องความปลอดภัยของ AI ในระยะใกล้เท่านั้น เช่น วิธีเปลี่ยนคอมพิวเตอร์บั๊กกี้และคอมพิวเตอร์ที่สามารถแฮ็กได้ในปัจจุบันให้เป็นระบบที่แข็งแกร่งที่คุณวางใจได้จริงๆ แต่ยังรวมถึงประเด็นหลักที่ใหญ่กว่าด้วย ที่จริงแล้ว หลักการของ Asilomar มีคำว่า super intelligence, มีวลีที่มีความเสี่ยง, มีวลี recursive self development และยังได้รับการลงนามโดยผู้ที่อยู่ใน AI ดังนั้นต่อจากนี้ไป เป็นไปไม่ได้เลยที่ใครจะละเลยข้อกังวลประเภทนี้ การวิจัยด้านความปลอดภัยแบบนี้ พูดไปก็เป็นแค่คนที่ไม่มีความรู้เรื่อง AI
แอนโทนี่: นั่นเป็นกระบวนการที่เริ่มต้นขึ้นในปี 2016 โดยระดมความคิดที่ FLI จากนั้นไปที่ชุมชนในวงกว้าง จากนั้นจึงรับข้อเสนอแนะต่างๆ เป็นต้น แต่เป็นเรื่องน่าตื่นเต้นที่ทั้งคู่ได้เห็นการทำงานร่วมกันในชุมชนและการสนับสนุนที่อยู่เบื้องหลังหลักการบางอย่างที่ควบคุม AI แต่เพียงเพื่อดูกระบวนการที่คลี่คลายเพราะสิ่งหนึ่งที่ฉันค่อนข้างผิดหวังบ่อยครั้งคือความรู้สึกนี้ว่ามีเทคโนโลยีนี้ที่เพียงแค่คลี่ออกเหมือนลูกกลิ้งไอน้ำและมันจะไปในที่ที่มันจะไปและเราทำไม่ได้ ไม่มีหน่วยงานใดที่อยู่เหนือ ดังนั้นการได้เห็นผู้คนคิดจริงๆ ว่าโลกนี้เป็นอย่างไร เราอยากให้โลกอยู่ที่นั่นในอีกสิบ สิบห้า ยี่สิบห้าสิบปี และเราจะกลั่นกรองสิ่งที่เราชอบเกี่ยวกับโลกนั้นให้เป็นหลักการเช่นนี้ได้อย่างไร…ที่รู้สึกได้จริงๆ , ดีจริงๆ.

สล็อตออนไลน์

เอเรียล:แต่ขั้นตอนต่อไปคืออะไร? เราจะเปลี่ยนจากหลักการที่เราทุกคนเห็นพ้องต้องกันไปสู่การกระทำที่เราทุกคนสามารถทำได้เช่นกัน เจสสิก้า คัสซินส์เข้าร่วม FLI ในช่วงปลายปี แต่เมื่อถามถึงสิ่งที่เธอรู้สึกตื่นเต้นเกี่ยวกับ FLI ที่เกี่ยวข้องกับ FLI เธอกล่าวถึงการดำเนินการสิ่งต่าง ๆ เช่น Asilomar Principles ในทันที
เจสสิก้า:ฉันตื่นเต้นที่สุดเกี่ยวกับการพัฒนาที่เราได้เห็นในปีที่ผ่านมาซึ่งเกี่ยวข้องกับ AI ที่ปลอดภัย มีประโยชน์ และมีจริยธรรม ฉันคิดว่า FLI เป็นผู้เล่นที่สำคัญมากในเรื่องนี้ เรามีการประชุม AI ที่เป็นประโยชน์ในเดือนมกราคมซึ่งส่งผลให้เกิดหลักการ AI ของ Asilomar เป็นเรื่องน่าทึ่งมากที่ได้เห็นว่าหลักการเหล่านั้นมีแรงฉุดลากมากเพียงใด และได้เห็นฉันทามติที่เพิ่มมากขึ้นเกี่ยวกับความสำคัญของการไตร่ตรองเกี่ยวกับการออกแบบระบบ AI ความท้าทายของอคติของอัลกอริธึมในการควบคุมข้อมูลและการจัดการข้อมูล รวมถึงความรับผิดชอบและการกำกับดูแล สิ่งที่ฉันตื่นเต้นที่สุดตอนนี้คือจำนวนโครงการริเริ่มที่เพิ่มขึ้นเรื่อยๆ ที่เราเห็นทั่วโลกเกี่ยวกับ IA ที่มีจริยธรรมและเป็นประโยชน์
แอนโธนี่:สิ่งที่ดีที่ได้เห็นคือการพัฒนาแนวคิดทั้งจาก FLI และจากองค์กรอื่นๆ มากมายเกี่ยวกับนโยบายที่อาจดี การดำเนินการทางกฎหมายที่เป็นรูปธรรมอาจมีหรือมาตรฐาน องค์กรหรือองค์กรไม่แสวงหาผลกำไร ข้อตกลงระหว่างบริษัทและอื่นๆ อาจมีความน่าสนใจ
แต่ฉันคิดว่า เราอยู่ในขั้นตอนของการกำหนดสิ่งเหล่านั้นเท่านั้น และไม่ได้มีการดำเนินการใดๆ มากนักในแง่ของการทำสิ่งเหล่านั้นจริงๆ กฎหมายเล็กน้อยที่นี่และที่นั่น แต่ฉันคิดว่าเรากำลังมาถึงจุดที่รัฐบาลจำนวนมาก บริษัทจำนวนมาก องค์กรจำนวนมากกำลังเผยแพร่ สร้างสรรค์ และส่งต่อสิ่งเหล่านี้มากขึ้นเรื่อยๆ ฉันคิดว่าการได้เห็นการเล่นนั้นออกมาดีและทำงานอย่างหนักเพื่อให้แน่ใจว่ามันเล่นไปในทางที่ดีในหลาย ๆ ด้านและให้มากที่สุดเท่าที่เป็นไปได้ ฉันคิดว่ามันสำคัญมากและบางสิ่งที่เราตื่นเต้นที่จะทำ
Vika:ฉันคิดว่าหลักการของ Asilomar เป็นจุดร่วมที่ยอดเยี่ยมสำหรับชุมชนการวิจัยและคนอื่นๆ ที่จะเห็นด้วยกับสิ่งที่เรากำลังทำ สิ่งที่สำคัญ
นอกจากการมีหลักการเป็นผลลัพธ์แล้ว ตัวงานเองก็เป็นกิจกรรมที่ดีมากสำหรับการสร้างความสัมพันธ์ระหว่างผู้คนที่มีภูมิหลังแบบสหวิทยาการ จากสาขาที่เกี่ยวข้องที่แตกต่างกันซึ่งมีความสนใจในคำถามด้านความปลอดภัยและจริยธรรม
และเรายังมีการประชุมเชิงปฏิบัติการนี้ซึ่งอยู่ติดกับ Asilomar ซึ่งผู้ชนะทุนของเราได้นำเสนอผลงานของพวกเขาจริงๆ ฉันคิดว่าเป็นเรื่องดีที่มีการอภิปรายอย่างเป็นรูปธรรมเกี่ยวกับการวิจัยและความคืบหน้าที่เราได้ทำไปแล้ว ไม่ใช่แค่การอภิปรายเชิงนามธรรมของอนาคตเท่านั้น และฉันหวังว่าเราจะสามารถมีกิจกรรมทางเทคนิคดังกล่าวมากขึ้น อภิปรายความคืบหน้าการวิจัยและการอภิปราย ความปลอดภัยของ AI เป็นรูปธรรมเมื่อเวลาผ่านไป
Ariel:และสถานะปัจจุบันของการวิจัยด้านความปลอดภัยของ AI เป็นอย่างไร? Richard Mallah รับหน้าที่ตอบคำถามนั้นสำหรับการประชุม Asilomar ในขณะที่ Tucker Davey ได้ใช้เวลาในปีที่แล้วในการสัมภาษณ์ผู้ได้รับรางวัล FLI หลายคนเพื่อให้เข้าใจงานของพวกเขามากขึ้น

jumboslot

Richard:ผมได้นำเสนอแนวหัวข้อการวิจัยด้านความปลอดภัยของ AI ด้านเทคนิค ข้อมูลนี้แสดงขอบเขตการวิจัยที่แตกต่างกันหลายร้อยประเภท และความเกี่ยวข้องกันอย่างไร ด้านต่างๆ ทั้งหมดซึ่งจำเป็นต้องมีการวิจัยมากขึ้นกว่าที่เป็นอยู่ในปัจจุบัน เพื่อช่วยให้ AI มีความปลอดภัยและเป็นประโยชน์และมีประสิทธิภาพ ฉันตื่นเต้นมากที่ได้อยู่ที่ Asilomar และได้ร่วมจัดงาน Asilomar และมีคนที่ยอดเยี่ยมจริงๆ มากมายอยู่ที่นั่นและร่วมมือกันในประเด็นประเภทต่างๆ เหล่านี้ และพวกเขากำลังใช้ภูมิทัศน์นั้นที่ฉันรวบรวมไว้เป็นจุดติดต่อและวิธีการประสานงาน นั่นน่าตื่นเต้นทีเดียว
Tucker:ฉันเพิ่งพบว่าการสัมภาษณ์ผู้รับทุน AI ของเราเป็นแรงบันดาลใจจริงๆ เป็นโครงการต่อเนื่องที่สัมภาษณ์นักวิจัยเหล่านี้และเขียนเกี่ยวกับสิ่งที่พวกเขากำลังทำ สำหรับฉัน การได้มีส่วนร่วมใน AI เมื่อเร็วๆ นี้ เป็นเรื่องที่น่าสนใจอย่างยิ่งที่ได้ใช้เวลาครึ่งชั่วโมงกับหนึ่งชั่วโมงกับนักวิจัยเหล่านี้เพื่อพูดคุยเชิงลึกเกี่ยวกับงานของพวกเขา และเพื่อเรียนรู้เพิ่มเติมเกี่ยวกับภูมิทัศน์การวิจัยที่ฉันไม่เคยรู้มาก่อน ก่อนทำงานที่ FLI จริงๆ แล้ว การเป็นส่วนหนึ่งของการสัมภาษณ์และเรียนรู้เพิ่มเติมเกี่ยวกับคนที่เรากำลังทำงานด้วย และคนเหล่านี้ที่เป็นหัวหอกด้านความปลอดภัยของ AI เป็นแรงบันดาลใจจริงๆ ที่ได้เป็นส่วนหนึ่ง
Ariel:และด้วยเหตุนี้ เรามีการประกาศครั้งใหญ่
Richard:ดังนั้น FLI กำลังเปิดตัวโครงการทุนสนับสนุนใหม่ในปี 2018 ในครั้งนี้ เราจะเน้นที่ปัญญาประดิษฐ์ทั่วไป ปัญญาประดิษฐ์ขั้นสูง และวิธีที่เราสามารถทำวิจัยทางเทคนิคและการวิจัยประเภทอื่นๆ ได้ในปัจจุบัน ในระบบของวันนี้หรือสิ่งที่เราวิเคราะห์ได้ในวันนี้ สิ่งที่เราสามารถจำลองหรือสร้างความก้าวหน้าทางทฤษฎีในวันนี้ที่มีแนวโน้มว่าจะยังคงมีความเกี่ยวข้องอยู่จริงในขณะนั้น ซึ่ง AGI เกิดขึ้น นี่เป็นเรื่องที่น่าตื่นเต้นมาก และผมรู้สึกตื่นเต้นที่ได้เป็นส่วนหนึ่งของแนวคิดและการบริหารในเรื่องนั้น
แม็กซ์:ฉันตื่นเต้นเป็นพิเศษกับโครงการทุนใหม่ที่เราเปิดตัวเพื่อการวิจัยด้านความปลอดภัยของ AI เนื่องจากการวิจัยด้านความปลอดภัยของ AI ได้กลายเป็นกระแสหลักมากขึ้น เนื่องจากเราได้ทำโครงการมอบทุนครั้งล่าสุดเมื่อ 3 ปีที่แล้ว ตอนนี้จึงมีเงินทุนจำนวนเล็กน้อยสำหรับความท้าทายในระยะใกล้ และฉันรู้สึกว่าเราที่ FLI ควรให้ความสำคัญกับสิ่งที่เกี่ยวข้องกับความท้าทายและโอกาสมากขึ้นจากปัญญาประดิษฐ์ขั้นสูง เนื่องจากแทบไม่มีเงินทุนสำหรับการวิจัยด้านความปลอดภัยแบบนั้นเลย น่าตื่นเต้นมากที่จะได้เห็นข้อเสนออะไรเข้ามา และทีมวิจัยใดบ้างที่ได้รับการคัดเลือกจากแผงตรวจสอบ เหนือสิ่งอื่นใด การวิจัยประเภทนี้หวังว่าจะช่วยให้มั่นใจว่าเราจะใช้เทคโนโลยีอันทรงพลังนี้เพื่อสร้างอนาคตที่ยอดเยี่ยมจริงๆ ได้อย่างไร
Vika:ฉันคิดว่าโครงการให้ทุนนี้สามารถต่อยอดจากผลกระทบของโปรแกรมการให้ทุนก่อนหน้าของเราได้ ฉันตื่นเต้นมากที่จะให้ความสำคัญกับการวิจัยความปลอดภัย AI ในระยะยาว ซึ่งยังคงเป็นพื้นที่ที่ถูกละเลยมากที่สุด
ความปลอดภัยของ AI เกิดขึ้นจริงในช่วงสองปีที่ผ่านมา และมีงานอีกมากมายในเรื่องนี้ ซึ่งดีมาก และส่วนหนึ่งของความหมายก็คือเราที่ FLI สามารถมุ่งเน้นที่ระยะยาวมากขึ้น งานระยะยาวได้รับความสนใจมากขึ้นเช่นกัน และโปรแกรมการให้ทุนนี้สามารถช่วยให้เราต่อยอดและทำให้แน่ใจว่าปัญหาที่สำคัญจะได้รับการแก้ไข นี่มันน่าตื่นเต้นจริงๆ
แม็กซ์:ฉันเพิ่งกลับมาจากการใช้เวลาหนึ่งสัปดาห์ในการประชุม NIPS ซึ่งเป็นงานประชุมด้านปัญญาประดิษฐ์ที่ยิ่งใหญ่ที่สุดแห่งปี มันน่าทึ่งมากที่ทุกอย่างดำเนินไปอย่างรวดเร็ว ตอนนี้ AlphaZero ไม่เพียงแต่เอาชนะผู้เล่นหมากรุกของมนุษย์และผู้เล่น Go เท่านั้น แต่ยังเอาชนะนักวิจัย AI ของมนุษย์ ซึ่งหลังจากใช้เวลา 30 ปีในการสร้างซอฟต์แวร์ประดิษฐ์ประดิษฐ์ด้วยมือเพื่อเล่นหมากรุกคอมพิวเตอร์ ผลงานทั้งหมดของพวกเขาถูก AlphaZero บดขยี้ซึ่งเพิ่งเรียนรู้ที่จะทำได้ดีขึ้นมาก มากกว่านั้นตั้งแต่เริ่มต้นในสี่ชั่วโมง
AI กำลังเกิดขึ้นจริง ๆ ไม่ว่าเราจะชอบหรือไม่ก็ตาม ความท้าทายที่เราเผชิญคือการชมเชยผ่านการวิจัยด้านความปลอดภัยของ AI และความคิดที่ดีมากมายเพื่อให้แน่ใจว่าสิ่งนี้จะช่วยให้มนุษยชาติเจริญรุ่งเรืองมากกว่าดิ้นรน
Ariel:ด้วยจิตวิญญาณแห่งความเฟื่องฟู FLI ได้หันความสนใจในปีนี้ไปที่การเคลื่อนไหวเพื่อแบนอาวุธอิสระที่ร้ายแรง แม้ว่าจะมีการถกเถียงกันอย่างมากเกี่ยวกับวิธีการกำหนดอาวุธอัตโนมัติและควรพัฒนาหรือไม่ ผู้คนจำนวนมากขึ้นมักจะเห็นด้วยว่าอย่างน้อยหัวข้อนี้ควรมาก่อนการเจรจาของสหประชาชาติ ดังนั้นเราจึงช่วยสร้างวิดีโอ Slaughterbots เพื่อช่วยขับเคลื่อนการสนทนานี้ ฉันจะให้แม็กซ์ไปจากที่นี่
[NPC5]แม็กซ์:สลอตเทอร์บอท โดรนขนาดเล็กที่สามารถฆ่าคนโดยไม่ระบุชื่อได้โดยไม่มีมนุษย์ควบคุม โชคดีที่ยังไม่มี เราหวังว่าสนธิสัญญาระหว่างประเทศจะคงไว้เช่นนั้น แม้ว่าเราเกือบจะมีเทคโนโลยีที่จะทำอยู่แล้วก็ตาม เพียงแค่ต้องบูรณาการเทคโนโลยีการผลิตจำนวนมากที่เรามีอยู่แล้ว เพื่อช่วยในเรื่องนี้ เราได้ทำวิดีโอนี้ชื่อว่า Slaughterbots น่าประทับใจจริงๆ ที่มียอดวิวมากกว่าสี่สิบล้านวิวและสร้างข่าวไปทั่วโลก ฉันมีความสุขมากที่สจ๊วร์ต รัสเซลล์ ซึ่งเราร่วมมือด้วยในเรื่องนี้ ได้นำเสนอสิ่งนี้แก่นักการทูตที่องค์การสหประชาชาติในเจนีวา เมื่อพวกเขาคุยกันว่าจะย้ายไปที่สนธิสัญญาหรือไม่ โดยขีดเส้นใต้ผืนทราย