Get in my Think Art.

Tag: Alignment

AI Alignment Podcast: ภาพรวมของการจัดแนว AI ทางเทคนิคกับ Rohin Shah (ตอนที่ 1)

AI Alignment Podcast: ภาพรวมของการจัดแนว AI ทางเทคนิคกับ Rohin Shah (ตอนที่ 1)

AI Alignment Podcast: ภาพรวมของการจัดแนว AI ทางเทคนิคกับ Rohin Shah (ตอนที่ 1) jumbo jili พื้นที่ของการวิจัยการจัดตำแหน่ง AI นั้นมีไดนามิกสูงและมักจะเป็นเรื่องยากที่จะได้ภาพทิวทัศน์จากมุมสูง พอดคาสต์นี้เป็นส่วนแรกของสองส่วนที่พยายามแก้ไขบางส่วนโดยให้ภาพรวมขององค์กรที่เข้าร่วมในการวิจัย AI ทางเทคนิค ทิศทางการวิจัยเฉพาะของพวกเขา และวิธีที่แนวทางเหล่านี้ทั้งหมดมารวมกันเพื่อประกอบเป็นความพยายามในการจัดแนว AI ทางเทคนิค ในส่วนแรกนี้ Rohin เคลื่อนตัวตามลำดับผ่านองค์กรวิจัยทางเทคนิคในพื้นที่นี้และแกะสลักผ่านพื้นที่นี้ด้วยปรัชญาการวิจัยที่แตกต่างกัน นอกจากนี้เรายังเจาะลึกข้อมูลเฉพาะของแนวทางต่างๆ มากมายในด้านความปลอดภัยของ AI สำรวจจุดที่พวกเขาไม่เห็นด้วย หารือเกี่ยวกับคุณสมบัติต่างๆ ที่พยายามพัฒนา/รักษา และรับฟังความคิดเห็นของ Rohin ในแนวทางต่างๆ เหล่านี้ สล็อต ในพอดแคสต์นี้ ลูคัสได้พูดคุยกับโรฮิน ชาห์ Rohin เป็นนักศึกษาปริญญาเอกปีที่ 5 ที่ UC Berkeley […]

AI Alignment Podcast: ภาพรวมของการจัดแนว AI ทางเทคนิคกับ Rohin Shah

AI Alignment Podcast: ภาพรวมของการจัดแนว AI ทางเทคนิคกับ Rohin Shah

AI Alignment Podcast: ภาพรวมของการจัดแนว AI ทางเทคนิคกับ Rohin Shah jumbo jili พื้นที่ของการวิจัยการจัดตำแหน่ง AI นั้นมีไดนามิกสูงและมักจะเป็นเรื่องยากที่จะได้ภาพทิวทัศน์จากมุมสูง พอดคาสต์นี้เป็นส่วนที่สองในสองส่วนที่พยายามแก้ไขบางส่วนโดยให้ภาพรวมของความพยายามในการจัดตำแหน่ง AI ทางเทคนิค โดยเฉพาะอย่างยิ่ง ตอนนี้พยายามที่จะดำเนินการอภิปรายต่อจากส่วนที่ 1 โดยเจาะลึกมากขึ้นเกี่ยวกับแนวทางเฉพาะในการจัดตำแหน่ง AI ในพอดแคสต์นี้ ลูคัสได้พูดคุยกับโรฮิน ชาห์ Rohin เป็นนักศึกษาปริญญาเอกปีที่ 5 ที่ UC Berkeley โดยมี Center for Human-Compatible AIทำงานร่วมกับ Anca Dragan, Pieter Abbeel และ Stuart Russell ทุกสัปดาห์เขาเก็บรวบรวมและสรุปความคืบหน้าล่าสุดที่เกี่ยวข้องกับ AI การจัดตำแหน่งในการจัดจดหมายข่าว […]

AI Alignment Podcast: เกี่ยวกับสติ Qualia และความหมายกับ Mike Johnson และ Andrés Gómez Emilsson

AI Alignment Podcast: เกี่ยวกับสติ Qualia และความหมายกับ Mike Johnson และ Andrés Gómez Emilsson

AI Alignment Podcast: เกี่ยวกับสติ Qualia และความหมายกับ Mike Johnson และ Andrés Gómez Emilsson jumbo jili สติเป็นแนวคิดที่อยู่ในระดับแนวหน้าของการคิดทางวิทยาศาสตร์และปรัชญามาก ในเวลาเดียวกัน มีความขัดแย้งกันอย่างมากว่าจิตสำนึกคืออะไรกันแน่ และวิทยาศาสตร์สามารถรับรู้ได้อย่างเต็มที่หรือไม่ หรืออธิบายได้ดีที่สุดด้วยความเข้าใจแบบลดทอน บางคนเชื่อว่าการมีสติเป็นแหล่งที่มาของคุณค่าทั้งหมด และคนอื่นๆ มองว่าเป็นความเข้าใจผิดหรือความสับสนที่เกิดจากอัลกอริทึมในสมอง สถาบันวิจัย Qualia ตระหนักดีว่าเป็นสิ่งที่มีความสำคัญและเป็นจริงในโลกที่พวกเขาคาดหวังว่าจะได้รับจากภาษาและเครื่องมือของวิทยาศาสตร์และคณิตศาสตร์ เพื่อให้เข้าใจจุดยืนนี้ เราจะต้องแกะแรงจูงใจเชิงปรัชญาที่บอกมุมมองนี้ ปั๊มสัญชาตญาณที่ยืมตัวเองไปสู่แรงจูงใจเหล่านี้ แล้วสำรวจกระบวนการทางวิทยาศาสตร์ของการตรวจสอบซึ่งเกิดจากการพิจารณาเหล่านี้ ไม่ว่าคุณจะมีสติสัมปชัญญะเป็นของจริงหรือลวง นัยของความเป็นไปได้เหล่านี้ย่อมมีนัยยะทางศีลธรรมและเชิงประจักษ์อย่างมหาศาลสำหรับจุดประสงค์และบทบาทของชีวิตในจักรวาลอย่างแน่นอน การดำรงอยู่โดยปราศจากสติมีความหมายหรือไม่? สล็อต ในพอดคาสต์นี้ลูคัสได้พูดคุยกับไมค์จอห์นสันและแอนดรีสโกเมซ EmilssonของQualia สถาบันวิจัย Andrés เป็นนักวิจัยด้านจิตสำนึกที่ QRI และยังเป็นผู้ร่วมก่อตั้งและประธานของ Stanford Transhumanist Association เขาสำเร็จการศึกษาระดับปริญญาโทด้านจิตวิทยาคอมพิวเตอร์จากสแตนฟอร์ด ไมค์เป็นกรรมการบริหารของ […]

AI Alignment Podcast: การกำกับดูแล AI กับ Jade Leung

AI Alignment Podcast: การกำกับดูแล AI กับ Jade Leung

AI Alignment Podcast: การกำกับดูแล AI กับ Jade Leung jumbo jili ในพอดแคสต์นี้ Lucas ได้พูดคุยกับJade LeungจากCenter for the Governance of AI (GovAI) . GovAI มุ่งมั่นที่จะช่วยให้มนุษยชาติได้รับประโยชน์และลดความเสี่ยงของปัญญาประดิษฐ์ ศูนย์มุ่งเน้นไปที่ความท้าทายทางการเมืองที่เกิดจากการเปลี่ยนแปลงของ AI และพวกเขาพยายามที่จะเป็นแนวทางในการพัฒนาเทคโนโลยีดังกล่าวเพื่อประโยชน์ร่วมกันโดยการวิจัยประเด็นในการกำกับดูแล AI และให้คำปรึกษาแก่ผู้มีอำนาจตัดสินใจ Jade เป็นหัวหน้าฝ่ายวิจัยและหุ้นส่วนที่ GovAI ซึ่งงานวิจัยของเธอมุ่งเน้นไปที่การสร้างแบบจำลองการเมืองของเทคโนโลยีวัตถุประสงค์ทั่วไปเชิงกลยุทธ์ด้วยความตั้งใจที่จะทำความเข้าใจว่าพลวัตใดทำให้เกิดความร่วมมือและความขัดแย้ง สล็อต สองประเด็นสำคัญจาก Jade:“ฉันคิดว่าวิธีหนึ่งที่เราจำเป็นต้องปรับสมดุลกันเล็กน้อย อย่างเช่นตัวอย่างนี้คือ ฉันตระหนักดีว่างานจำนวนมาก อย่างน้อยที่ฉันเห็นในพื้นที่นี้ มีการเน้นที่มาก องค์กรแนวร่วมและองค์กรพัฒนาเอกชน เรากำลังดูห้องทดลองส่วนตัวที่กำลังพัฒนา AGI และพวกมันว่องไวกว่า พวกเขามีคนที่คุ้นเคยมากกว่า เราคิดคล้ายกับคนประเภทนั้นมากกว่า […]

AI Alignment Podcast: ความฝัน AI มหาอำนาจของจีนกับ Jeffrey Ding

AI Alignment Podcast: ความฝัน AI มหาอำนาจของจีนกับ Jeffrey Ding

AI Alignment Podcast: ความฝัน AI มหาอำนาจของจีนกับ Jeffrey Ding jumbo jili “ในเดือนกรกฎาคม 2560 สภาแห่งประเทศจีนได้ออกแผนพัฒนาปัญญาประดิษฐ์รุ่นใหม่ นโยบายนี้สรุปกลยุทธ์ของจีนในการสร้างอุตสาหกรรม AI ในประเทศซึ่งมีมูลค่าเกือบ 150,000 ล้านเหรียญสหรัฐในอีกไม่กี่ปีข้างหน้าและจะกลายเป็นพลัง AI ชั้นนำภายในปี 2573 การดำเนินการนี้ถือเป็นเป้าหมายของการพัฒนาภาค AI อย่างเป็นทางการและรวมอยู่ใน ตำแหน่งประธานาธิบดี วิสัยทัศน์อันยิ่งใหญ่ของ Xi Jinping สำหรับประเทศจีน ” ( นโยบาย AI ของ FLI – หน้าประเทศจีน ) ในบริบทของการพัฒนาเหล่านี้และการสนทนาที่เพิ่มขึ้นเกี่ยวกับ AI และจีนลูคัสได้พูดคุยกับเจฟฟรีย์ ติงจากศูนย์การกำกับดูแล AI (GovAI). เจฟฟรีย์เป็นผู้นำด้าน […]

AI Alignment Podcast: สังเคราะห์ความชอบของมนุษย์ให้เป็นฟังก์ชันยูทิลิตี้ด้วย Stuart Armstrong

AI Alignment Podcast: สังเคราะห์ความชอบของมนุษย์ให้เป็นฟังก์ชันยูทิลิตี้ด้วย Stuart Armstrong

AI Alignment Podcast: สังเคราะห์ความชอบของมนุษย์ให้เป็นฟังก์ชันยูทิลิตี้ด้วย Stuart Armstrong jumbo jili ในวาระการวิจัยของเขาv0.9: การสังเคราะห์ความชอบของมนุษย์ให้เป็นฟังก์ชันอรรถประโยชน์สจวร์ต อาร์มสตรอง พัฒนาวิธีการสร้างปัญญาประดิษฐ์ที่เป็นมิตร ข้อเสนอการจัดตำแหน่งของเขาสามารถเข้าใจได้อย่างกว้างขวางว่าเป็นการเรียนรู้การเสริมแรงผกผันซึ่งงานส่วนใหญ่ในการอนุมานความชอบของมนุษย์นั้นเหลืออยู่ที่ AI มันขึ้นอยู่กับเราที่จะสร้างสมมติฐาน คำจำกัดความ วิธีการเรียนรู้ความพึงพอใจ และกระบวนการสังเคราะห์ที่ถูกต้องลงในระบบ AI ให้ถูกต้อง เพื่อที่จะสามารถเรียนรู้ความชอบของมนุษย์อย่างมีความหมายและสังเคราะห์ให้เป็นฟังก์ชันอรรถประโยชน์ที่เพียงพอ เพื่อให้สิ่งนี้ถูกต้อง วาระการประชุมของเขาจะพิจารณาถึงวิธีการทำความเข้าใจและระบุความพึงพอใจบางส่วนของมนุษย์ วิธีการสังเคราะห์การตั้งค่าที่เรียนรู้เหล่านี้ในท้ายที่สุดให้เป็นฟังก์ชันอรรถประโยชน์ที่ “เพียงพอ” การปฏิบัติจริงในการพัฒนาและประเมินฟังก์ชันอรรถประโยชน์ของมนุษย์ และวิธีการที่สิ่งนี้ วาระสามารถช่วยในวิธีการอื่น ๆ ของการจัดตำแหน่ง AI สล็อต ประเด็นสำคัญจากสจวร์ต:“มีสองส่วนหลักในโครงการวิจัยนี้โดยพื้นฐานแล้ว ส่วนแรกคือการระบุโมเดลภายในของมนุษย์ หาว่ามันคืออะไร เราใช้พวกมันอย่างไร และเราจะทำให้ AI รู้ได้อย่างไรว่าเกิดอะไรขึ้น ดังนั้นสิ่งเหล่านั้นจึงให้ความชอบบางส่วนแก่เรา ซึ่งเป็นส่วนที่เราสร้างความชอบทั่วไปของเรา ส่วนที่สองคือการถักชิ้นส่วนทั้งหมดเหล่านี้เข้าด้วยกันเป็นความชอบโดยรวมสำหรับแต่ละคนในลักษณะที่ทำงานได้ดีพอสมควรและเคารพความชอบที่แตกต่างกันของบุคคลนั้น การตั้งค่าเมตา และอื่นๆ ส่วนที่สองของโครงการคือส่วนที่คนมักมีความคิดเห็นที่หนักแน่นเพราะพวกเขาสามารถเห็นวิธีการทำงานและวิธีที่โครงสร้างต่างๆ […]

AI Alignment Podcast: เข้ากันได้กับมนุษย์: ปัญญาประดิษฐ์และปัญหาการควบคุมกับ Stuart Russell

AI Alignment Podcast: เข้ากันได้กับมนุษย์: ปัญญาประดิษฐ์และปัญหาการควบคุมกับ Stuart Russell

AI Alignment Podcast: เข้ากันได้กับมนุษย์: ปัญญาประดิษฐ์และปัญหาการควบคุมกับ Stuart Russell jumbo jili Stuart Russell เป็นหนึ่งในผู้บุกเบิกที่แท้จริงของ AI และอยู่ในระดับแนวหน้าของวงการมานานหลายทศวรรษ ความเชี่ยวชาญและการคิดไปข้างหน้าของเขาได้นำไปสู่ผลงานล่าสุดของเขาที่ชื่อว่าHuman Compatible: Artificial Intelligence and the Problem of Control หนังสือเล่มนี้เป็นชิ้นสำคัญ ควบคู่ไปกับSuperintelligenceและLife 3.0ที่บ่งบอกถึงปัญหาระดับอารยธรรมที่เราเผชิญในการปรับหน่วยสืบราชการลับของเครื่องจักรให้สอดคล้องกับเป้าหมายและค่านิยมของมนุษย์ นี่ไม่เพียงแต่เป็นข้อต่อและการพัฒนาปัญหาการจัดตำแหน่ง AI เท่านั้น แต่สจวร์ตยังเสนอวิธีแก้ปัญหาใหม่ที่ทำให้เราเข้าใจถึงสิ่งที่จะต้องใช้เพื่อสร้างปัญญาของเครื่องจักรที่เป็นประโยชน์มากขึ้น สล็อต ประเด็นสำคัญจากสจวร์ต:“ฉันคิดว่าประมาณปี 2013 ทำให้ฉันประทับใจจริงๆ ที่เราคิดเกี่ยวกับ AI ในทางที่ผิดด้วยกันทั้งหมด วิธีที่เราตั้งค่าพื้นที่ทั้งหมดนั้นเป็นสำเนาของความฉลาดของมนุษย์โดยพื้นฐานแล้วมนุษย์มีความฉลาดหากการกระทำของพวกเขาบรรลุเป้าหมาย ดังนั้นเครื่องจักรควรมีความชาญฉลาดหากการกระทำของตนบรรลุเป้าหมาย และแน่นอนว่าเราต้องจัดหาเป้าหมายในรูปแบบของฟังก์ชันการให้รางวัล หรือฟังก์ชันต้นทุน หรือคำสั่งเป้าหมายเชิงตรรกะ และนั่นก็ใช้ได้จนถึงจุดหนึ่ง มันทำงานเมื่อเครื่องจักรโง่ และหากคุณระบุวัตถุประสงค์ที่ไม่ถูกต้อง […]

AI Alignment Podcast: จรรยาบรรณของเครื่องและการกำกับดูแล AI กับ Wendell Wallach

AI Alignment Podcast: จรรยาบรรณของเครื่องและการกำกับดูแล AI กับ Wendell Wallach

AI Alignment Podcast: จรรยาบรรณของเครื่องและการกำกับดูแล AI กับ Wendell Wallach jumbo jili Wendell Wallach อยู่ในระดับแนวหน้าของปัญหาเทคโนโลยีที่เกิดขึ้นใหม่ร่วมสมัยมาหลายทศวรรษแล้ว ในฐานะนักคิดแบบสหวิทยาการ เขาได้ทำงานที่จุดตัดของจริยธรรม ธรรมาภิบาล AI ชีวจริยธรรม วิทยาการหุ่นยนต์ และปรัชญาตั้งแต่เริ่มแรก การกำหนดสิ่งที่เรารู้ในขณะที่การจัดแนว AI กำลังถูกประมวล เวนเดลล์เริ่มต้นด้วยความสนใจในวงกว้างในจริยธรรมของเทคโนโลยีเกิดใหม่ และตั้งแต่นั้นมาก็มุ่งเน้นไปที่จรรยาบรรณของเครื่องจักรและการกำกับดูแล AI การสนทนากับเวนเดลล์นี้เป็นการสำรวจเส้นทางแห่งปัญญาและการมีส่วนร่วมในสาขาเหล่านี้ สล็อต ประเด็นสำคัญจากเวนเดลล์:“ดังนั้น เมื่อคุณกำลังพูดถึงจรรยาบรรณของเครื่องจักร หรือเมื่อเราพูดถึงจรรยาบรรณของเครื่องจักร เรากำลังคิดเกี่ยวกับมันจริงๆ ว่าคุณจะแนะนำขั้นตอนทางจริยธรรมอย่างไร เพื่อให้เมื่อเครื่องจักรพบกับสถานการณ์ใหม่ โดยเฉพาะอย่างยิ่งเมื่อนักออกแบบไม่สามารถอย่างเต็มที่ ทำนายว่าการกระทำของพวกเขาจะเป็นอย่างไร โดยคำนึงถึงการพิจารณาทางจริยธรรมเมื่อพวกเขาเลือกระหว่างแนวทางปฏิบัติต่างๆ เรากำลังพูดถึงโปรแกรมพื้นฐานมากๆ ในเครื่อง แต่เราไม่ได้คิดแค่ในแง่ของพื้นฐานเท่านั้น เรากำลังคิดถึงมันในแง่ของวิวัฒนาการของเครื่องจักรอัจฉริยะ… สิ่งที่เราพบใน Singularity Institute ตอนนี้ […]

AI Alignment Podcast: ใน DeepMind, ความปลอดภัยของ AI และการสร้างแบบจำลองรางวัลแบบเรียกซ้ำกับ Jan Leike

AI Alignment Podcast: ใน DeepMind, ความปลอดภัยของ AI และการสร้างแบบจำลองรางวัลแบบเรียกซ้ำกับ Jan Leike

AI Alignment Podcast: ใน DeepMind, ความปลอดภัยของ AI และการสร้างแบบจำลองรางวัลแบบเรียกซ้ำกับ Jan Leike jumbo jili Jan Leike เป็นนักวิทยาศาสตร์การวิจัยอาวุโสที่เป็นผู้นำทีมจัดตำแหน่งตัวแทนที่ DeepMind เขาเป็นหนึ่งในสามทีมในกลุ่ม AGI ด้านเทคนิคของพวกเขา แต่ละทีมมุ่งเน้นไปที่แง่มุมที่แตกต่างกันเพื่อให้แน่ใจว่าระบบ AI ขั้นสูงมีความสอดคล้องและเป็นประโยชน์ การเดินทางของแจนในด้าน AI ทำให้เขาได้รับปริญญาดุษฎีบัณฑิตจากตัวแทนการเรียนรู้เชิงเสริมทฤษฎีที่เรียกว่า AIXI ไปสู่การวิจัยด้านความปลอดภัยของ AI เชิงประจักษ์ที่เน้นการสร้างแบบจำลองการให้รางวัลแบบเรียกซ้ำ การสนทนานี้จะสำรวจการเคลื่อนไหวของเขาจากการวิจัยด้านความปลอดภัยของ AI เชิงทฤษฎีไปจนถึงเชิงประจักษ์ เหตุใดการวิจัยด้านความปลอดภัยเชิงประจักษ์จึงมีความสำคัญ และสิ่งนี้นำเขาไปสู่งานของเขาเกี่ยวกับการสร้างแบบจำลองการให้รางวัลแบบเรียกซ้ำได้อย่างไร เรายังหารือเกี่ยวกับแนวทางการวิจัยที่เขามองโลกในแง่ดีว่าจะนำไปสู่ระบบที่ปรับขนาดได้อย่างปลอดภัย ความคิดของเขาในแง่มุมอื่นๆ และงานอื่นๆ ที่ DeepMind กำลังทำอยู่ สล็อต Lucas Perry: สวัสดีทุกคนและยินดีต้อนรับสู่ AI […]

AI Alignment Podcast: อัตลักษณ์และการปฏิวัติ AI กับ David Pearce และ Andrés Gómez Emilsson

AI Alignment Podcast: อัตลักษณ์และการปฏิวัติ AI กับ David Pearce และ Andrés Gómez Emilsson

AI Alignment Podcast: อัตลักษณ์และการปฏิวัติ AI กับ David Pearce และ Andrés Gómez Emilsson jumbo jili ในหนังสือ เหตุผลและบุคคล ปี 1984 Derek Parfit ปราชญ์ขอให้ผู้อ่านพิจารณาสถานการณ์ต่อไปนี้: คุณก้าวเข้าสู่เครื่องเคลื่อนย้ายมวลสารที่สแกนโครงสร้างอะตอมทั้งหมดของคุณ ทำลายล้างคุณ แล้วส่งข้อมูลอะตอมนั้นไปยังดาวอังคารด้วยความเร็วแสง ที่นั่น เครื่องที่คล้ายกันจะสร้างโครงสร้างและองค์ประกอบอะตอมที่แน่นอนของคุณขึ้นใหม่โดยใช้ทรัพยากรที่มีในเครื่อง คุณเพิ่งเดินทาง Parfit ถามหรือคุณฆ่าตัวตายหรือไม่? สล็อต คุณจะก้าวเข้าสู่เครื่องนี้หรือไม่? คนที่ปรากฎตัวบนดาวอังคารเป็นคุณจริงหรือ? คำถามเช่นนี้ — คำถามที่สำรวจธรรมชาติของอัตลักษณ์ส่วนบุคคลและท้าทายสัญชาตญาณของเราเกี่ยวกับเรื่องนี้ — กำลังมีความสำคัญมากขึ้นเรื่อย ๆ เมื่อเผชิญกับเทคโนโลยีแห่งศตวรรษที่ 21 เทคโนโลยีที่เกิดขึ้นใหม่ที่ได้รับอำนาจจากปัญญาประดิษฐ์จะทำให้เราสามารถเปลี่ยนแปลงความหมายของการเป็นมนุษย์ได้มากขึ้น วิศวกรรมชีวภาพที่เปิดใช้งาน AI จะช่วยให้สามารถแยกความแตกต่างของเผ่าพันธุ์มนุษย์ผ่านการอัปเกรด และเมื่อเรามาถึง […]