Get in my Think Art.

Day: September 9, 2021

AI Alignment Podcast: การกำกับดูแล AI กับ Jade Leung

AI Alignment Podcast: การกำกับดูแล AI กับ Jade Leung

AI Alignment Podcast: การกำกับดูแล AI กับ Jade Leung jumbo jili ในพอดแคสต์นี้ Lucas ได้พูดคุยกับJade LeungจากCenter for the Governance of AI (GovAI) . GovAI มุ่งมั่นที่จะช่วยให้มนุษยชาติได้รับประโยชน์และลดความเสี่ยงของปัญญาประดิษฐ์ ศูนย์มุ่งเน้นไปที่ความท้าทายทางการเมืองที่เกิดจากการเปลี่ยนแปลงของ AI และพวกเขาพยายามที่จะเป็นแนวทางในการพัฒนาเทคโนโลยีดังกล่าวเพื่อประโยชน์ร่วมกันโดยการวิจัยประเด็นในการกำกับดูแล AI และให้คำปรึกษาแก่ผู้มีอำนาจตัดสินใจ Jade เป็นหัวหน้าฝ่ายวิจัยและหุ้นส่วนที่ GovAI ซึ่งงานวิจัยของเธอมุ่งเน้นไปที่การสร้างแบบจำลองการเมืองของเทคโนโลยีวัตถุประสงค์ทั่วไปเชิงกลยุทธ์ด้วยความตั้งใจที่จะทำความเข้าใจว่าพลวัตใดทำให้เกิดความร่วมมือและความขัดแย้ง สล็อต สองประเด็นสำคัญจาก Jade:“ฉันคิดว่าวิธีหนึ่งที่เราจำเป็นต้องปรับสมดุลกันเล็กน้อย อย่างเช่นตัวอย่างนี้คือ ฉันตระหนักดีว่างานจำนวนมาก อย่างน้อยที่ฉันเห็นในพื้นที่นี้ มีการเน้นที่มาก องค์กรแนวร่วมและองค์กรพัฒนาเอกชน เรากำลังดูห้องทดลองส่วนตัวที่กำลังพัฒนา AGI และพวกมันว่องไวกว่า พวกเขามีคนที่คุ้นเคยมากกว่า เราคิดคล้ายกับคนประเภทนั้นมากกว่า […]

ระบบ AI สามารถเข้าใจคุณค่าของมนุษย์ได้อย่างไร

ระบบ AI สามารถเข้าใจคุณค่าของมนุษย์ได้อย่างไร

ระบบ AI สามารถเข้าใจคุณค่าของมนุษย์ได้อย่างไร jumbo jili อัลกอริธึมการเรียนรู้ของเครื่อง (ML) สามารถจดจำรูปแบบได้ดีกว่ามนุษย์ที่พวกเขาทำงานด้วย ซึ่งช่วยให้พวกเขาสร้างการคาดการณ์และตัดสินใจในสถานการณ์ที่เดิมพันสูงได้หลากหลาย ตัวอย่างเช่นช่างไฟฟ้าใช้ความสามารถในการคาดการณ์ของ IBM Watsonเพื่อคาดการณ์ความต้องการของลูกค้า ระบบขับเคลื่อนอัตโนมัติของ Uber จะกำหนดเส้นทางที่จะพาผู้โดยสารไปยังจุดหมายปลายทางได้เร็วที่สุด และInsilico Medicineใช้ประโยชน์จากกลไกการค้นคว้ายาเพื่อระบุหนทางสำหรับเภสัชภัณฑ์ใหม่ สล็อต เนื่องจากระบบการเรียนรู้ที่ขับเคลื่อนด้วยข้อมูลยังคงก้าวหน้าต่อไป จะเป็นการง่ายพอที่จะกำหนด “ความสำเร็จ” ตามการปรับปรุงทางเทคนิค เช่น การเพิ่มจำนวนอัลกอริธึมข้อมูลที่สามารถสังเคราะห์ได้ และปรับปรุงประสิทธิภาพของการระบุรูปแบบ อย่างไรก็ตาม เพื่อให้ระบบ ML ประสบความสำเร็จอย่างแท้จริง พวกเขาจำเป็นต้องเข้าใจคุณค่าของมนุษย์ ยิ่งไปกว่านั้น พวกเขาจำเป็นต้องสามารถชั่งน้ำหนักความต้องการและความต้องการที่แข่งขันกันของเรา ทำความเข้าใจว่าผลลัพธ์ใดที่เราให้ความสำคัญมากที่สุด และดำเนินการตามนั้นการทำความเข้าใจค่านิยมเพื่อที่จะเน้นชนิดของการตัดสินใจทางจริยธรรมว่าระบบ ML ของเราที่มีอยู่แล้วแข่งขันกับ, Kaj Sotala , นักวิจัยในประเทศฟินแลนด์ที่ทำงานให้กับพื้นฐานสถาบันวิจัยผลัดเพื่อการวิเคราะห์การจราจรและรถยนต์ขับเคลื่อนด้วยตัวเอง ควรใช้ถนนเก็บค่าผ่านทางเพื่อประหยัดเวลาในการเดินทาง 5 นาที หรือจะดีกว่าถ้าใช้เส้นทางที่ยาวกว่าเพื่อประหยัดเงินการตอบคำถามนั้นไม่ง่ายอย่างที่คิดตัวอย่างเช่นบุคคล Aอาจต้องการใช้ทางด่วนที่มีค่าใช้จ่าย […]

AI Alignment Podcast: ความฝัน AI มหาอำนาจของจีนกับ Jeffrey Ding

AI Alignment Podcast: ความฝัน AI มหาอำนาจของจีนกับ Jeffrey Ding

AI Alignment Podcast: ความฝัน AI มหาอำนาจของจีนกับ Jeffrey Ding jumbo jili “ในเดือนกรกฎาคม 2560 สภาแห่งประเทศจีนได้ออกแผนพัฒนาปัญญาประดิษฐ์รุ่นใหม่ นโยบายนี้สรุปกลยุทธ์ของจีนในการสร้างอุตสาหกรรม AI ในประเทศซึ่งมีมูลค่าเกือบ 150,000 ล้านเหรียญสหรัฐในอีกไม่กี่ปีข้างหน้าและจะกลายเป็นพลัง AI ชั้นนำภายในปี 2573 การดำเนินการนี้ถือเป็นเป้าหมายของการพัฒนาภาค AI อย่างเป็นทางการและรวมอยู่ใน ตำแหน่งประธานาธิบดี วิสัยทัศน์อันยิ่งใหญ่ของ Xi Jinping สำหรับประเทศจีน ” ( นโยบาย AI ของ FLI – หน้าประเทศจีน ) ในบริบทของการพัฒนาเหล่านี้และการสนทนาที่เพิ่มขึ้นเกี่ยวกับ AI และจีนลูคัสได้พูดคุยกับเจฟฟรีย์ ติงจากศูนย์การกำกับดูแล AI (GovAI). เจฟฟรีย์เป็นผู้นำด้าน […]

FLI Podcast: Beyond the Arms Race Narrative: AI & China กับ Helen Toner & Elsa Kania

FLI Podcast: Beyond the Arms Race Narrative: AI & China กับ Helen Toner & Elsa Kania

FLI Podcast: Beyond the Arms Race Narrative: AI & China กับ Helen Toner & Elsa Kania jumbo jili การอภิปรายเกี่ยวกับปัญญาประดิษฐ์ของจีนมักเน้นที่การแข่งขันด้านอาวุธระหว่างสหรัฐฯ กับจีน ในพ็อดคาสท์ FLI ของเดือนนี้ เรากำลังก้าวไปไกลกว่าการบรรยายเรื่องการแข่งขันอาวุธ และเจาะลึกถึงความเป็นจริงของ AI ในประเทศจีนและความหมายที่แท้จริงสำหรับสหรัฐอเมริกา ผู้เชี่ยวชาญ Helen Toner และ Elsa Kania ทั้งสองแห่งCenter for Security and Emerging Technologyแห่งมหาวิทยาลัยจอร์จทาวน์หารือถึงการผงาดขึ้นของจีนในฐานะพลัง AI ของโลก ความสัมพันธ์ระหว่างอุตสาหกรรมเทคโนโลยีของจีนกับการทหาร และการใช้ AI ในการละเมิดสิทธิมนุษยชนโดยชาวจีน […]

AI Alignment Podcast: สังเคราะห์ความชอบของมนุษย์ให้เป็นฟังก์ชันยูทิลิตี้ด้วย Stuart Armstrong

AI Alignment Podcast: สังเคราะห์ความชอบของมนุษย์ให้เป็นฟังก์ชันยูทิลิตี้ด้วย Stuart Armstrong

AI Alignment Podcast: สังเคราะห์ความชอบของมนุษย์ให้เป็นฟังก์ชันยูทิลิตี้ด้วย Stuart Armstrong jumbo jili ในวาระการวิจัยของเขาv0.9: การสังเคราะห์ความชอบของมนุษย์ให้เป็นฟังก์ชันอรรถประโยชน์สจวร์ต อาร์มสตรอง พัฒนาวิธีการสร้างปัญญาประดิษฐ์ที่เป็นมิตร ข้อเสนอการจัดตำแหน่งของเขาสามารถเข้าใจได้อย่างกว้างขวางว่าเป็นการเรียนรู้การเสริมแรงผกผันซึ่งงานส่วนใหญ่ในการอนุมานความชอบของมนุษย์นั้นเหลืออยู่ที่ AI มันขึ้นอยู่กับเราที่จะสร้างสมมติฐาน คำจำกัดความ วิธีการเรียนรู้ความพึงพอใจ และกระบวนการสังเคราะห์ที่ถูกต้องลงในระบบ AI ให้ถูกต้อง เพื่อที่จะสามารถเรียนรู้ความชอบของมนุษย์อย่างมีความหมายและสังเคราะห์ให้เป็นฟังก์ชันอรรถประโยชน์ที่เพียงพอ เพื่อให้สิ่งนี้ถูกต้อง วาระการประชุมของเขาจะพิจารณาถึงวิธีการทำความเข้าใจและระบุความพึงพอใจบางส่วนของมนุษย์ วิธีการสังเคราะห์การตั้งค่าที่เรียนรู้เหล่านี้ในท้ายที่สุดให้เป็นฟังก์ชันอรรถประโยชน์ที่ “เพียงพอ” การปฏิบัติจริงในการพัฒนาและประเมินฟังก์ชันอรรถประโยชน์ของมนุษย์ และวิธีการที่สิ่งนี้ วาระสามารถช่วยในวิธีการอื่น ๆ ของการจัดตำแหน่ง AI สล็อต ประเด็นสำคัญจากสจวร์ต:“มีสองส่วนหลักในโครงการวิจัยนี้โดยพื้นฐานแล้ว ส่วนแรกคือการระบุโมเดลภายในของมนุษย์ หาว่ามันคืออะไร เราใช้พวกมันอย่างไร และเราจะทำให้ AI รู้ได้อย่างไรว่าเกิดอะไรขึ้น ดังนั้นสิ่งเหล่านั้นจึงให้ความชอบบางส่วนแก่เรา ซึ่งเป็นส่วนที่เราสร้างความชอบทั่วไปของเรา ส่วนที่สองคือการถักชิ้นส่วนทั้งหมดเหล่านี้เข้าด้วยกันเป็นความชอบโดยรวมสำหรับแต่ละคนในลักษณะที่ทำงานได้ดีพอสมควรและเคารพความชอบที่แตกต่างกันของบุคคลนั้น การตั้งค่าเมตา และอื่นๆ ส่วนที่สองของโครงการคือส่วนที่คนมักมีความคิดเห็นที่หนักแน่นเพราะพวกเขาสามารถเห็นวิธีการทำงานและวิธีที่โครงสร้างต่างๆ […]

AI Alignment Podcast: เข้ากันได้กับมนุษย์: ปัญญาประดิษฐ์และปัญหาการควบคุมกับ Stuart Russell

AI Alignment Podcast: เข้ากันได้กับมนุษย์: ปัญญาประดิษฐ์และปัญหาการควบคุมกับ Stuart Russell

AI Alignment Podcast: เข้ากันได้กับมนุษย์: ปัญญาประดิษฐ์และปัญหาการควบคุมกับ Stuart Russell jumbo jili Stuart Russell เป็นหนึ่งในผู้บุกเบิกที่แท้จริงของ AI และอยู่ในระดับแนวหน้าของวงการมานานหลายทศวรรษ ความเชี่ยวชาญและการคิดไปข้างหน้าของเขาได้นำไปสู่ผลงานล่าสุดของเขาที่ชื่อว่าHuman Compatible: Artificial Intelligence and the Problem of Control หนังสือเล่มนี้เป็นชิ้นสำคัญ ควบคู่ไปกับSuperintelligenceและLife 3.0ที่บ่งบอกถึงปัญหาระดับอารยธรรมที่เราเผชิญในการปรับหน่วยสืบราชการลับของเครื่องจักรให้สอดคล้องกับเป้าหมายและค่านิยมของมนุษย์ นี่ไม่เพียงแต่เป็นข้อต่อและการพัฒนาปัญหาการจัดตำแหน่ง AI เท่านั้น แต่สจวร์ตยังเสนอวิธีแก้ปัญหาใหม่ที่ทำให้เราเข้าใจถึงสิ่งที่จะต้องใช้เพื่อสร้างปัญญาของเครื่องจักรที่เป็นประโยชน์มากขึ้น สล็อต ประเด็นสำคัญจากสจวร์ต:“ฉันคิดว่าประมาณปี 2013 ทำให้ฉันประทับใจจริงๆ ที่เราคิดเกี่ยวกับ AI ในทางที่ผิดด้วยกันทั้งหมด วิธีที่เราตั้งค่าพื้นที่ทั้งหมดนั้นเป็นสำเนาของความฉลาดของมนุษย์โดยพื้นฐานแล้วมนุษย์มีความฉลาดหากการกระทำของพวกเขาบรรลุเป้าหมาย ดังนั้นเครื่องจักรควรมีความชาญฉลาดหากการกระทำของตนบรรลุเป้าหมาย และแน่นอนว่าเราต้องจัดหาเป้าหมายในรูปแบบของฟังก์ชันการให้รางวัล หรือฟังก์ชันต้นทุน หรือคำสั่งเป้าหมายเชิงตรรกะ และนั่นก็ใช้ได้จนถึงจุดหนึ่ง มันทำงานเมื่อเครื่องจักรโง่ และหากคุณระบุวัตถุประสงค์ที่ไม่ถูกต้อง […]