Get in my Think Art.

Tag: Stuart Russell

NS ข้อบกพร่องนั่นทำของวันนี้ AI สถาปัตยกรรมไม่ปลอดภัยและ NS ใหม่เข้าใกล้นั่นสามารถซ่อมมัน

NS ข้อบกพร่องนั่นทำของวันนี้ AI สถาปัตยกรรมไม่ปลอดภัยและ NS ใหม่เข้าใกล้นั่นสามารถซ่อมมัน

NS ข้อบกพร่องนั่นทำของวันนี้ AI สถาปัตยกรรมไม่ปลอดภัยและ NS ใหม่เข้าใกล้นั่นสามารถซ่อมมัน jumbo jili Stuart Russell ศาสตราจารย์ที่ UC Berkeley และผู้ร่วมเขียนหนังสือเรียน AI ที่ได้รับความนิยมสูงสุดคิดว่าวิธีที่เราเข้าถึงการเรียนรู้ของเครื่องในปัจจุบันมีข้อบกพร่องโดยพื้นฐานในหนังสือเล่มใหม่ของเขาที่ชื่อว่า Human Compatible เขาได้กล่าวถึง ‘แบบจำลองมาตรฐาน’ ของการพัฒนา AI ซึ่งความฉลาดนั้นถูกวัดว่าเป็นความสามารถในการบรรลุวัตถุประสงค์ที่ชัดเจนและเป็นที่รู้จักอย่างสมบูรณ์ซึ่งเราได้ระบุไว้อย่างชัดเจน สิ่งนี้ชัดเจนมากจนแทบไม่ดูเหมือนเป็นทางเลือกในการออกแบบ แต่ใช่แล้ว สล็อต น่าเสียดายที่แนวทางนี้มีปัญหาใหญ่: เป็นการยากที่จะพูดในสิ่งที่คุณต้องการอย่างแท้จริง ปัจจุบัน AI ขาดสามัญสำนึก และทำทุกอย่างที่เราขอให้ทำ นั่นเป็นความจริงแม้ว่าเป้าหมายจะไม่ใช่สิ่งที่เราต้องการจริงๆ หรือวิธีการที่มันเลือกคือสิ่งที่เราจะไม่ยอมรับเราเห็นแล้วว่าAI ทำงานผิดปกติด้วยเหตุนี้ สจวร์ตชี้ไปที่ตัวอย่างของอัลกอริทึมผู้แนะนำของ YouTube ซึ่งมีรายงานว่าได้กระตุ้นให้ผู้ใช้มีมุมมองทางการเมืองที่รุนแรงเพราะทำให้ง่ายต่อการเก็บไว้ในไซต์ นี่ไม่ใช่สิ่งที่เราต้องการ แต่ช่วยให้บรรลุวัตถุประสงค์ของอัลกอริทึม นั่นคือ เพิ่มเวลาในการดูให้สูงสุดเช่นเดียวกับกษัตริย์ไมดาส ที่ขอให้เปลี่ยนทุกอย่างเป็นทองแต่สุดท้ายกินไม่ได้ เราก็ได้สิ่งที่เราขอมามากเกินไปปัญหา ‘การจัดตำแหน่ง’ […]

AI Alignment Podcast: เข้ากันได้กับมนุษย์: ปัญญาประดิษฐ์และปัญหาการควบคุมกับ Stuart Russell

AI Alignment Podcast: เข้ากันได้กับมนุษย์: ปัญญาประดิษฐ์และปัญหาการควบคุมกับ Stuart Russell

AI Alignment Podcast: เข้ากันได้กับมนุษย์: ปัญญาประดิษฐ์และปัญหาการควบคุมกับ Stuart Russell jumbo jili Stuart Russell เป็นหนึ่งในผู้บุกเบิกที่แท้จริงของ AI และอยู่ในระดับแนวหน้าของวงการมานานหลายทศวรรษ ความเชี่ยวชาญและการคิดไปข้างหน้าของเขาได้นำไปสู่ผลงานล่าสุดของเขาที่ชื่อว่าHuman Compatible: Artificial Intelligence and the Problem of Control หนังสือเล่มนี้เป็นชิ้นสำคัญ ควบคู่ไปกับSuperintelligenceและLife 3.0ที่บ่งบอกถึงปัญหาระดับอารยธรรมที่เราเผชิญในการปรับหน่วยสืบราชการลับของเครื่องจักรให้สอดคล้องกับเป้าหมายและค่านิยมของมนุษย์ นี่ไม่เพียงแต่เป็นข้อต่อและการพัฒนาปัญหาการจัดตำแหน่ง AI เท่านั้น แต่สจวร์ตยังเสนอวิธีแก้ปัญหาใหม่ที่ทำให้เราเข้าใจถึงสิ่งที่จะต้องใช้เพื่อสร้างปัญญาของเครื่องจักรที่เป็นประโยชน์มากขึ้น สล็อต ประเด็นสำคัญจากสจวร์ต:“ฉันคิดว่าประมาณปี 2013 ทำให้ฉันประทับใจจริงๆ ที่เราคิดเกี่ยวกับ AI ในทางที่ผิดด้วยกันทั้งหมด วิธีที่เราตั้งค่าพื้นที่ทั้งหมดนั้นเป็นสำเนาของความฉลาดของมนุษย์โดยพื้นฐานแล้วมนุษย์มีความฉลาดหากการกระทำของพวกเขาบรรลุเป้าหมาย ดังนั้นเครื่องจักรควรมีความชาญฉลาดหากการกระทำของตนบรรลุเป้าหมาย และแน่นอนว่าเราต้องจัดหาเป้าหมายในรูปแบบของฟังก์ชันการให้รางวัล หรือฟังก์ชันต้นทุน หรือคำสั่งเป้าหมายเชิงตรรกะ และนั่นก็ใช้ได้จนถึงจุดหนึ่ง มันทำงานเมื่อเครื่องจักรโง่ และหากคุณระบุวัตถุประสงค์ที่ไม่ถูกต้อง […]

Steven Pinker และ Stuart Russell เกี่ยวกับพื้นฐาน ประโยชน์ และภัยคุกคามที่อาจเกิดขึ้นจาก AI

Steven Pinker และ Stuart Russell เกี่ยวกับพื้นฐาน ประโยชน์ และภัยคุกคามที่อาจเกิดขึ้นจาก AI

Steven Pinker และ Stuart Russell เกี่ยวกับพื้นฐาน ประโยชน์ และภัยคุกคามที่อาจเกิดขึ้นจาก AI jumbo jili ตลอดหลายศตวรรษที่ผ่านมา สภาพของมนุษย์เปลี่ยนแปลงไปอย่างมากจากการปฏิวัติทางการเกษตรและอุตสาหกรรม ด้วยการสร้างสรรค์และพัฒนา AI อย่างต่อเนื่อง เรายืนอยู่ท่ามกลางการปฏิวัติทางปัญญาที่กำลังดำเนินอยู่ซึ่งอาจพิสูจน์ได้ว่ามีการเปลี่ยนแปลงมากกว่าสองครั้งก่อนหน้านี้ เรามาที่นี่ได้อย่างไร และรากฐานทางปัญญาที่จำเป็นสำหรับการสร้าง AI คืออะไร? ประโยชน์ที่เราอาจได้รับจากระบบ AI ที่สอดคล้อง และความเสี่ยงและข้อผิดพลาดที่อาจเกิดขึ้นระหว่างทางคืออะไร? ในระยะยาว ระบบ AI ที่ชาญฉลาดจะก่อให้เกิดความเสี่ยงต่อมนุษยชาติหรือไม่? Steven Pinker นักเขียนหนังสือขายดีและศาสตราจารย์ด้านจิตวิทยาที่ Harvard และ Stuart Russell ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ของ UC Berkeley เข้าร่วมตอนนี้ของ AI Alignment Podcast เพื่อหารือเกี่ยวกับคำถามเหล่านี้และอีกมากมาย สล็อต […]