Get in my Think Art.

Day: September 12, 2021

FLI Podcast: ความก้าวหน้าและความท้าทายของ AI ในปี 2018 กับ David Krueger และ Roman Yampolskiy

FLI Podcast: ความก้าวหน้าและความท้าทายของ AI ในปี 2018 กับ David Krueger และ Roman Yampolskiy

FLI Podcast: ความก้าวหน้าและความท้าทายของ AI ในปี 2018 กับ David Krueger และ Roman Yampolskiy jumbo jili ทุกเดือนมกราคม เราชอบที่จะมองย้อนกลับไปในช่วง 12 เดือนที่ผ่านมาเกี่ยวกับความก้าวหน้าที่เกิดขึ้นในโลกของปัญญาประดิษฐ์ ยินดีต้อนรับสู่พอดคาสต์ “นวัตกรรม AI” ประจำปีของเรา ฉบับปี 2018Ariel ได้เข้าร่วมในการหวนกลับครั้งนี้โดยนักวิจัย Roman Yampolskiy และ David Krueger Roman เป็นนักวิจัยและศาสตราจารย์ด้านความปลอดภัยของ AI ที่มหาวิทยาลัย Louisville เมื่อเร็ว ๆ นี้นอกจากนี้เขายังได้ตีพิมพ์หนังสือ ปัญญาประดิษฐ์ความปลอดภัยและการรักษาความปลอดภัย David เป็นผู้สมัครระดับปริญญาเอกในห้องปฏิบัติการ Mila ที่มหาวิทยาลัยมอนทรีออล ซึ่งเขาทำงานเกี่ยวกับการเรียนรู้เชิงลึกและความปลอดภัยของ AI […]

AI Alignment Podcast: ความรู้ความเข้าใจของมนุษย์และธรรมชาติของความฉลาดกับ Joshua Greene

AI Alignment Podcast: ความรู้ความเข้าใจของมนุษย์และธรรมชาติของความฉลาดกับ Joshua Greene

AI Alignment Podcast: ความรู้ความเข้าใจของมนุษย์และธรรมชาติของความฉลาดกับ Joshua Greene jumbo jili “ วิธีทำเรารวมแนวคิดความคิดรูปแบบ? ความคิดเดียวกันนี้จะแสดงออกมาในรูปของคำพูดได้อย่างไร เมื่อเทียบกับสิ่งที่คุณมองเห็นหรือได้ยินในดวงตาและหูของจิตใจ สมองของคุณแยกแยะสิ่งที่คิดจากสิ่งที่เชื่อจริง ๆ ได้อย่างไร ถ้าฉันเล่าเรื่องประกอบให้คุณฟัง เมื่อวานฉันเล่นบาสเก็ตบอลกับเลอบรอน เจมส์ บางทีคุณอาจจะเชื่อฉัน แล้วฉันก็พูดว่า โอ้ ฉันแค่ล้อเล่น มันไม่ได้เกิดขึ้นจริงๆ คุณยังคงมีความคิดอยู่ในหัว แต่ในกรณีหนึ่ง คุณกำลังนำเสนอว่าเป็นสิ่งที่จริง ในอีกกรณีหนึ่ง คุณกำลังแสดงเป็นบางสิ่งที่เป็นเท็จ หรือบางทีคุณอาจกำลังแสดงสิ่งนั้นว่าเป็นสิ่งที่อาจเป็นจริง และคุณ’ ไม่แน่ใจ สำหรับสัตว์ส่วนใหญ่ ความคิดที่เข้ามาในหัวจะเข้ามาโดยการรับรู้ และค่าเริ่มต้นก็คือความคิดเหล่านั้นเท่านั้น แต่มนุษย์มีความสามารถในการสร้างความบันเทิงให้กับความคิดทุกประเภทโดยไม่ต้องเชื่อ คุณสามารถเชื่อได้ว่ามันเป็นเท็จ หรือคุณอาจเป็นคนไม่เชื่อเรื่องพระเจ้า และนั่นไม่ใช่สิ่งสำคัญสำหรับการเก็งกำไรเท่านั้น แต่ยังจำเป็นสำหรับการวางแผน คุณต้องสามารถจินตนาการถึงความเป็นไปได้ที่ยังไม่เกิดขึ้นจริง นี่คือสิ่งที่เรากำลังพยายามทำความเข้าใจ จากนั้นฉันคิดว่าโครงการทำความเข้าใจวิธีที่มนุษย์ทำนั้นค่อนข้างขนานกับโครงการพยายามสร้างปัญญาประดิษฐ์ทั่วไป” -โจชัว กรีน สล็อต […]

AI Alignment Podcast: การจัดตำแหน่ง AI ผ่านการโต้วาทีกับ Geoffrey Irving

AI Alignment Podcast: การจัดตำแหน่ง AI ผ่านการโต้วาทีกับ Geoffrey Irving

AI Alignment Podcast: การจัดตำแหน่ง AI ผ่านการโต้วาทีกับ Geoffrey Irving jumbo jili “ในการทำให้ระบบ AI มีประโยชน์อย่างกว้างขวางสำหรับงานที่ท้าทายในโลกแห่งความเป็นจริง เราต้องการให้พวกเขาเรียนรู้ เป้าหมายและความชอบของมนุษย์ที่ซับซ้อน วิธีการหนึ่งในการกำหนดเป้าหมายที่ซับซ้อนขอให้มนุษย์ ตัดสินระหว่างการฝึกอบรมว่าพฤติกรรมของเจ้าหน้าที่ใดปลอดภัยและมีประโยชน์ แต่วิธีการนี้อาจล้มเหลวได้หาก งานซับซ้อนเกินไปที่มนุษย์จะตัดสินได้โดยตรง เพื่อช่วยแก้ไขข้อกังวลนี้ เราขอเสนอ ตัวแทนการฝึกอบรมผ่านการเล่นด้วยตนเองในเกมโต้วาทีที่ไม่มีผลรวม เมื่อได้รับคำถามหรือการดำเนินการที่เสนอ เจ้าหน้าที่สองคนผลัดกันเขียนข้อความสั้นๆ จนถึงขีดจำกัด จากนั้นผู้พิพากษาที่เป็นมนุษย์ซึ่ง ตัวแทนให้ข้อมูลที่เป็นประโยชน์และเป็นจริงมากที่สุด… ในทางปฏิบัติ งานอภิปรายเกี่ยวข้องกับคำถามเชิงประจักษ์หรือไม่ เกี่ยวกับมนุษย์และงานที่เราต้องการให้ AI ดำเนินการ รวมทั้งคำถามเชิงทฤษฎีเกี่ยวกับ ความหมายของการจัดตำแหน่ง AI” ความปลอดภัยของ AI ผ่านการโต้วาที สล็อต การอภิปรายเป็นสิ่งที่เราทุกคนคุ้นเคย โดยปกติแล้วจะเกี่ยวข้องกับบุคคลตั้งแต่สองคนขึ้นไปให้การโต้แย้งและโต้แย้งในคำถามบางข้อเพื่อพิสูจน์ข้อสรุป ที่OpenAIกำลังสำรวจการอภิปรายเป็นวิธีการจัดแนว AI สำหรับการเรียนรู้รางวัล (เรียนรู้สิ่งที่มนุษย์ต้องการ) […]

ปัญหาที่หลีกเลี่ยงไม่ได้ของการพัฒนาตนเองใน AI: บทสัมภาษณ์กับ Ramana Kumar ตอนที่ 1

ปัญหาที่หลีกเลี่ยงไม่ได้ของการพัฒนาตนเองใน AI: บทสัมภาษณ์กับ Ramana Kumar ตอนที่ 1

ปัญหาที่หลีกเลี่ยงไม่ได้ของการพัฒนาตนเองใน AI: บทสัมภาษณ์กับ Ramana Kumar ตอนที่ 1 jumbo jili ระบบ AI ในปัจจุบันอาจดูเหมือนเป็นขุมพลังทางปัญญาที่สามารถเอาชนะคู่หูที่เป็นมนุษย์ได้ในงานที่หลากหลาย แต่กำลังการผลิตทางปัญญาของตัวแทนเอไอวันนี้ที่ทันสมัยที่สุดคือในความเป็นจริงแคบลงและ จำกัด ยกตัวอย่าง AlphaGo แม้ว่ามันอาจจะเป็นแชมป์โลกของเกมกระดาน Goแต่นี่เป็นงานเดียวที่สำคัญที่ระบบทำได้ สล็อต แน่นอนนอกจากนี้ยังมี AlphaZero อัลกอริธึมนี้เชี่ยวชาญเกมต่างๆ มากมาย ตั้งแต่หมากรุกญี่ปุ่นและอเมริกา ไปจนถึง Go ดังนั้นจึงมีความสามารถและพลวัตมากกว่าตัวแทน AI ในปัจจุบันหลายราย อย่างไรก็ตาม AlphaZero ไม่มีความสามารถในการนำความฉลาดไปใช้กับปัญหาใดๆ ได้อย่างง่ายดาย มันไม่สามารถย้ายโดยอิสระจากงานหนึ่งไปอีกงานหนึ่งในแบบที่มนุษย์สามารถทำได้สิ่งเดียวกันนี้สามารถพูดได้เกี่ยวกับระบบ AI อื่น ๆ ในปัจจุบันทั้งหมด — ความสามารถทางปัญญาของพวกเขามีจำกัด และไม่ขยายเกินงานเฉพาะที่พวกเขาสร้างขึ้นสำหรับ นั่นเป็นเหตุผลที่ปัญญาประดิษฐ์ทั่วไป (AGI) เป็นเป้าหมายระยะยาวของนักวิจัยหลายคนระบบ AGI […]