แดนนี่เฮอร์นันเดซบนพยากรณ์และ NS คนขับรถของความก้าวหน้าของ AI jumbo jili บริษัทต่างๆ ใช้การฝึกอบรมด้านการคำนวณมากกว่า 300,000 เท่าสำหรับระบบ AI ที่ดีที่สุดในปัจจุบันมากกว่าที่เคยใช้ในปี 2555 และนวัตกรรมอัลกอริธึมยังทำให้พวกเขามีประสิทธิภาพมากกว่าเดิมถึง 25 เท่าในงานเดียวกัน สล็อต นี่คือผลลัพธ์พาดหัวของเอกสารสองฉบับล่าสุด – AI และ ComputeและAI และประสิทธิภาพ – จาก Foresight Team ที่ OpenAI ในกรณีที่วันนี้ผมได้พูดคุยกับหนึ่งในผู้เขียน, Danny Hernandez ที่เข้าร่วม OpenAI หลังจากที่ช่วยพัฒนาวิธีการพยากรณ์ดีกว่าที่กระตุกและเปิดใจบุญสุนทานแดนนี่กับฉันคุยกันว่าจะเข้าใจผลลัพธ์ของทีมอย่างไรและมีความหมายอย่างไร (และไม่ได้หมายความถึง) ว่าเราควรจะคิดอย่างไรเกี่ยวกับความก้าวหน้าของ AI ในอนาคตการอภิปรายเกี่ยวกับอนาคตของ AI บางครั้งอาจเป็นนามธรรมและเป็นทฤษฎีได้ Danny หวังว่าการให้การวัดผลอย่างเข้มงวดของข้อมูลบางอย่างเกี่ยวกับความก้าวหน้าของ AI จะช่วยให้เราเข้าใจได้ดีขึ้นว่าอะไรเป็นสาเหตุของความก้าวหน้านั้น […]

ปัญหาที่แก้ไขไม่ได้ใน AI jumbo jili เอกสารนี้ระบุปัญหาที่เปิดอยู่ใน AI มันพยายามที่จะให้ภาพรวมที่รัดกุมในความท้าทายที่ยิ่งใหญ่ที่สุดในสนามและของรัฐในปัจจุบันของศิลปะในแนวเดียวกันกับ“ เปิดคำถามการวิจัยรูปแบบ” ของการมุ่งเน้นของAI Roadmap สถาบัน สล็อต ความท้าทายถูกจัดกลุ่มเป็นปัญหาที่สมบูรณ์ของ AIปัญหาโดเมนปิดและปัญหาพื้นฐานในการให้เหตุผลทั่วไป การเรียนรู้ และความสามารถของเซ็นเซอร์ฉันตระหนักดีว่านี้ความพยายามครั้งแรกที่การสำรวจปัญหาเปิดจำเป็นจะไม่สมบูรณ์และยินดีต้อนรับผู้อ่านข้อเสนอแนะเพื่อช่วยเร่งการค้นหาปัญญาประดิษฐ์ทั่วไป GoodAI กำลังจัดการแข่งขันGeneral AI Challenge (GoodAI, 2017) ซึ่งมีจุดมุ่งหมายเพื่อแก้ปัญหาบางอย่างที่ระบุไว้ด้านล่าง ผ่านชุดความท้าทายที่สำคัญซึ่งเริ่มต้นในต้นปี 2560ปัญหาแตกต่างกันไปตามขอบเขตและมักทับซ้อนกัน บางส่วนอาจมีอยู่ในส่วนอื่นๆ ทั้งหมด เกณฑ์ที่สอง (ขอบเขตปิด) ไม่รวมปัญหาที่น่าสนใจบางอย่าง เช่น การเรียนรู้อาชีพมนุษย์ทั้งหมด ปัญหาบางประการของประเภทนี้ถูกกล่าวถึงแยกต่างหากจากรายการหลัก เพื่อให้แน่ใจว่าปัญหาสามารถทดสอบได้ แต่ละปัญหาจะถูกนำเสนอพร้อมกับตัวอย่างการทดสอบเว็บไซต์หลายแห่ง ซึ่งบางเว็บไซต์ระบุไว้ด้านล่าง มีปัญหาท้าทายสำหรับ AIหน้าปัญหา commonsense เหตุผล (commonsense เหตุผล, 2015) มีปัญหาจากหลายพื้นที่ใน commonsense […]

ผู้นำด้านวิทยาการหุ่นยนต์ชั้นนำและบริษัท AI เรียกร้องให้แบนหุ่นยนต์นักฆ่า jumbo jili ผู้ก่อตั้งบริษัท AI/หุ่นยนต์ รวมถึง Elon Musk (Tesla, SpaceX, OpenAI) และ Demis Hassabis และ Mustafa Suleyman (DeepMind ของ Google) เรียกร้องให้แบนอาวุธอัตโนมัติ เนื่องจาก UN ชะลอการเจรจาผู้นำจากบริษัท AI และหุ่นยนต์ทั่วโลกได้ออกจดหมายเปิดผนึกที่เรียกร้องให้สหประชาชาติสั่งห้ามอาวุธอัตโนมัติซึ่งมักเรียกกันว่าหุ่นยนต์นักฆ่า สล็อต ผู้ก่อตั้งและซีอีโอของบริษัทเกือบ 100 แห่งจาก 26 ประเทศลงนามในจดหมาย ซึ่งเตือนว่า:“อาวุธทำลายล้างที่ทำลายล้างได้คุกคามที่จะกลายเป็นการปฏิวัติครั้งที่สามในการทำสงคราม เมื่อพัฒนาแล้ว พวกเขาจะอนุญาตให้มีการสู้รบกันด้วยอาวุธในระดับที่มากกว่าที่เคย และในช่วงเวลาที่เร็วกว่าที่มนุษย์จะเข้าใจได้”ในเดือนธันวาคม 123 ประเทศสมาชิกของสหประชาชาติได้ตกลงที่จะเดินหน้าดำเนินการหารืออย่างเป็นทางการเกี่ยวกับอาวุธอิสระ โดยมีสมาชิก 19 คนเรียกร้องให้มีการสั่งห้ามโดยเด็ดขาด อย่างไรก็ตาม การอภิปรายในขั้นต่อไปซึ่งเดิมมีกำหนดจะเริ่มในวันที่ […]

จะมั่นใจได้อย่างไรว่าการใช้งานระบบ AI ในวงกว้างอย่างปลอดภัย jumbo jili ระบบ AI ที่มีขอบเขตกว้างมาก สามารถให้เหตุผลในระยะยาวที่สร้างสรรค์ สามารถดำเนินการที่คาดเดาได้ยาก ปัญหาการจัดตำแหน่งค่าเป็นตัวอย่างหนึ่ง – ที่ระบุไว้ไม่ดี“เป้าหมาย” ที่ดำเนินการโดยที่มีประสิทธิภาพระบบ AI ที่อาจก่อให้เกิดความเสี่ยงต่อภัยพิบัติทั่วโลก สล็อต แม้ว่าค่านิยมจะ “ตรงกัน” ระหว่างระบบ AI กับผู้ใช้ แต่ก็อาจเป็นกรณีที่ระบบ AI มีเป้าหมายเฉพาะอาจนำไปสู่การกระทำที่ผิดกฎหมาย ในรูปแบบที่คาดเดาได้ยากสำหรับผู้ที่ไม่ระมัดระวัง ตรวจสอบระบบ – หรือแม้แต่สำหรับผู้ที่มี ตัวอย่างเช่น ระบบ AI ที่มีเป้าหมายในการ “ทำเงิน” อาจกลายเป็นการฝ่าฝืนกฎหมายในการพยายามทำเช่นนั้น แม้ว่าจะไม่ชัดเจนว่าสิ่งนี้จะเกิดขึ้นในขณะที่ระบบ AI ยังอยู่ในระหว่างการพัฒนาและ การทดสอบเมื่อคำนึงถึงการพิจารณาเหล่านี้ คำถามสำคัญก็เกิดขึ้นเกี่ยวกับความร่วมมือและความขัดแย้งในการพัฒนาและใช้งานระบบที่อาจเป็นอันตรายได้ เช่นเราจะส่งเสริมจิตวิญญาณแห่งความร่วมมือระหว่างผู้ที่เกี่ยวข้องในการพัฒนาและปรับใช้ AI ที่ปลอดภัยได้อย่างไรการแข่งขันระหว่างประเทศและความร่วมมือด้าน AI สามารถกำหนดและวิเคราะห์จากมุมมองของทฤษฎีเกมได้อย่างไรจะเป็นประโยชน์หรือไม่ที่จะมีข้อตกลงล่วงหน้าระหว่างฝ่ายต่างๆ […]

วิธีเตรียมตัวสำหรับการใช้ AI ที่เป็นอันตราย jumbo jili เราจะคาดการณ์ ป้องกัน และ (เมื่อจำเป็น) บรรเทาผลกระทบที่เป็นอันตรายจากการใช้ AI ที่เป็นอันตรายได้อย่างไรนี่เป็นคำถามจากรายงาน 100 หน้าที่เผยแพร่เมื่อสัปดาห์ที่แล้ว ซึ่งเขียนโดยผู้เขียน 26 คนจาก 14 สถาบัน รายงานซึ่งเป็นผลมาจากการประชุมเชิงปฏิบัติการ 2 วันในเมืองอ็อกซ์ฟอร์ด ประเทศอังกฤษ ตามด้วยการวิจัยเป็นเวลาหลายเดือน ให้ภาพรวมที่ครอบคลุมถึงผลกระทบด้านความปลอดภัยของปัญญาประดิษฐ์ สล็อต ผู้เขียนซึ่งรวมถึงตัวแทนจาก Future of Humanity Institute, Center for the Study of Existential Risk, OpenAI และ Center for a New American […]

สรุปปัญหาที่เป็นรูปธรรมในความปลอดภัยของ AI jumbo jili เกือบสองปีแล้วที่นักวิจัยจาก Google, Stanford, UC Berkeley และ OpenAI เผยแพร่บทความเรื่อง “Concrete Problems in AI Safety” แต่ก็ยังเป็นหนึ่งในส่วนที่สำคัญที่สุดในความปลอดภัยของ AI แม้จะผ่านไปสองปีแล้ว ก็ยังเป็นการแนะนำที่ดีถึงปัญหาบางอย่างที่นักวิจัยเผชิญในขณะที่พวกเขาพัฒนาปัญญาประดิษฐ์ ในบทความนี้ ผู้เขียนสำรวจปัญหาการเกิดอุบัติเหตุ— พฤติกรรมที่ไม่ได้ตั้งใจและเป็นอันตราย — ในระบบ AI และพวกเขาจะหารือเกี่ยวกับกลยุทธ์ที่แตกต่างกันและความพยายามในการวิจัยอย่างต่อเนื่องเพื่อป้องกันปัญหาที่อาจเกิดขึ้นเหล่านี้ โดยเฉพาะอย่างยิ่ง ผู้เขียนกล่าวถึง — การหลีกเลี่ยงผลข้างเคียงเชิงลบ, การแฮ็กรางวัล, การกำกับดูแลที่ปรับขนาดได้, การสำรวจอย่างปลอดภัย และความทนทานต่อการเปลี่ยนแปลงการกระจาย — ซึ่งแสดงให้เห็นด้วยตัวอย่างของหุ่นยนต์ที่ได้รับการฝึกฝนให้ทำความสะอาดสำนักงาน สล็อต เราทบทวน 5 หัวข้อนี้อีกครั้ง โดยสรุปจากบทความ เพื่อเป็นการเตือนว่าปัญหาเหล่านี้ยังคงเป็นประเด็นสำคัญที่นักวิจัย AI […]