Get in my Think Art.

Day: October 7, 2021

วิธีการออกแบบ AI ที่เข้าใจสิ่งที่มนุษย์ต้องการ: บทสัมภาษณ์กับ Long Ouyang

วิธีการออกแบบ AI ที่เข้าใจสิ่งที่มนุษย์ต้องการ: บทสัมภาษณ์กับ Long Ouyang

วิธีการออกแบบ AI ที่เข้าใจสิ่งที่มนุษย์ต้องการ: บทสัมภาษณ์กับ Long Ouyang jumbo jili เมื่อปัญญาประดิษฐ์มีความก้าวหน้ามากขึ้น โปรแกรมเมอร์ก็คาดหวังว่าจะพูดคุยกับคอมพิวเตอร์ได้เหมือนกับที่พูดกับมนุษย์ แทนที่จะพิมพ์โค้ดที่ยาวและซับซ้อน เราจะสื่อสารกับระบบ AI โดยใช้ภาษาธรรมชาติด้วยโมเดลปัจจุบันที่เรียกว่า “การสังเคราะห์โปรแกรม” มนุษย์สามารถให้คอมพิวเตอร์เขียนโค้ดให้กับพวกเขาโดยให้ตัวอย่างและสาธิตแนวคิดแก่พวกเขา แต่โมเดลนี้มีจำกัด ด้วยการสังเคราะห์โปรแกรม คอมพิวเตอร์เป็นนักอักษรศาสตร์ แทนที่จะอ่านระหว่างบรรทัดและพิจารณาถึงเจตนา พวกเขาแค่ทำในสิ่งที่จริงแท้จริง และสิ่งที่จริงแท้จริงไม่ใช่สิ่งที่มนุษย์ต้องการเสมอไป สล็อต หากคุณถามคอมพิวเตอร์สำหรับคำที่ขึ้นต้นด้วยตัวอักษร “a” เช่นอาจส่งคืน “a” คำว่า “a” ตรงตามความต้องการของคุณ แต่ไม่ใช่สิ่งที่คุณต้องการ ในทำนองเดียวกัน ถ้าคุณถามระบบ AI ว่า “คุณผ่านเกลือได้ไหม” AI อาจจะนิ่งและตอบว่า “ใช่” พฤติกรรมนี้แม้ว่าจะสอดคล้องกับข้อกำหนดอย่างแท้จริง แต่ก็ใช้ไม่ได้ในที่สุดเพราะ AI ไม่ได้ส่งผ่านเกลือมาให้คุณนักวิทยาศาสตร์คอมพิวเตอร์ Stuart Russell […]

AI ที่เป็นมิตร: เป้าหมายที่ตรงกัน

AI ที่เป็นมิตร: เป้าหมายที่ตรงกัน

AI ที่เป็นมิตร: เป้าหมายที่ตรงกัน jumbo jili ยิ่งมีเครื่องจักรที่ชาญฉลาดและทรงพลังมากเท่าไหร่ ก็ยิ่งมีความสำคัญมากขึ้นเท่านั้นที่เป้าหมายของพวกเขาจะสอดคล้องกับเป้าหมายของเรา ตราบใดที่เราสร้างเครื่องจักรที่ค่อนข้างงี่เง่า คำถามไม่ได้อยู่ที่ว่าเป้าหมายของมนุษย์จะชนะในท้ายที่สุดหรือไม่ แต่เป็นเพียงปัญหาที่เครื่องจักรเหล่านี้สามารถก่อให้เกิดมนุษยชาติได้ก่อนที่เราจะหาวิธีแก้ไขปัญหาการจัดตำแหน่งเป้าหมาย อย่างไรก็ตาม หากมีการปลดปล่อย superintelligence มันจะเป็นอีกทางหนึ่ง เนื่องจากความฉลาดคือความสามารถในการบรรลุเป้าหมาย ดังนั้น AI ที่ฉลาดหลักแหลมนั้นสามารถบรรลุเป้าหมายได้ดีกว่ามนุษย์เรามาก ดังนั้นจะชนะ . สล็อต หากคุณต้องการสัมผัสกับเป้าหมายของเครื่องจักรสำคัญกว่าคุณในตอนนี้ เพียงดาวน์โหลดเอ็นจิ้นหมากรุกที่ล้ำสมัยแล้วลองเอาชนะมัน คุณจะไม่มีวันทำ และมันจะแก่เร็ว…กล่าวอีกนัยหนึ่งความเสี่ยงที่แท้จริงของ AGI ไม่ใช่ความอาฆาตพยาบาท แต่เป็นความสามารถ AI ที่ฉลาดหลักแหลมจะเก่งมากในการบรรลุเป้าหมาย และหากเป้าหมายเหล่านั้นไม่สอดคล้องกับเป้าหมายของเรา เราก็มีปัญหา ผู้คนไม่ได้คิดซ้ำสองเกี่ยวกับน้ำท่วมจอมปลวกเพื่อสร้างเขื่อนไฟฟ้าพลังน้ำ ดังนั้นอย่าวางมนุษยชาติไว้ในตำแหน่งของมดเหล่านั้น นักวิจัยส่วนใหญ่จึงโต้แย้งว่าหากเราจบลงด้วยการสร้างความฉลาดหลักแหลม เราควรตรวจสอบให้แน่ใจว่าเป็นสิ่งที่ Eliezer Yudkowsky ผู้บุกเบิกด้านความปลอดภัยของ AI เรียกว่า “AI ที่เป็นมิตร”: AI ที่มีเป้าหมายสอดคล้องกับเราการค้นหาวิธีจัดเป้าหมายของ […]

หลักการทำงานกับ AI ที่พัฒนาขึ้นในการประชุมอซิโลมาร์

หลักการทำงานกับ AI ที่พัฒนาขึ้นในการประชุมอซิโลมาร์

หลักการทำงานกับ AI ที่พัฒนาขึ้นในการประชุมอซิโลมาร์ jumbo jili ปัญญาประดิษฐ์ทำให้สามารถสร้างเครื่องมือที่เป็นประโยชน์ต่อผู้ใช้ทั่วโลกได้ การพัฒนา AI เพิ่มเติมตามหลักการที่ระบุไว้ด้านล่างสามารถเปิดโอกาสอันน่าทึ่งในการช่วยเหลือผู้คนในทศวรรษหน้า หรือแม้แต่หลายศตวรรษข้างหน้า สล็อต พื้นที่วิจัย1) วัตถุประสงค์ของการวิจัย: วัตถุประสงค์ของการวิจัย AI ควรอยู่ในขอบเขตของการสร้างไม่ใช่จิตใจที่ไร้จุดหมาย แต่เป็นระบบที่มุ่งสร้างประโยชน์ให้กับมนุษยชาติ2) เงินทุนเพื่อการวิจัย: การลงทุนใน AI จะต้องมาพร้อมกับเงินอุดหนุนสำหรับการวิจัยที่มุ่งค้นหาการใช้ AI ที่เป็นประโยชน์ ในบริบทของการจัดการปัญหาที่ยากจากสาขาวิทยาการคอมพิวเตอร์ เศรษฐศาสตร์ กฎหมาย จริยธรรม และสังคมศาสตร์ บางคำถามเหล่านี้คือ:เราจะมั่นใจได้อย่างไรถึงความน่าเชื่อถือของอนาคตของ AI เพื่อให้ระบบสามารถรันโปรแกรมได้โดยไม่เสี่ยงต่อการขัดข้องและการโจมตีของแฮ็กเกอร์จะเพิ่มระดับความเป็นอยู่ที่ดีด้วยกระบวนการอัตโนมัติโดยไม่ลดระดับแรงงานคนและรักษาจุดประสงค์ได้อย่างไรเมื่อทำให้ระบบกฎหมายมีประสิทธิภาพและยุติธรรมมากขึ้น เราจะปรับเปลี่ยนตามการพัฒนา AI และคำนึงถึงความเสี่ยงทางกฎหมายทั้งหมดที่เกี่ยวข้องกับการใช้งานได้อย่างไรค่านิยมใดที่ควรเป็นพื้นฐานของ AI และควรมีสถานะทางกฎหมายและศีลธรรมอย่างไร3) การเสวนาระหว่างนักวิทยาศาสตร์และผู้กำหนดนโยบาย: จำเป็นต้องมีการเจรจาที่สร้างสรรค์และดีต่อสุขภาพระหว่างนักวิจัย AI และผู้กำหนดนโยบาย4) วัฒนธรรมแห่งความสัมพันธ์ในชุมชนการวิจัย: ควรส่งเสริมวัฒนธรรมการปฏิสัมพันธ์ ความไว้วางใจ และการเปิดกว้างในหมู่นักวิจัยและนักพัฒนา AI5) […]

The Future of Humanity Institute เผยแพร่เอกสารสามฉบับเกี่ยวกับ Biorisks

The Future of Humanity Institute เผยแพร่เอกสารสามฉบับเกี่ยวกับ Biorisks

The Future of Humanity Institute เผยแพร่เอกสารสามฉบับเกี่ยวกับ Biorisks jumbo jili เมื่อต้นเดือนนี้ สถาบัน Future of Humanity Institute (FHI) ได้เผยแพร่เอกสารใหม่ 3 ฉบับที่ประเมินความเสี่ยงด้านความปลอดภัยทางชีวภาพที่เป็นหายนะและมีอยู่จริง และนำเสนอการวิเคราะห์ต้นทุนและผลประโยชน์ของแนวทางต่างๆ ในการจัดการกับความเสี่ยงเหล่านี้งานนี้ทำโดย Piers Millett, Andrew Snyder-Beattie, Sebastian Farquhar และ Owen Cotton-Barratt – พิจารณาถึงความเสี่ยงที่ยิ่งใหญ่ที่สุดที่อาจเกิดขึ้น ความคุ้มค่าในการแก้ไข และวิธีที่หน่วยงานจัดหาเงินทุนสามารถเข้าถึงการวิจัยที่มีความเสี่ยงสูง . สล็อต ในรายงานฉบับหนึ่งHuman Agency and Global Catastrophic Biorisks , Millett และ […]

ลำดับความสำคัญในการวิจัยเพื่อสร้างปัญญาประดิษฐ์ที่เชื่อถือได้และมีประโยชน์

ลำดับความสำคัญในการวิจัยเพื่อสร้างปัญญาประดิษฐ์ที่เชื่อถือได้และมีประโยชน์

ลำดับความสำคัญในการวิจัยเพื่อสร้างปัญญาประดิษฐ์ที่เชื่อถือได้และมีประโยชน์ jumbo jili การวิจัยปัญญาประดิษฐ์ (AI) ตั้งแต่แรกเริ่มรวมถึงการศึกษาปัญหาและทิศทางที่หลากหลาย แต่ในช่วง 20 ปีที่ผ่านมาได้รับความสนใจเป็นพิเศษกับปัญหาที่เกี่ยวข้องกับการสร้างตัวแทนอัจฉริยะ – ระบบที่รับรู้สภาพแวดล้อม และลงมือทำในนั้น ในบริบทนี้ “ความฉลาด” มีความเกี่ยวข้องกับแนวคิดทางสถิติและเศรษฐกิจของความมีเหตุผล กล่าวคือ กับความสามารถในการตัดสินใจที่ถูกต้อง วางแผนหรือสรุปผล การใช้ความน่าจะเป็นและทฤษฎีการตัดสินใจ รวมถึงการใช้วิธีการเรียนรู้ทางสถิติ นำไปสู่การบูรณาการและการผสมข้ามพันธุ์ของ AI อย่างมีนัยสำคัญ การเรียนรู้ของเครื่อง สถิติ ทฤษฎีการควบคุม ประสาทวิทยาศาสตร์ และสาขาอื่นๆ สล็อต เนื่องจากศักยภาพทางการค้าของสิ่งเหล่านี้และการประยุกต์ใช้เทคโนโลยี AI อื่นๆ อยู่เหนือการวิจัยในห้องปฏิบัติการอย่างหมดจดและกลายเป็นมูลค่าทางเศรษฐกิจ จึงมีวัฏจักรที่เป็นประโยชน์ของการพัฒนาเทคโนโลยี ซึ่งการปรับปรุงการทำงานเพียงเล็กน้อยก็นำไปสู่มูลค่าทางเศรษฐกิจที่เพิ่มขึ้นอย่างเห็นได้ชัด ซึ่งดึงดูดนักลงทุน ปัจจุบันมีความเชื่ออย่างกว้างขวางว่าการวิจัย AI มีความก้าวหน้าอย่างต่อเนื่องและผลกระทบต่อสังคมมีแนวโน้มที่จะเติบโตต่อไป ประโยชน์ที่เป็นไปได้ของการใช้ AI นั้นมหาศาล เนื่องจากความสำเร็จทั้งหมดของอารยธรรมสมัยใหม่เป็นผลจากความฉลาดของมนุษย์ และเป็นการยากที่จะจินตนาการถึงความสูงอื่นๆ ที่สามารถทำได้โดยการเสริมสร้างจิตใจมนุษย์ด้วยเครื่องมือ […]

พอดคาสต์: จริยธรรม AI ปัญหารถเข็น และเรื่องผีใน Twitter กับ Joshua Greene และ Iyad Rahwan

พอดคาสต์: จริยธรรม AI ปัญหารถเข็น และเรื่องผีใน Twitter กับ Joshua Greene และ Iyad Rahwan

พอดคาสต์: จริยธรรม AI ปัญหารถเข็น และเรื่องผีใน Twitter กับ Joshua Greene และ Iyad Rahwan jumbo jili ความท้าทายทางเทคนิคที่อาจเป็นการพัฒนา AI ที่ปลอดภัยและเป็นประโยชน์ ความท้าทายนี้ยังทำให้เกิดคำถามที่ซับซ้อนเกี่ยวกับจริยธรรมและศีลธรรม ซึ่งเป็นสิ่งสำคัญที่ต้องจัดการก่อนที่ AI จะก้าวหน้าเกินไป เราจะสอนเครื่องจักรให้มีคุณธรรมได้อย่างไร ในเมื่อคนยังตกลงกันไม่ได้ว่าพฤติกรรมทางศีลธรรมคืออะไร? และเราจะช่วยผู้คนในการจัดการและได้รับประโยชน์จากการเปลี่ยนแปลงครั้งใหญ่ที่เราคาดหวังจาก AI ได้อย่างไร สล็อต เพื่อช่วยพิจารณาคำถามเหล่านี้ Joshua Greene และ Iyad Rawhan ตกลงเข้าร่วมพอดแคสต์ด้วยความกรุณา Josh เป็นศาสตราจารย์ด้านจิตวิทยาและเป็นสมาชิกของศูนย์วิทยาศาสตร์สมองแห่งมหาวิทยาลัยฮาร์วาร์ด ซึ่งห้องทดลองของเขาได้ใช้วิธีทางพฤติกรรมและประสาทวิทยาเพื่อศึกษาวิจารณญาณทางศีลธรรม โดยเน้นที่การมีปฏิสัมพันธ์ระหว่างอารมณ์และเหตุผลในประเด็นขัดแย้งทางศีลธรรม เขาเป็นผู้เขียนMoral Tribes: อารมณ์ เหตุผล และช่องว่างระหว่างเรากับพวกเขา Iyad เป็นศาสตราจารย์ด้านการพัฒนาอาชีพของ […]