Get in my Think Art.

Day: October 11, 2021

การอภิปรายเกี่ยวกับ AI แบบมีหลักการในอะซิโลมาร์

การอภิปรายเกี่ยวกับ AI แบบมีหลักการในอะซิโลมาร์

การอภิปรายเกี่ยวกับ AI แบบมีหลักการในอะซิโลมาร์ jumbo jili เราผู้จัดงานพบว่าการได้เป็นส่วนหนึ่งของการประชุม BAI 2017ซึ่งเป็นงานประชุมครั้งที่สองของสถาบัน Future of Life เกี่ยวกับอนาคตของปัญญาประดิษฐ์นั้นสร้างแรงบันดาลใจได้ยอดเยี่ยมมาก นอกจากจะเป็นการรวมตัวของผู้คนที่ประสบความสำเร็จอย่างไม่รู้จบและน่าสนใจแล้ว ยังให้ความรู้สึกที่ชัดเจนถึงภารกิจร่วมกัน: การเปลี่ยนแปลงครั้งสำคัญกำลังจะมาถึง ในช่วงเวลาที่ไม่รู้จัก แต่ในทุกส่วนของสังคม และผู้คนที่มีส่วนร่วมในการเปลี่ยนแปลงนั้นมีความรับผิดชอบอย่างมาก และโอกาสที่จะสร้างมันให้ดีที่สุด สล็อต ความรู้สึกนี้ในหมู่ผู้เข้าร่วมสะท้อนถึงการมีส่วนร่วมทางสังคมในวงกว้างกับ AI ซึ่งได้ร้อนแรงขึ้นอย่างมากในช่วงไม่กี่ปีที่ผ่านมา เนื่องจากความตระหนักเรื่อง AI ที่เพิ่มขึ้นนี้ รายงานสำคัญๆ หลายสิบฉบับจึงมาจากภาควิชาการ (เช่น รายงาน 100 ปีของสแตนฟอร์ด) รัฐบาล (เช่น รายงานสำคัญสองฉบับจากทำเนียบขาว) อุตสาหกรรม (เช่น วัสดุจากพันธมิตรด้าน AI) และ ภาคส่วนที่ไม่แสวงหากำไร (เช่น รายงานหลักของ IEEE)ในการวางแผนการประชุม Asilomar […]

พอดคาสต์: สุดยอดนวัตกรรม AI กับ Ian Goodfellow และ Richard Mallah

พอดคาสต์: สุดยอดนวัตกรรม AI กับ Ian Goodfellow และ Richard Mallah

พอดคาสต์: สุดยอดนวัตกรรม AI กับ Ian Goodfellow และ Richard Mallah jumbo jili ปี 2559 มีการพัฒนา AI ที่สำคัญบางอย่าง เพื่อพูดคุยเกี่ยวกับความก้าวหน้าของ AI ในปีที่แล้ว เราหันไปหา Richard Mallah และ Ian Goodfellow Richard เป็นผู้อำนวยการโครงการ AI ที่ FLI เขาเป็นที่ปรึกษาอาวุโสของบริษัท AI หลายแห่ง และเขาสร้างแพลตฟอร์มการวิเคราะห์ข้อความระดับองค์กรที่ได้รับคะแนนสูงสุด เอียนเป็นนักวิทยาศาสตร์วิจัยที่OpenAIเขาเป็นผู้เขียนนำของตำราการเรียนรู้ลึกและเขาเป็นนักประดิษฐ์นำของกำเนิดเครือข่ายขัดแย้ง สล็อต Ariel: สองงานที่ฉันประทับใจในปี 2016 ครั้งแรกคือ AlphaGo ซึ่งเอาชนะ Lee Sedol แชมป์ […]

โลกการเงินของ AI

โลกการเงินของ AI

โลกการเงินของ AI jumbo jili ปัจจุบันอัลกอริธึมอัตโนมัติจัดการปริมาณการซื้อขายมากกว่าครึ่งในหุ้นสหรัฐและเมื่อ AI พัฒนาขึ้น AI จะยังคงควบคุมการตัดสินใจทางการเงินที่สำคัญต่อไป แต่ระบบเหล่านี้ไม่สามารถเข้าใจผิดได้ ความผิดพลาดเล็กๆ น้อยๆ อาจทำให้หุ้นตกต่ำ ซึ่งอาจทำให้นักลงทุนต้องเสียเงินหลายพันล้านดอลลาร์ สล็อต สำหรับบริษัท การตัดสินใจยอมรับความเสี่ยงนี้เป็นเรื่องง่าย อัลกอริธึมในระบบอัตโนมัตินั้นรวดเร็วและแม่นยำกว่ามนุษย์ การปรับใช้เทคโนโลยี AI ที่ล้ำหน้าที่สุดสามารถรักษาบริษัทให้อยู่ในธุรกิจได้แต่สำหรับส่วนที่เหลือของสังคม ผลที่ตามมาไม่ชัดเจน ปัญญาประดิษฐ์ทำให้บริษัทมีความได้เปรียบในการแข่งขัน แต่ระบบที่ก้าวหน้าอย่างรวดเร็วเหล่านี้จะยังคงปลอดภัยและแข็งแกร่งหรือไม่? จะเกิดอะไรขึ้นเมื่อพวกเขาทำผิดพลาด?ข้อผิดพลาดอัตโนมัติMichael Wellman ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์แห่งมหาวิทยาลัยมิชิแกน ศึกษาภัยคุกคามของ AI ต่อระบบการเงิน เขาอธิบายว่า “ระบบการเงินเป็นหนึ่งในขอบชั้นนำของที่ AI ทำให้สิ่งต่าง ๆ เป็นอัตโนมัติ และยังเป็นภาคที่มีช่องโหว่โดยเฉพาะอย่างยิ่ง มันสามารถถูกรบกวนได้ง่ายและสิ่งเลวร้ายสามารถเกิดขึ้นได้”พิจารณาเรื่องราวของอัศวินแคปิตอล เมื่อวันที่ 1 สิงหาคม 2012 Knight ตัดสินใจลองใช้ซอฟต์แวร์ใหม่เพื่อรักษาความสามารถในการแข่งขันในกลุ่มการซื้อขายใหม่ ซอฟต์แวร์ผ่านการทดสอบความปลอดภัย […]

AI จะฉลาดแค่ไหน?

AI จะฉลาดแค่ไหน?

AI จะฉลาดแค่ไหน? jumbo jili หลักการข้อควรระวังด้านความสามารถ: หากไม่มีความเห็นพ้องต้องกัน เราควรหลีกเลี่ยงสมมติฐานที่แข็งแกร่งเกี่ยวกับขีดจำกัดบนของความสามารถ AI ในอนาคตการเปลี่ยนแปลงครั้งสำคัญกำลังจะมาถึง ในช่วงเวลาที่ไม่มีใครรู้จัก แต่ในทุกส่วนของสังคม และผู้คนที่มีส่วนร่วมในการเปลี่ยนแปลงนั้นมีความรับผิดชอบและโอกาสในการปรับแต่งให้ดีที่สุด อะไรจะทำให้เกิดการเปลี่ยนแปลงนี้ ปัญญาประดิษฐ์. สล็อต หลักการ AI 23 ประการของ Asilomar นำเสนอกรอบการทำงานเพื่อช่วยให้ปัญญาประดิษฐ์เป็นประโยชน์ต่อผู้คนมากที่สุด แต่โทบี้ วอลช์ ผู้เชี่ยวชาญด้าน AI กล่าวถึงหลักการนี้ว่า “แน่นอนว่านี่เป็นเพียงการเริ่มต้น … งานที่กำลังดำเนินการอยู่” หลักการเป็นตัวแทนของการเริ่มต้นการสนทนา และตอนนี้เราจำเป็นต้องติดตามผลด้วยการสนทนากว้างๆ เกี่ยวกับหลักธรรมแต่ละข้อ คุณสามารถอ่านรายสัปดาห์อภิปรายเกี่ยวกับหลักการก่อนหน้านี้ที่นี่ความสามารถ ข้อควรระวังหนึ่งในคำถามที่ยิ่งใหญ่ที่สุดที่นักวิจัย AI เผชิญคือปัญญาประดิษฐ์จะฉลาดและมีความสามารถเพียงใดในช่วงไม่กี่ปีที่ผ่านมา การพัฒนา AI ได้เร่งขึ้นอย่างก้าวกระโดด AlphaGo ของ DeepMind มีประสิทธิภาพเหนือกว่ามนุษย์ในเกม Go ที่ท้าทายและสลับซับซ้อน […]

การใช้แมชชีนเลิร์นนิงเพื่อจัดการกับความเสี่ยงด้าน AI

การใช้แมชชีนเลิร์นนิงเพื่อจัดการกับความเสี่ยงด้าน AI

การใช้แมชชีนเลิร์นนิงเพื่อจัดการกับความเสี่ยงด้าน AI jumbo jili ในการประชุม EA Global 2016 ฉันได้บรรยายเรื่อง “ การใช้การเรียนรู้ของเครื่องเพื่อจัดการกับความเสี่ยงด้าน AI ”:เป็นไปได้ว่าระบบปัญญาประดิษฐ์ทั่วไปในอนาคตจะมีคุณสมบัติหลายอย่างที่เหมือนกันกับระบบการเรียนรู้ของเครื่องในปัจจุบัน ถ้าเป็นเช่นนั้น เราจะมั่นใจได้อย่างไรว่าระบบเหล่านี้ทำงานได้อย่างมีประสิทธิภาพตามที่ตั้งใจไว้ เราหารือเกี่ยวกับวาระทางเทคนิคสำหรับโครงการใหม่ที่ MIRI ซึ่งเน้นที่คำถามนี้ สล็อต เป้าหมายของวาระการวิจัยนี้การพูดคุยนี้เป็นเรื่องเกี่ยวกับวาระการวิจัยใหม่ที่มุ่งเป้าไปที่การใช้การเรียนรู้ของเครื่องเพื่อทำให้ระบบ AI ปลอดภัยแม้ในระดับความสามารถที่สูงมาก ฉันจะเริ่มต้นด้วยการสรุปเป้าหมายของวาระการวิจัย จากนั้นให้เจาะลึกมากขึ้นในหกชั้นเรียนปัญหาที่เรามุ่งเน้นคำสั่งเป้าหมายสำหรับวาระการประชุมทางเทคนิคนี้คือการที่เราต้องการที่จะรู้วิธีการฝึกอบรมอย่างชาญฉลาดกว่ามนุษย์ระบบ AI ที่จะดำเนินการอย่างใดอย่างหนึ่งหรือมากกว่าขนาดใหญ่ที่มีประโยชน์งานในโลกสมมติฐานบางประการในวาระการวิจัยนี้ทำให้:ระบบ AI ในอนาคตมีแนวโน้มที่จะดูเหมือนระบบ ML ยุคปัจจุบันที่มีประสิทธิภาพมากขึ้นในหลาย ๆ ด้าน เราอาจได้อัลกอริธึมการเรียนรู้เชิงลึกที่ดีขึ้น เป็นต้น แต่เรายังคงต้องพึ่งพาบางอย่างเช่น การเรียนรู้เชิงลึกเป็นอย่างมากปัญญาประดิษฐ์ทั่วไป (AGI) มีแนวโน้มที่จะพัฒนาในไม่ช้านี้ (กล่าวคือในอีกไม่กี่ทศวรรษข้างหน้า)การสร้างAGI ที่เน้นงานเป็นความคิดที่ดีและเราสามารถก้าวหน้าได้ในวันนี้ด้วยการศึกษาวิธีการทำเช่นนั้นฉันไม่มั่นใจว่าสมมติฐานทั้งสามนี้เป็นความจริง แต่ฉันคิดว่าเป็นไปได้มากพอที่จะได้รับความสนใจจากชุมชน AI มากพอๆ กับสถานการณ์ทางเลือกที่เป็นไปได้มากที่สุดระบบ AI […]

การแข่งขัน AI Arms หลีกเลี่ยงไม่ได้หรือไม่?

การแข่งขัน AI Arms หลีกเลี่ยงไม่ได้หรือไม่?

การแข่งขัน AI Arms หลีกเลี่ยงไม่ได้หรือไม่? jumbo jili หลักการการแข่งขันอาวุธของ AI: ควรหลีกเลี่ยงการแข่งขันด้านอาวุธในอาวุธอิสระที่ร้ายแรง*บางทีสิ่งที่น่ากลัวที่สุดของสงครามเย็นก็คือการแข่งขันอาวุธนิวเคลียร์ เมื่อถึงจุดสูงสุด สหรัฐฯ และรัสเซียถืออาวุธนิวเคลียร์มากกว่า 70,000 อาวุธ ซึ่งมีเพียงเศษเสี้ยวเดียวเท่านั้นที่สามารถฆ่าทุกคนบนโลกได้ ในขณะที่การแข่งขันเพื่อสร้างปัญญาประดิษฐ์ที่ทรงพลังยิ่งขึ้นเร่งขึ้น และในขณะที่รัฐบาลทดสอบความสามารถของ AI ในอาวุธมากขึ้น ผู้เชี่ยวชาญ AI หลายคนกังวลว่าการแข่งขันอาวุธ AI ที่น่าสะพรึงกลัวอาจกำลังดำเนินอยู่ สล็อต อันที่จริง ณ สิ้นปี 2558 เพนตากอนขอเงินจำนวน 12-15 พันล้านดอลลาร์สำหรับ AI และอาวุธอิสระสำหรับงบประมาณปี 2560 และโรเบิร์ต เวิร์ค รองปลัดกระทรวงกลาโหมในขณะนั้นยอมรับว่าเขาต้องการให้ “คู่แข่งของเราสงสัยว่ามีอะไรอยู่เบื้องหลัง ม่านสีดำ” เวิร์คยังกล่าวด้วยว่าเทคโนโลยีใหม่นี้ “มุ่งเป้าไปที่การสร้างความมั่นใจในความได้เปรียบทางการทหารอย่างต่อเนื่องเหนือจีนและรัสเซีย”แต่สหรัฐฯ ไม่ได้ผูกขาดเทคโนโลยีนี้ และหลายคนกลัวว่าประเทศที่มีมาตรฐานความปลอดภัยต่ำกว่าจะก้าวไปข้างหน้าได้อย่างรวดเร็ว หากไม่มีความปลอดภัยเพียงพอ […]