Get in my Think Art.

Day: October 8, 2021

AI จะปลอดภัยในขณะที่บริษัทต่างๆ แข่งขันกันเพื่อพัฒนาหรือไม่

AI จะปลอดภัยในขณะที่บริษัทต่างๆ แข่งขันกันเพื่อพัฒนาหรือไม่

AI จะปลอดภัยในขณะที่บริษัทต่างๆ แข่งขันกันเพื่อพัฒนาหรือไม่ jumbo jili ปัญญาประดิษฐ์สามารถให้ประโยชน์อย่างเหลือเชื่อแก่สังคม ตั้งแต่การวินิจฉัยทางการแพทย์ที่รวดเร็วและแม่นยำยิ่งขึ้น ไปจนถึงการจัดการทรัพยากรพลังงานที่ยั่งยืนยิ่งขึ้น และอื่นๆ อีกมากมาย แต่ในเศรษฐกิจปัจจุบัน ผู้ชนะกลุ่มแรกที่บรรลุความก้าวหน้าทางเทคโนโลยีคือผู้ชนะ และทีมที่พัฒนาเทคโนโลยี AI ก่อนจะเก็บเกี่ยวผลประโยชน์จากเงิน ชื่อเสียง และอำนาจทางการตลาด ด้วยเงินเดิมพันที่สูงมาก ผู้สร้าง AI จึงมีแรงจูงใจมากมายที่จะแข่งขันเพื่อเป็นที่หนึ่ง สล็อต เมื่อองค์กรแข่งขันกันเพื่อเป็นเจ้าแรกในการพัฒนาผลิตภัณฑ์ การยึดมั่นในมาตรฐานความปลอดภัยก็ทำให้หละหลวมได้ ดังนั้นจึงเป็นเรื่องสำคัญมากขึ้นสำหรับนักวิจัยและนักพัฒนาที่ต้องจำไว้ว่า AI นั้นมาพร้อมกับความเสี่ยงตั้งแต่อคติที่ไม่ได้ตั้งใจและการเลือกปฏิบัติ ไปจนถึงภัยพิบัติจากอุบัติเหตุที่อาจเกิดขึ้นได้ ความเสี่ยงเหล่านี้จะรุนแรงขึ้นหากทีมที่พยายามดิ้นรนเพื่อพัฒนาผลิตภัณฑ์หรือคุณลักษณะบางอย่างก่อนไม่ใช้เวลาในการตรวจสอบและประเมินทุกแง่มุมของโปรแกรมและการออกแบบอย่างเหมาะสมแม้ว่าความเสี่ยงของการแข่งขัน AI จะสูงมาก แต่บริษัทต่างๆ ก็ไม่สามารถอยู่รอดได้หากพวกเขาไม่แข่งขันดังที่ Elon Musk กล่าวเมื่อเร็วๆ นี้ว่า”คุณมีบริษัทที่กำลังแข่งขันกัน – พวกเขาต้องแข่งกัน – เพื่อสร้าง AI ไม่เช่นนั้นพวกเขาจะไม่มีการแข่งขัน หากคู่แข่งของคุณมุ่งสู่ AI […]

อะไรทำให้กลยุทธ์ AI ที่ดี?

อะไรทำให้กลยุทธ์ AI ที่ดี?

อะไรทำให้กลยุทธ์ AI ที่ดี? jumbo jili กลยุทธ์ AI ระดับชาติเป็นวิธีที่มีประโยชน์สำหรับรัฐบาลในการส่งสัญญาณว่ากำลังใช้โอกาสและความท้าทายของ AI อย่างจริงจัง กลยุทธ์ที่ดีที่สุดจะเป็นมากกว่าแค่สัญญาณ – พวกเขาสามารถประสานงานและจัดลำดับความสำคัญของการตอบสนองนโยบายได้อย่างมีประสิทธิภาพซึ่งทำให้รัฐบาลอยู่ในตำแหน่งที่ดีที่สุดในการใช้ AI สล็อต ก่อนหน้านี้เราเคยตั้งข้อสังเกตว่าหากรัฐบาลต้องการใช้ประโยชน์จากโอกาสของ AI พวกเขาจำเป็นต้องมีโครงสร้างและกระบวนการที่คิดมาอย่างดีเพื่อที่จะทำเช่นนั้น อย่างไรก็ตาม แม้จะมีการศึกษาและรายงานหลายฉบับ แต่ก็ไม่มีใครที่รู้เท่าทันคำถามหรืออะไรที่ทำให้กลยุทธ์ AI ที่ดี – สำหรับความรู้ของเรา “ดี” เป็นคำศัพท์เฉพาะบุคคล แต่ในที่นี้เราหมายถึงกลยุทธ์ AI ที่จะนำไปสู่การเปลี่ยนแปลงอย่างแท้จริงOxford Insights ไม่เพียงแต่เป็นผู้สนับสนุนกลยุทธ์ AI แต่ยังเป็นส่วนหนึ่งของการประดิษฐ์กลยุทธ์ AI ในระดับชาติและระดับเทศบาล แต่ไม่ใช่ว่ากลยุทธ์ AI ทั้งหมดจะเท่าเทียมกัน เมื่อประเทศและภูมิภาคต่างๆ ตื่นขึ้นและตระหนักว่า AI สามารถเปลี่ยนแปลงเศรษฐกิจ การบริการสาธารณะ และแรงงานของตนได้ […]

Portfolio Approach เพื่อการวิจัยด้านความปลอดภัยของ AI

Portfolio Approach เพื่อการวิจัยด้านความปลอดภัยของ AI

Portfolio Approach เพื่อการวิจัยด้านความปลอดภัยของ AI jumbo jili ความปลอดภัยของ AI ในระยะยาวเป็นพื้นที่การวิจัยที่มีการเก็งกำไรโดยเนื้อแท้ โดยมีเป้าหมายเพื่อรับรองความปลอดภัยของระบบในอนาคตขั้นสูง แม้ว่าจะมีความไม่แน่นอนเกี่ยวกับการออกแบบหรืออัลกอริธึมหรือวัตถุประสงค์ก็ตาม ดังนั้นจึงเป็นเรื่องสำคัญอย่างยิ่งที่จะต้องให้ทีมวิจัยต่างๆ จัดการกับปัญหาจากมุมมองที่ต่างกันและภายใต้สมมติฐานที่ต่างกัน แม้ว่างานวิจัยบางส่วนอาจไม่มีประโยชน์ แต่แนวทางพอร์ตโฟลิโอทำให้มีโอกาสมากกว่าที่พวกเราบางคนจะพูดถูก สล็อต ในโพสต์นี้ ฉันพิจารณาบางมิติตามสมมติฐานที่แตกต่างกัน และระบุสมมติฐานที่สมเหตุสมผลที่ยังไม่ได้สำรวจซึ่งอาจเกี่ยวข้องกับการจัดลำดับความสำคัญของการวิจัยด้านความปลอดภัย (เพื่อให้รายละเอียดนี้ครอบคลุมและมีประโยชน์มากที่สุด โปรดแจ้งให้เราทราบหากมีข้อผิดพลาดหรือพลาดสิ่งสำคัญ)สมมติฐานเกี่ยวกับความคล้ายคลึงกันระหว่างระบบ AI ในปัจจุบันและอนาคตหากระบบ AI ทั่วไปในอนาคตมีอัลกอริธึมคล้ายกับระบบในปัจจุบัน ก็มีแนวโน้มว่าจะมีปัญหาด้านความปลอดภัยเหมือนกัน (แม้ว่าจะรุนแรงกว่าในระบบที่มีความสามารถโดยทั่วไป) ข้อมูลเชิงลึกและแนวทางแก้ไขสำหรับปัญหาเหล่านั้นมีแนวโน้มที่จะถ่ายโอนจากระบบปัจจุบันไปสู่อนาคตในระดับหนึ่ง ตัวอย่างเช่นถ้าระบบ AI ทั่วไปจะขึ้นอยู่กับการเรียนรู้เสริมที่เราสามารถคาดหวังที่จะเล่นเกมฟังก์ชั่นได้รับรางวัลในวิธีที่ฉลาดมากขึ้นและไม่คาดคิดแม้กว่า วันปัจจุบันตัวแทนการเรียนรู้การเสริมแรงทำ ผู้ที่ถือสมมติฐานความคล้ายคลึงกันมักคาดหวังว่าความก้าวหน้าที่เหลือส่วนใหญ่บนเส้นทางสู่ AI ทั่วไปจะเป็นองค์ประกอบมากกว่าที่จะ แปลกใหม่ทั้งหมดปรับปรุงและรวมส่วนประกอบที่มีอยู่แล้วด้วยวิธีที่แปลกใหม่และนำไปใช้ได้ดีกว่า (ความก้าวหน้าของแมชชีนเลิร์นนิงในปัจจุบันจำนวนมาก เช่น AlphaGo เป็นตัวอย่างของสิ่งนี้)โปรดทราบว่าการสมมติความคล้ายคลึงกันระหว่างระบบในปัจจุบันและอนาคตนั้นไม่เหมือนกันทุกประการกับสมมติว่าการศึกษาระบบปัจจุบันมีความเกี่ยวข้องกับการรับรองความปลอดภัยของระบบในอนาคต เนื่องจากเราอาจยังคงเรียนรู้สิ่งที่สามารถสรุปได้โดยการทดสอบคุณสมบัติด้านความปลอดภัยของระบบปัจจุบัน แม้ว่าจะแตกต่างกันก็ตาม ระบบในอนาคตสมมติว่าความคล้ายคลึงกันชี้ให้เห็นถึงการมุ่งเน้นที่การวิจัยเชิงประจักษ์โดยอาศัยการทดสอบคุณสมบัติด้านความปลอดภัยของระบบปัจจุบัน ในขณะที่ไม่ตั้งสมมติฐานนี้สนับสนุนให้เน้นที่การวิจัยเชิงทฤษฎีมากขึ้นโดยพิจารณาจากคุณสมบัติด้านความปลอดภัยจากหลักการแรก หรือการหาว่าการออกแบบทางเลือกประเภทใดจะนำไปสู่ […]

ผู้นำด้านวิทยาการหุ่นยนต์ชั้นนำและบริษัท AI เรียกร้องให้แบนหุ่นยนต์นักฆ่า

ผู้นำด้านวิทยาการหุ่นยนต์ชั้นนำและบริษัท AI เรียกร้องให้แบนหุ่นยนต์นักฆ่า

ผู้นำด้านวิทยาการหุ่นยนต์ชั้นนำและบริษัท AI เรียกร้องให้แบนหุ่นยนต์นักฆ่า jumbo jili ผู้ก่อตั้งบริษัท AI/หุ่นยนต์ รวมถึง Elon Musk (Tesla, SpaceX, OpenAI) และ Demis Hassabis และ Mustafa Suleyman (DeepMind ของ Google) เรียกร้องให้แบนอาวุธอัตโนมัติ เนื่องจาก UN ชะลอการเจรจาผู้นำจากบริษัท AI และหุ่นยนต์ทั่วโลกได้ออกจดหมายเปิดผนึกที่เรียกร้องให้สหประชาชาติสั่งห้ามอาวุธอัตโนมัติซึ่งมักเรียกกันว่าหุ่นยนต์นักฆ่า สล็อต ผู้ก่อตั้งและซีอีโอของบริษัทเกือบ 100 แห่งจาก 26 ประเทศลงนามในจดหมาย ซึ่งเตือนว่า:“อาวุธทำลายล้างที่ทำลายล้างได้คุกคามที่จะกลายเป็นการปฏิวัติครั้งที่สามในการทำสงคราม เมื่อพัฒนาแล้ว พวกเขาจะอนุญาตให้มีการสู้รบกันด้วยอาวุธในระดับที่มากกว่าที่เคย และในช่วงเวลาที่เร็วกว่าที่มนุษย์จะเข้าใจได้”ในเดือนธันวาคม 123 ประเทศสมาชิกของสหประชาชาติได้ตกลงที่จะเดินหน้าดำเนินการหารืออย่างเป็นทางการเกี่ยวกับอาวุธอิสระ โดยมีสมาชิก 19 คนเรียกร้องให้มีการสั่งห้ามโดยเด็ดขาด อย่างไรก็ตาม การอภิปรายในขั้นต่อไปซึ่งเดิมมีกำหนดจะเริ่มในวันที่ […]