Get in my Think Art.

รัฐแคลิฟอร์เนียรับรองหลักการ AI ของ Asilomar

รัฐแคลิฟอร์เนียรับรองหลักการ AI ของ Asilomar

รัฐแคลิฟอร์เนียรับรองหลักการ AI ของ Asilomar

jumbo jili

รัฐแคลิฟอร์เนียมีมติเป็นเอกฉันท์รับรองกฎหมายเพื่อสนับสนุนหลักการ Asilomar AI ของสถาบัน Future of Life
Asilomar AI หลักการ เป็นชุดของ 23 หลักการวัตถุประสงค์เพื่อส่งเสริมการพัฒนาความปลอดภัยและประโยชน์ของปัญญาประดิษฐ์ หลักการซึ่งรวมถึงประเด็นการวิจัย จริยธรรมและค่านิยม และประเด็นระยะยาว เกิดขึ้นจากความร่วมมือระหว่างนักวิจัย AI นักเศรษฐศาสตร์ นักวิชาการด้านกฎหมาย นักจริยธรรม และนักปรัชญาในเมือง Asilomar รัฐแคลิฟอร์เนียในเดือนมกราคม 2017

สล็อต

หลักการเป็นความพยายามที่ได้รับการยอมรับอย่างกว้างขวางที่สุดในประเภทเดียวกัน พวกเขาได้รับการรับรองโดยผู้นำการวิจัย AI ที่ Google DeepMind, GoogleBrain, Facebook, Apple และ OpenAI ผู้ลงนาม ได้แก่ Demis Hassabis, Yoshua Bengio, Elon Musk, Ray Kurzweil, Stephen Hawking ผู้ล่วงลับ, Tasha McCauley, Joseph Gordon-Levitt, Jeff Dean, Tom Gruber, Anthony Romero, Stuart Russell และนักวิจัยและผู้เชี่ยวชาญ AI อีกกว่า 3,800 คน
ด้วย ACR 215 ที่ ผ่านวุฒิสภาของรัฐด้วยการสนับสนุนอย่างเป็นเอกฉันท์ ตอนนี้สภานิติบัญญัติแห่งรัฐแคลิฟอร์เนียจึงถูกเพิ่มเข้าไปในรายชื่อนั้น
สมาชิกสภาผู้แทนราษฎร Kevin Kiley ซึ่งเป็นผู้นำความพยายามกล่าวว่า “ด้วยการรับรองหลักการ Asilomar สภานิติบัญญัติแห่งรัฐจะเข้าร่วมในการรับรู้ค่านิยมที่ใช้ร่วมกันซึ่งสามารถนำไปใช้กับการวิจัย AI การพัฒนาและการวางแผนระยะยาว – ช่วยเสริมความสามารถในการแข่งขันของแคลิฟอร์เนีย ในด้านปัญญาประดิษฐ์ในขณะที่มั่นใจว่าผลประโยชน์ของมันมีความหลากหลายและแพร่หลาย”
หลักการ AI ประการที่สามของ Asilomar บ่งบอกถึงความสำคัญของการแลกเปลี่ยนที่สร้างสรรค์และเหมาะสมระหว่างนักวิจัย AI และผู้กำหนดนโยบาย และการผ่านมตินี้เน้นย้ำถึงคุณค่าของความพยายามนั้น แม้ว่าหลักการไม่ได้กำหนดนโยบายหรือข้อบังคับที่บังคับใช้ได้ แต่การดำเนินการของสภานิติบัญญัติแห่งรัฐแคลิฟอร์เนียเป็นการแสดงการสนับสนุนที่สำคัญและมีคุณค่าทางประวัติศาสตร์จากภาคส่วนต่างๆ เพื่อมุ่งสู่เป้าหมายร่วมกันในการเปิดใช้งาน AI ที่ปลอดภัยและเป็นประโยชน์
The Future of Life Institute (FLI) องค์กรไม่แสวงหาผลกำไรที่เป็นผู้นำในการก่อตั้ง Asilomar AI Principles รู้สึกตื่นเต้นกับการพัฒนาล่าสุดนี้ และสนับสนุนให้หลักการดังกล่าวยังคงทำหน้าที่เป็นค่านิยมสำหรับการพัฒนา AI และนโยบายสาธารณะที่เกี่ยวข้อง
แอนโธนี อากีร์เร ผู้ร่วมก่อตั้ง FLI และศาสตราจารย์ฟิสิกส์จากมหาวิทยาลัยแคลิฟอร์เนีย ซานตาครูซ กล่าวว่า “ด้วยการรับรองหลักการ AI ของ Asilomar แคลิฟอร์เนียได้ก้าวไปสู่ความก้าวหน้าของ AI ที่เป็นประโยชน์และได้เน้นย้ำถึงความเป็นผู้นำในด้านเทคโนโลยีเพื่อการเปลี่ยนแปลงนี้ “เรารู้สึกขอบคุณต่อ Assemblyman Kevin Kiley ที่เป็นผู้นำข้อกล่าวหาและผู้เขียนร่วมหลายสิบคนของมตินี้สำหรับการมองการณ์ไกลของพวกเขาในเรื่องที่สำคัญนี้”
ผลกระทบทางสังคมที่ลึกซึ้งของ AI ไม่ได้เป็นเพียงคำถามของนิยายวิทยาศาสตร์อีกต่อไป แต่ยังเกิดขึ้นจริงในทุกวันนี้ ตั้งแต่เทคโนโลยีการจดจำใบหน้า ไปจนถึงการเฝ้าระวังด้วยเสียงพึมพำ และการแพร่กระจายของแคมเปญการบิดเบือนข้อมูลที่เป็นเป้าหมาย ความก้าวหน้าของ AI ช่วยเชื่อมโยงผู้คนทั่วโลก ปรับปรุงประสิทธิภาพและประสิทธิผล และเปิดเผยข้อมูลเชิงลึกใหม่ๆ อย่างไรก็ตาม AI อาจก่อให้เกิดภัยคุกคามด้านความปลอดภัย เพิ่มความไม่เท่าเทียมกัน และจำกัดความเป็นส่วนตัวและความเป็นอิสระ
“บรรทัดฐานใหม่จำเป็นสำหรับ AI ที่ต่อต้านการเปลี่ยนแปลงทางเชื้อชาติที่เป็นอันตราย และแทนที่จะเน้นที่ความไว้วางใจ ความปลอดภัย และผลประโยชน์ร่วมกัน” เจสสิก้า คัสซินส์ หัวหน้านโยบาย AI ของ FLI กล่าว “การได้รับการสนับสนุนอย่างเป็นทางการจากแคลิฟอร์เนียช่วยสร้างกรอบค่านิยมร่วมกันระหว่างผู้กำหนดนโยบาย นักวิจัย AI และผู้มีส่วนได้ส่วนเสียอื่นๆ FLI สนับสนุนให้หน่วยงานของรัฐอื่นๆ สนับสนุน หลักการ 23 ประการ และช่วยสร้างอนาคตที่น่าตื่นเต้นและเท่าเทียมกัน”
เมื่อคุณพูดถึงคำว่า “อาวุธอัตโนมัติ” มันทำให้เกิดความคิดที่แตกต่างกันมากมายในจิตใจของผู้คน บางคนนึกภาพเครื่องจักรอัจฉริยะขั้นสูงสุดที่มีสติปัญญาเหมือนมนุษย์หรือเหนือมนุษย์ บางอย่างเช่น Terminator หรือ Cylon จากนิยายวิทยาศาสตร์ คนอื่นๆ จินตนาการถึงบางสิ่งที่อาจเรียบง่ายและทำได้ในทุกวันนี้ เช่น Roomba ที่มีปืนติดอยู่

สล็อตออนไลน์

ทั้งสองสิ่งนี้อาจเป็นความคิดที่ไม่ดีจริงๆ แต่ด้วยเหตุผลที่แตกต่างกันมาก และฉันคิดว่านั่นเป็นปัจจัยที่ซับซ้อน ดังนั้นมิติหนึ่งของเอกราชที่ผู้คนมักจะจับจ้องคือความฉลาดของระบบอาวุธ ฉันไม่คิดว่านั่นเป็นวิธีที่มีประโยชน์ในการกำหนดอาวุธอัตโนมัติ บางครั้งฉันจะได้ยินคนพูดว่า “นี่ไม่ใช่อาวุธอัตโนมัติ นี่เป็นอาวุธอัตโนมัติเพราะระดับความซับซ้อน” ฉันไม่คิดว่ามันมีประโยชน์มาก
ฉันคิดว่ามันดีกว่ามาก ที่จริงแล้ว ที่จะมุ่งเน้นไปที่ฟังก์ชันที่อาวุธทำงานด้วยตัวมันเอง ซึ่งคล้ายกับแนวทางที่คณะกรรมการกาชาดระหว่างประเทศมี ซึ่งเน้นที่หน้าที่ที่สำคัญในระบบอาวุธ วิธีที่ฉันกำหนดไว้ในหนังสือของฉันคือโดยพื้นฐานแล้วฉันจะกำหนดอาวุธที่เป็นอิสระเป็นอาวุธที่สามารถทำให้รอบการสู้รบทั้งหมดสำเร็จได้ด้วยตัวเอง กล่าวคือ มีฟังก์ชันทั้งหมดที่จำเป็นในการค้นหาเป้าหมาย ระบุเป้าหมาย ตัดสินใจว่าจะโจมตีเป้าหมายหรือไม่ จากนั้นจึงเริ่มการสู้รบและดำเนินการผ่านการสู้รบทั้งหมดด้วยตัวเอง
ดังนั้นจึงไม่มีมนุษย์อยู่ในวงจรนี้ วงจรการรับรู้นี้ การรับรู้ การตัดสินใจ และการแสดงในสนามรบด้วยตัวมันเอง ที่นิยามมันในลักษณะที่มีบางสิ่ง — และนี่คือจุดเริ่มต้นของปัญหาคำจำกัดความที่ยุ่งยาก — มีอาวุธที่มีอยู่ตั้งแต่สงครามโลกครั้งที่สองที่ฉันเรียกว่าอาวุธกึ่งอิสระที่มีระดับบางอย่าง ของเอกราชที่มีเซ็นเซอร์บางตัวอยู่บนเรือ พวกเขาสามารถตรวจจับศัตรูและสามารถทำการกระทำพื้นฐานบางอย่างเช่นการหลบหลีกศัตรู
ทหารมักเรียกสิ่งเหล่านี้ว่า มันคือตอร์ปิโดหรือขีปนาวุธอากาศสู่อากาศหรือขีปนาวุธพื้นสู่อากาศและอากาศสู่พื้นดิน พวกเขามีเซ็นเซอร์ที่อาจใช้โซนาร์หรือเรดาร์หรือลายเซ็นเสียง พวกเขาสามารถสัมผัสได้ว่าศัตรูอยู่ที่นั่น จากนั้นจึงใช้เซ็นเซอร์เหล่านั้นเพื่อเคลื่อนเข้าหาศัตรูเพื่อโจมตีเป้าหมาย โดยทั่วไปแล้วสิ่งเหล่านี้จะถูกยิงโดยผู้คนไปยังเป้าหมายที่มนุษย์รู้ว่ามีเป้าหมายอยู่ที่นั่น
สิ่งเหล่านี้ถูกประดิษฐ์ขึ้นในสงครามโลกครั้งที่สองโดยชาวเยอรมันเพื่อโจมตีเรือของพันธมิตรในสงครามใต้น้ำในมหาสมุทรแอตแลนติกในสงครามโลกครั้งที่สอง คุณสามารถจินตนาการได้ว่ามีความท้าทายทางเทคนิคที่พยายามจะโจมตีเป้าหมายที่กำลังเคลื่อนที่ของเรือที่กำลังเคลื่อนที่ ในเรือดำน้ำ คุณกำลังพยายามยิงตอร์ปิโดไปที่มัน และคุณอาจพลาด ดังนั้นรุ่นแรก ๆ เหล่านี้จึงมีไมโครโฟนที่สามารถฟังเสียงใบพัดจากเรือรบของฝ่ายสัมพันธมิตรแล้วมุ่งไปยังตำแหน่งที่มีเสียงมากที่สุดเพื่อที่พวกเขาจะได้พุ่งชนเรือได้
ในกรณีเหล่านั้น — และยังคงเป็นเช่นนี้อยู่ในปัจจุบัน — มนุษย์มองเห็นเป้าหมายหรือมีข้อบ่งชี้บางอย่างของเป้าหมาย อาจมาจากเรดาร์หรือลายเซ็นโซนาร์ และมนุษย์ก็พูดว่า “มีบางอย่างอยู่ที่นั่น ฉันต้องการเปิดอาวุธนี้เพื่อโจมตีมัน” สิ่งเหล่านี้มีมาประมาณ 70 ปีแล้ว ฉันนำพวกเขาขึ้นมาเพราะมีบางคนที่บางครั้งพูดว่า “ดูนี่ อาวุธอิสระเหล่านี้มีอยู่แล้ว ทั้งหมดนี้เป็นพวงของ hullaballoo เกี่ยวกับอะไร “
ฉันไม่คิดว่ามันเป็นความจริง ฉันคิดว่าระบบอาวุธจำนวนมากที่คุณเห็นกังวลเกี่ยวกับการก้าวไปข้างหน้า จะเป็นสิ่งที่ค่อนข้างแตกต่างในเชิงคุณภาพ สิ่งที่ออกไปเป็นวงกว้างและค้นหาเป้าหมายด้วยตัวเอง โดยที่มนุษย์ไม่จำเป็นต้อง รู้ว่าศัตรูอยู่ที่ไหน พวกเขาอาจสงสัยว่าศัตรูอาจอยู่ในพื้นที่นี้ในเวลานี้ แต่พวกเขาไม่รู้ และพวกเขาเปิดอาวุธเพื่อค้นหาศัตรู จากนั้น อาวุธนั้นก็ได้รับมอบอำนาจให้โจมตีด้วยตัวเองโดยไม่ส่งวิทยุกลับไปหามนุษย์เพื่อขออนุมัติ
โดยทั่วไปแล้ว เราไม่เห็นอาวุธแบบนี้ในทุกวันนี้ มีข้อยกเว้นบางประการ โดรนหรืออาวุธยุทโธปกรณ์ของอิสราเอล Harpy เป็นข้อยกเว้น มีระบบทดลองของสหรัฐสองสามระบบในยุค 80 และ 90 ที่ไม่ได้ให้บริการอีกต่อไป แต่นี่ไม่ใช่สิ่งที่ใช้กันอย่างแพร่หลาย ดังนั้น ฉันคิดว่าการโต้เถียงกันว่าเรากำลังจะไปที่ใดในอนาคต อย่างน้อยก็เป็นเรื่องที่สมเหตุสมผล และเราอยู่ในจุดที่อาจจะแตกต่างไปจากสิ่งที่เราเคยเห็นมาก่อนในสงคราม

jumboslot

เมื่อคุณพูดถึงคำว่า “อาวุธอัตโนมัติ” มันทำให้เกิดความคิดที่แตกต่างกันมากมายในจิตใจของผู้คน บางคนนึกภาพเครื่องจักรอัจฉริยะขั้นสูงสุดที่มีสติปัญญาเหมือนมนุษย์หรือเหนือมนุษย์ บางอย่างเช่น Terminator หรือ Cylon จากนิยายวิทยาศาสตร์ คนอื่นๆ จินตนาการถึงบางสิ่งที่อาจเรียบง่ายและทำได้ในทุกวันนี้ เช่น Roomba ที่มีปืนติดอยู่
ทั้งสองสิ่งนี้อาจเป็นความคิดที่ไม่ดีจริงๆ แต่ด้วยเหตุผลที่แตกต่างกันมาก และฉันคิดว่านั่นเป็นปัจจัยที่ซับซ้อน ดังนั้นมิติหนึ่งของเอกราชที่ผู้คนมักจะจับจ้องคือความฉลาดของระบบอาวุธ ฉันไม่คิดว่านั่นเป็นวิธีที่มีประโยชน์ในการกำหนดอาวุธอัตโนมัติ บางครั้งฉันจะได้ยินคนพูดว่า “นี่ไม่ใช่อาวุธอัตโนมัติ นี่เป็นอาวุธอัตโนมัติเพราะระดับความซับซ้อน” ฉันไม่คิดว่ามันมีประโยชน์มาก
ฉันคิดว่ามันดีกว่ามาก ที่จริงแล้ว ที่จะมุ่งเน้นไปที่ฟังก์ชันที่อาวุธทำงานด้วยตัวมันเอง ซึ่งคล้ายกับแนวทางที่คณะกรรมการกาชาดระหว่างประเทศมี ซึ่งเน้นที่หน้าที่ที่สำคัญในระบบอาวุธ วิธีที่ฉันกำหนดไว้ในหนังสือของฉันคือโดยพื้นฐานแล้วฉันจะกำหนดอาวุธที่เป็นอิสระเป็นอาวุธที่สามารถทำให้รอบการสู้รบทั้งหมดสำเร็จได้ด้วยตัวเอง กล่าวคือ มีฟังก์ชันทั้งหมดที่จำเป็นในการค้นหาเป้าหมาย ระบุเป้าหมาย ตัดสินใจว่าจะโจมตีเป้าหมายหรือไม่ จากนั้นจึงเริ่มการสู้รบและดำเนินการผ่านการสู้รบทั้งหมดด้วยตัวเอง
ดังนั้นจึงไม่มีมนุษย์อยู่ในวงจรนี้ วงจรการรับรู้นี้ การรับรู้ การตัดสินใจ และการแสดงในสนามรบด้วยตัวมันเอง ที่นิยามมันในลักษณะที่มีบางสิ่ง — และนี่คือจุดเริ่มต้นของปัญหาคำจำกัดความที่ยุ่งยาก — มีอาวุธที่มีอยู่ตั้งแต่สงครามโลกครั้งที่สองที่ฉันเรียกว่าอาวุธกึ่งอิสระที่มีระดับบางอย่าง ของเอกราชที่มีเซ็นเซอร์บางตัวอยู่บนเรือ พวกเขาสามารถตรวจจับศัตรูและสามารถทำการกระทำพื้นฐานบางอย่างเช่นการหลบหลีกศัตรู
ทหารมักเรียกสิ่งเหล่านี้ว่า มันคือตอร์ปิโดหรือขีปนาวุธอากาศสู่อากาศหรือขีปนาวุธพื้นสู่อากาศและอากาศสู่พื้นดิน พวกเขามีเซ็นเซอร์ที่อาจใช้โซนาร์หรือเรดาร์หรือลายเซ็นเสียง พวกเขาสามารถสัมผัสได้ว่าศัตรูอยู่ที่นั่น จากนั้นจึงใช้เซ็นเซอร์เหล่านั้นเพื่อเคลื่อนเข้าหาศัตรูเพื่อโจมตีเป้าหมาย โดยทั่วไปแล้วสิ่งเหล่านี้จะถูกยิงโดยผู้คนไปยังเป้าหมายที่มนุษย์รู้ว่ามีเป้าหมายอยู่ที่นั่น
สิ่งเหล่านี้ถูกประดิษฐ์ขึ้นในสงครามโลกครั้งที่สองโดยชาวเยอรมันเพื่อโจมตีเรือของพันธมิตรในสงครามใต้น้ำในมหาสมุทรแอตแลนติกในสงครามโลกครั้งที่สอง คุณสามารถจินตนาการได้ว่ามีความท้าทายทางเทคนิคที่พยายามจะโจมตีเป้าหมายที่กำลังเคลื่อนที่ของเรือที่กำลังเคลื่อนที่ ในเรือดำน้ำ คุณกำลังพยายามยิงตอร์ปิโดไปที่มัน และคุณอาจพลาด ดังนั้นรุ่นแรก ๆ เหล่านี้จึงมีไมโครโฟนที่สามารถฟังเสียงใบพัดจากเรือรบของฝ่ายสัมพันธมิตรแล้วมุ่งไปยังตำแหน่งที่มีเสียงมากที่สุดเพื่อที่พวกเขาจะได้พุ่งชนเรือได้
ในกรณีเหล่านั้น — และยังคงเป็นเช่นนี้อยู่ในปัจจุบัน — มนุษย์มองเห็นเป้าหมายหรือมีข้อบ่งชี้บางอย่างของเป้าหมาย อาจมาจากเรดาร์หรือลายเซ็นโซนาร์ และมนุษย์ก็พูดว่า “มีบางอย่างอยู่ที่นั่น ฉันต้องการเปิดอาวุธนี้เพื่อโจมตีมัน” สิ่งเหล่านี้มีมาประมาณ 70 ปีแล้ว ฉันนำพวกเขาขึ้นมาเพราะมีบางคนที่บางครั้งพูดว่า “ดูนี่ อาวุธอิสระเหล่านี้มีอยู่แล้ว ทั้งหมดนี้เป็นพวงของ hullaballoo เกี่ยวกับอะไร “
ฉันไม่คิดว่ามันเป็นความจริง ฉันคิดว่าระบบอาวุธจำนวนมากที่คุณเห็นกังวลเกี่ยวกับการก้าวไปข้างหน้า จะเป็นสิ่งที่ค่อนข้างแตกต่างในเชิงคุณภาพ สิ่งที่ออกไปเป็นวงกว้างและค้นหาเป้าหมายด้วยตัวเอง โดยที่มนุษย์ไม่จำเป็นต้อง รู้ว่าศัตรูอยู่ที่ไหน พวกเขาอาจสงสัยว่าศัตรูอาจอยู่ในพื้นที่นี้ในเวลานี้ แต่พวกเขาไม่รู้ และพวกเขาเปิดอาวุธเพื่อค้นหาศัตรู จากนั้น อาวุธนั้นก็ได้รับมอบอำนาจให้โจมตีด้วยตัวเองโดยไม่ส่งวิทยุกลับไปหามนุษย์เพื่อขออนุมัติ
โดยทั่วไปแล้ว เราไม่เห็นอาวุธแบบนี้ในทุกวันนี้ มีข้อยกเว้นบางประการ โดรนหรืออาวุธยุทโธปกรณ์ของอิสราเอล Harpy เป็นข้อยกเว้น มีระบบทดลองของสหรัฐสองสามระบบในยุค 80 และ 90 ที่ไม่ได้ให้บริการอีกต่อไป แต่นี่ไม่ใช่สิ่งที่ใช้กันอย่างแพร่หลาย ดังนั้น ฉันคิดว่าการโต้เถียงกันว่าเรากำลังจะไปที่ใดในอนาคต อย่างน้อยก็เป็นเรื่องที่สมเหตุสมผล และเราอยู่ในจุดที่อาจจะแตกต่างไปจากสิ่งที่เราเคยเห็นมาก่อนในสงคราม
[NPC5]Ariel: ฉันต้องการถามคำถามสั้นๆ เกี่ยวกับ Harpy และอาวุธประเภทอื่นที่คล้ายคลึงกัน สิ่งเหล่านี้เคยถูกใช้เพื่อฆ่าใครจริง ๆ เพื่อระบุเป้าหมายและฆ่าศัตรูหรือไม่? หรือยังคงใช้เพื่อระบุตัวตนและอาจกำหนดเป้าหมายไปที่ผู้คน แต่ก็ยังเป็นมนุษย์ที่กำลังตัดสินใจขั้นสุดท้าย?
พอล: นั่นเป็นคำถามที่ดี ตามความรู้ของฉัน ฮาร์ปี้ของอิสราเอลไม่ได้ถูกใช้ในโหมดอิสระอย่างเต็มที่ในการต่อสู้ สองสามอย่างเกี่ยวกับการทำงานของฮาร์ปี้ อย่างแรกเลย มันไม่ได้กำหนดเป้าหมายไปที่ผู้คน มันกำหนดเป้าหมายเรดาร์ ต้องบอกว่าถ้ามีคนยืนอยู่ข้างเรดาร์ที่กำหนดเป้าหมาย คุณอาจจะถูกฆ่า แต่ไม่ได้มองหาบุคคล มันกำลังมองหาลายเซ็นเรดาร์แล้วตั้งศูนย์ในนั้น