วิธีเตรียมตัวสำหรับการใช้ AI ที่เป็นอันตราย
เราจะคาดการณ์ ป้องกัน และ (เมื่อจำเป็น) บรรเทาผลกระทบที่เป็นอันตรายจากการใช้ AI ที่เป็นอันตรายได้อย่างไร
นี่เป็นคำถามจากรายงาน 100 หน้าที่เผยแพร่เมื่อสัปดาห์ที่แล้ว ซึ่งเขียนโดยผู้เขียน 26 คนจาก 14 สถาบัน รายงานซึ่งเป็นผลมาจากการประชุมเชิงปฏิบัติการ 2 วันในเมืองอ็อกซ์ฟอร์ด ประเทศอังกฤษ ตามด้วยการวิจัยเป็นเวลาหลายเดือน ให้ภาพรวมที่ครอบคลุมถึงผลกระทบด้านความปลอดภัยของปัญญาประดิษฐ์
ผู้เขียนซึ่งรวมถึงตัวแทนจาก Future of Humanity Institute, Center for the Study of Existential Risk, OpenAI และ Center for a New American Security ให้เหตุผลว่า AI ไม่เพียงเปลี่ยนลักษณะและขอบเขตของภัยคุกคามที่มีอยู่เท่านั้น แต่ยังเปลี่ยน ขยายขอบเขตของภัยคุกคามที่เราจะเผชิญ พวกเขารู้สึกตื่นเต้นกับการใช้งาน AI ที่เป็นประโยชน์มากมาย รวมถึงวิธีที่ AI จะช่วยเหลือความสามารถในการป้องกัน แต่จุดประสงค์ของรายงานนี้คือการสำรวจภูมิทัศน์ของภัยคุกคามด้านความปลอดภัยจากการใช้ AI อย่างจงใจ
“รายงานของเรามุ่งเน้นไปที่วิธีการที่ผู้คนสามารถทำอันตรายโดยเจตนากับ AI” กล่าวว่า Sean O hÉigeartaighกรรมการบริหารของเคมบริดจ์ศูนย์การศึกษาของอัตถิภาวนิยมความเสี่ยง “AI อาจก่อให้เกิดภัยคุกคามใหม่ๆ หรือเปลี่ยนแปลงธรรมชาติของภัยคุกคามที่มีอยู่ ทั้งในโลกไซเบอร์ ทางกายภาพ และความมั่นคงทางการเมือง”
ที่สำคัญนี่ไม่ใช่รายงานเกี่ยวกับอนาคตอันไกลโพ้น เทคโนโลยีเดียวที่พิจารณาคือเทคโนโลยีที่มีอยู่แล้วหรือมีแนวโน้มว่าจะอยู่ในอีกห้าปีข้างหน้า ข้อความนี้จึงเป็นเรื่องเร่งด่วนอย่างหนึ่ง เราจำเป็นต้องรับทราบความเสี่ยงและดำเนินการตามขั้นตอนเพื่อจัดการ เพราะเทคโนโลยีกำลังก้าวหน้าอย่างทวีคูณ ดังที่นักข่าว Dave Gershgorn กล่าวไว้ “ทุกๆ AI ที่ก้าวหน้าโดยคนดี ๆ ก็เป็นความก้าวหน้าสำหรับคนเลวเช่นกัน”
ระบบ AI มีแนวโน้มที่จะมีประสิทธิภาพและปรับขนาดได้มากกว่าเครื่องมือแบบเดิม นอกจากนี้ การใช้ AI ยังช่วยเพิ่มการไม่เปิดเผยตัวตนและระยะห่างทางจิตใจที่บุคคลรู้สึกต่อการกระทำที่กระทำ ซึ่งอาจลดอุปสรรคในการก่ออาชญากรรมและการกระทำรุนแรง นอกจากนี้ ระบบ AI ยังมีช่องโหว่เฉพาะของตนเอง ซึ่งรวมถึงความเสี่ยงจากการเป็นพิษของข้อมูล ตัวอย่างที่เป็นปฏิปักษ์ และการใช้ประโยชน์จากข้อบกพร่องในการออกแบบ การโจมตีที่ใช้ AI จะแซงหน้าการโจมตีทางไซเบอร์แบบดั้งเดิม เนื่องจากโดยทั่วไปแล้วจะมีประสิทธิภาพมากกว่า กำหนดเป้าหมายที่ละเอียดกว่า และระบุแอตทริบิวต์ได้ยากกว่า
ประเภทของการโจมตีที่เราต้องเตรียมการไม่จำกัดเฉพาะการแฮ็กคอมพิวเตอร์ที่ซับซ้อน ผู้เขียนแนะนำว่ามีโดเมนความปลอดภัยหลักสามโดเมน: ความปลอดภัยดิจิทัลซึ่งส่วนใหญ่เกี่ยวข้องกับการโจมตีทางอินเทอร์เน็ต ความปลอดภัยทางกายภาพซึ่งหมายถึงการโจมตีด้วยโดรนและระบบทางกายภาพอื่น ๆ และความมั่นคงทางการเมือง ซึ่งรวมถึงตัวอย่าง เช่น การเฝ้าระวัง การโน้มน้าวใจผ่านการโฆษณาชวนเชื่อที่กำหนดเป้าหมาย และการหลอกลวงผ่านวิดีโอที่ถูกดัดแปลง โดเมนเหล่านี้มีความเหลื่อมล้ำกันมาก แต่เฟรมเวิร์กอาจมีประโยชน์ในการระบุประเภทของการโจมตี เหตุผลเบื้องหลัง และตัวเลือกที่หลากหลายที่มีในการป้องกันตนเอง
จะทำอะไรได้บ้างเพื่อเตรียมพร้อมสำหรับการใช้ AI ที่เป็นอันตรายในโดเมนเหล่านี้ ผู้เขียนให้ตัวอย่างที่ดีมากมาย สถานการณ์ที่อธิบายไว้ในรายงานอาจเป็นวิธีที่ดีสำหรับนักวิจัยและผู้กำหนดนโยบายในการสำรวจอนาคตที่เป็นไปได้และระดมความคิดเพื่อจัดการกับภัยคุกคามที่สำคัญที่สุด ตัวอย่างเช่น การจินตนาการถึงหุ่นยนต์ทำความสะอาดเชิงพาณิชย์ที่ถูกนำมาใช้ใหม่เป็นอุปกรณ์ระเบิดที่ไม่สามารถตรวจสอบย้อนกลับได้ อาจทำให้เราตกใจ แต่ยังแนะนำด้วยว่าเหตุใดนโยบายเช่นข้อกำหนดการลงทะเบียนหุ่นยนต์จึงเป็นตัวเลือกที่มีประโยชน์
แต่ละโดเมนยังมีจุดควบคุมและมาตรการรับมือที่เป็นไปได้ ตัวอย่างเช่น เพื่อปรับปรุงความปลอดภัยทางดิจิทัล บริษัทต่างๆ สามารถส่งเสริมการรับรู้ของผู้บริโภคและสร้างแรงจูงใจให้แฮกเกอร์หมวกขาวเพื่อค้นหาช่องโหว่ในโค้ด เราอาจเรียนรู้จากชุมชนความปลอดภัยทางไซเบอร์และใช้มาตรการต่างๆ เช่น ทีมงานสีแดงเพื่อการพัฒนา AI การตรวจสอบอย่างเป็นทางการในระบบ AI และการเปิดเผยช่องโหว่ของ AI อย่างมีความรับผิดชอบ เพื่อปรับปรุงการรักษาความปลอดภัยทางกายภาพ ผู้กำหนดนโยบายอาจต้องการควบคุมการพัฒนาฮาร์ดแวร์และห้ามการขายอาวุธที่ทำลายล้างอัตโนมัติ ในขณะเดียวกัน แพลตฟอร์มสื่ออาจลดภัยคุกคามต่อความมั่นคงทางการเมืองให้เหลือน้อยที่สุดด้วยการรับรองความถูกต้องของรูปภาพและวิดีโอ การตรวจจับข่าวปลอม และการเข้ารหัส
รายงานยังให้ข้อเสนอแนะระดับสูงสี่ข้อ ซึ่งไม่ได้มีวัตถุประสงค์เพื่อให้ข้อเสนอทางเทคนิคหรือนโยบายเฉพาะ แต่เพื่อดึงความสนใจไปยังประเด็นที่สมควรได้รับการตรวจสอบเพิ่มเติม คำแนะนำมีดังต่อไปนี้:
คำแนะนำ #1: ผู้กำหนดนโยบายควรร่วมมือกันอย่างใกล้ชิดกับนักวิจัยด้านเทคนิคเพื่อตรวจสอบ ป้องกัน และลดการใช้ AI ที่อาจเป็นอันตราย
คำแนะนำ #2: นักวิจัยและวิศวกรด้านปัญญาประดิษฐ์ควรให้ความสำคัญกับลักษณะการใช้งานแบบคู่ (dual-use) ของงานของตนอย่างจริงจัง ยอมให้มีการพิจารณาที่เกี่ยวข้องกับการใช้ในทางที่ผิดเพื่อโน้มน้าวลำดับความสำคัญและบรรทัดฐานของการวิจัย และเข้าถึงผู้ดำเนินการที่เกี่ยวข้องในเชิงรุกเมื่อคาดการณ์การใช้งานที่เป็นอันตรายได้
คำแนะนำ #3: แนวทางปฏิบัติที่ดีที่สุดควรได้รับการระบุในพื้นที่การวิจัยด้วยวิธีการที่เป็นผู้ใหญ่มากขึ้นเพื่อจัดการกับข้อกังวลด้านการใช้งานแบบคู่ เช่น ความปลอดภัยของคอมพิวเตอร์ และนำเข้าในกรณีที่ใช้ได้กับกรณีของ AI
คำแนะนำ #4: พยายามอย่างเต็มที่เพื่อขยายขอบเขตของผู้มีส่วนได้ส่วนเสียและผู้เชี่ยวชาญด้านโดเมนที่เกี่ยวข้องกับการอภิปรายเกี่ยวกับความท้าทายเหล่านี้
สุดท้าย รายงานระบุหลายพื้นที่สำหรับการวิจัยเพิ่มเติม ประการแรกคือการเรียนรู้จากและร่วมกับชุมชนความปลอดภัยทางไซเบอร์ เนื่องจากผลกระทบของเหตุการณ์ความปลอดภัยทางไซเบอร์จะเพิ่มขึ้นเมื่อระบบที่ใช้ AI แพร่หลายและมีความสามารถมากขึ้น งานวิจัยด้านอื่นๆ ได้แก่ การสำรวจโมเดลการเปิดกว้างต่างๆ การส่งเสริมวัฒนธรรมความรับผิดชอบในหมู่นักวิจัย AI และการพัฒนาโซลูชันด้านเทคโนโลยีและนโยบาย
ตามที่ผู้เขียนกล่าวว่า “การใช้ AI อย่างมุ่งร้ายจะส่งผลกระทบต่อวิธีที่เราสร้างและจัดการโครงสร้างพื้นฐานดิจิทัลของเรา รวมถึงวิธีที่เราออกแบบและแจกจ่ายระบบ AI และมีแนวโน้มว่าจะต้องมีนโยบายและการตอบสนองของสถาบันอื่นๆ”
แม้ว่านี่จะเป็นเพียงจุดเริ่มต้นของความเข้าใจที่จำเป็นว่า AI จะส่งผลกระทบต่อความปลอดภัยทั่วโลกอย่างไร รายงานนี้ทำให้การอภิปรายเดินหน้าต่อไป ไม่เพียงแต่อธิบายข้อกังวลด้านความปลอดภัยฉุกเฉินจำนวนมากที่เกี่ยวข้องกับ AI แต่ยังแนะนำวิธีที่เราสามารถเริ่มเตรียมพร้อมสำหรับภัยคุกคามเหล่านั้นได้ในปัจจุบัน
Deepti Rohatgi หัวหน้า Slack for Good & Public Affairs กล่าวว่า “เราไม่ใช่ผู้เชี่ยวชาญด้านความไม่เท่าเทียมทางเชื้อชาติหรือทำงานร่วมกับผู้ที่เคยถูกจองจำก่อนหน้านี้ ดังนั้นฉันมีความสำคัญอันดับหนึ่งคือการสร้างความมั่นใจที่เรามีพันธมิตรที่ มีผู้เชี่ยวชาญในทุกแง่มุมของโปรแกรมที่จำเป็นต่อการประสบความสำเร็จ ลำดับความสำคัญที่สองคือการคิดว่าพนักงานของเราจะมองเห็นโปรแกรมเช่นนี้ได้อย่างไร พนักงานภาคเทคโนโลยีส่วนใหญ่ไม่เคยใช้เวลาอยู่ในคุกหรือรู้จักใครที่ถูกจองจำ การแสดงผลของพวกเขาต่อประชากรนี้ขึ้นอยู่กับสิ่งที่พวกเขาเห็นในภาพยนตร์และทีวี เพื่อลดช่องว่างนี้ เราได้จัดการประชุมร่วมกันหลายครั้งเพื่อพูดคุยเกี่ยวกับระบบยุติธรรมทางอาญาของสหรัฐอเมริกา และเหตุใดโครงการเช่นนี้จึงสามารถเปลี่ยนแปลงได้สำหรับบุคคลที่เกี่ยวข้องกับความยุติธรรมหลายล้านคน นอกจากนี้เรายังพาพนักงานและผู้บริหารของเราหลายร้อยคนไปที่เรือนจำ San Quentin เพื่อพบกับผู้ต้องขังที่ทำงานเพื่อเปลี่ยนแปลงชีวิตของพวกเขา ฉันได้ยินจากผู้คนมากมายที่ Slack ว่านี่เป็นวันที่เปลี่ยนแปลงไปมากที่สุดแห่งหนึ่งในชีวิตของพวกเขา”
นี่ไม่ใช่เรื่องง่ายเลย แม้ว่าโปรแกรมจะจัดตำแหน่งผู้ฝึกงานให้เข้ากับบทบาทต่างๆ แต่ Slack ก็จำเป็นต้องทำงานร่วมกับพันธมิตรเพื่อจัดการและนำทางความซับซ้อนทางกฎหมายและความอ่อนไหว เนื่องจากหลายบริษัทไม่อนุญาตให้ผู้ที่มีความผิดทางอาญาเข้าถึงข้อมูลลูกค้า นอกจากนี้ พันธมิตรภายนอกของ Slack ได้แก่ WK Kellogg Foundation และ FREEAMERICA ยังได้นำโปรแกรมการจัดการการเปลี่ยนแปลงภายในบริษัท ซึ่งช่วยให้พนักงาน Slack รู้สึกสบายใจที่จะทำงานร่วมกับเด็กฝึกงาน และเตรียมผู้จัดการให้พร้อมสนับสนุนเด็กฝึกงานในช่วงที่เปลี่ยนไปใช้ชีวิตการทำงาน
นักบินบทถัดไปประสบความสำเร็จ ผู้ที่เคยถูกจองจำก่อนหน้านี้สามคนสำเร็จโปรแกรมฝึกงานด้านวิศวกรรมที่ได้รับค่าจ้างแปดเดือนและได้รับการว่าจ้างจาก Slack ในตำแหน่งวิศวกรเต็มเวลา กลุ่มที่สองที่ Slack, Zoom และ Dropbox รวมถึงแม่ของเด็กวัยหัดเดิน จากหลักฐานของความสำเร็จ โปรแกรม Next Chapter มีรายชื่อรอบริษัทในภาคเทคโนโลยีที่ต้องการเข้าร่วม
แม้ว่าโปรแกรมการคืนสินค้าและการฝึกงานอาจส่งผลให้มีพรสวรรค์ที่ยอดเยี่ยมจากช่องทางที่ไม่ใช่แบบดั้งเดิม แต่กลยุทธ์การสรรหาเหล่านี้เป็นเพียงไม่กี่โอกาสในการค้นพบและลงทุนในคนที่มีความสามารถซึ่งสามารถเสริมสร้างทีมและเสริมสร้างชุมชน เมื่อการรับสมัครได้รับการสนับสนุนจากการพัฒนาและความก้าวหน้า การเฝ้าดูพวกเขาบานสะพรั่งอาจกลายเป็นรางวัลที่เติมเต็มซึ่งเป็นผลมาจากสถานที่ทำงานที่ครอบคลุม
หล่อเลี้ยงตัวคุณเอง: รักษานักเทคโนโลยีสตรี
การสรรหาผู้มีประสบการณ์และเทคโนโลยีที่หลากหลายนั้นมีชัยไปกว่าครึ่ง การรักษาไว้ต้องมีความมุ่งมั่นในการเป็นผู้นำต่อกลยุทธ์ DEI แบบองค์รวมที่ปลูกฝังวัฒนธรรมที่ครอบคลุม
เติบโตรากที่แข็งแรงผ่านการรวมกัน
ความหลากหลายเติบโตในวัฒนธรรมที่มีส่วนร่วม เป็นองค์ประกอบพื้นฐานในการสรรหาและรักษาพนักงานที่มีความหลากหลาย การศึกษาพนักงานทั่วโลกในปี 2020 ที่จัดทำโดย Lenovo และ Intel เปิดเผยว่าผู้ตอบแบบสอบถามมากกว่าครึ่งในตลาดต่าง ๆ เชื่อว่านโยบายและผลการปฏิบัติงานของ DEI ของบริษัทเป็นปัจจัยสำคัญในการตัดสินใจสมัครหรือรับงานของผู้สมัคร
[NPC4]วัฒนธรรมที่ครอบคลุมถูกสร้างขึ้นจากจุดสูงสุดขององค์กร และไม่สามารถหยุดเพียงแค่นั้น ข่าวดีก็คือแม้ท่ามกลางการหยุดจ้างงานและการเลิกจ้าง ส่วนใหญ่เนื่องจากการระบาดของโควิด-19 ผลการศึกษาของ Fortune/Deloitte ในเดือนมิถุนายน 2020 พบว่า 96% ของซีอีโอถือว่า DEI เป็นลำดับความสำคัญเชิงกลยุทธ์ โดย 90% ของซีอีโอระบุว่า การสรรหา การพัฒนา ความก้าวหน้า และการรักษาผู้มีความสามารถเป็นความสำคัญสูงสุด
การสัมภาษณ์ของเรากับ CIO และผู้นำด้านเทคโนโลยีช่วยเสริมสถิตินี้ หลังจากทำงานด้านอวกาศมา 18 ปี Allen กำลังมองหาวิธีขยายประสบการณ์ในอุตสาหกรรมของเธอเพื่อเตรียมพร้อมสำหรับบทบาท CIO หรือ CTO ในอนาคต เธอสนใจ Kohl’s ในฐานะบริษัทค้าปลีกที่เติบโตอย่างรวดเร็วซึ่งให้คุณค่าในชีวิตประจำวันแก่ชุมชนที่หลากหลาย “เมื่อฉันลาออกจากองค์กรไอทีเดิม ฉันมีทีมงานที่มีความหลากหลายและครอบคลุมอย่างมาก และ Kohl ก็มอบแพลตฟอร์มให้ฉันสร้างที่นี่เช่นกัน โอกาสในการสร้างความแตกต่างใน DEI เป็นเหตุผลอันดับ 1 ที่ฉันมาที่ Kohl’s; อันดับ 2 คืองานด้านเทคโนโลยี”
แนวทางสู่ความหลากหลายและการไม่แบ่งแยกต้องเป็นองค์รวม Priyadarshini แบ่งปัน “เราทราบดีว่ากลยุทธ์และความพยายามทั้งหมดในการแสวงหาและดึงดูดผู้คนที่มีภูมิหลังที่หลากหลาย ไม่สำคัญว่าพนักงานจะไม่รู้สึกมีค่าสำหรับสิ่งที่พวกเขานำมาหรือไม่ได้รับการเคารพในสิ่งที่พวกเขาเป็น เราเชื่อว่าเป็นความรับผิดชอบของเราในการสร้างสภาพแวดล้อมที่ผู้คนสามารถทำงานได้ดีที่สุด เป็นสถานที่ที่พวกเขาสามารถเป็นตัวของตัวเองได้อย่างภาคภูมิใจ และเป็นที่ที่พวกเขารู้ว่าสามารถตอบสนองความต้องการของพวกเขาได้ หากปราศจากการรวม พลังของความหลากหลายจะยังคงไม่ถูกนำไปใช้”
ส่งเสริมการเติบโตด้วยความเท่าเทียมและความยืดหยุ่น
การศึกษาเมื่อเร็ว ๆ นี้ของนักเทคโนโลยีหญิงอาวุโสที่ยังคงมีอาชีพการงานอย่างน้อยแปดปีแสดงให้เห็นว่านอกจากการรักงานแล้ว ค่าตอบแทนที่ยุติธรรมและดี (41%) และความยืดหยุ่นในการบรรลุการบูรณาการงาน/ชีวิต (39%) เป็นตัวขับเคลื่อนอันดับต้น ๆ เพื่ออยู่ในงาน หาก Aniyah ได้รับความยืดหยุ่นในการบรรลุการบูรณาการงาน/ชีวิต เธออาจยังไม่ทิ้งบทบาทด้านเทคโนโลยีของเธอ
ไม่น่าแปลกใจเลย ค่าตอบแทนที่เป็นธรรมเป็นปัจจัยสำคัญในการสรรหาและรักษาสตรีที่มีความสามารถระดับสูง แต่การบรรลุความเท่าเทียมกันของค่าจ้างนั้นพูดง่ายกว่าทำ ในปี 2020 AnitaB.org รวบรวมข้อมูลค่าตอบแทนจากบริษัท 51 แห่ง—71% รายงานส่วนได้เสียในปี 2020 เพิ่มขึ้นจาก 66% ในปี 2018 อย่างไรก็ตาม มีความแตกต่างอย่างมีนัยสำคัญระหว่างเพศเมื่อผู้หญิงก้าวไปสู่บทบาทความเป็นผู้นำ จากบริษัท 17 แห่งที่ให้ข้อมูลเงินเดือนระดับอาชีพ พบว่าความเท่าเทียมกันของค่าจ้างอยู่ที่ระดับฝึกงานและระดับผู้บริหาร ในระหว่างนั้น ผู้ชายมีรายได้มากกว่าผู้หญิง: เพิ่มขึ้น 2% ในระดับเริ่มต้น 6% ในผู้บริหารระดับกลาง และ 7% สำหรับผู้บริหารระดับสูง แม้ในบริษัทต่างๆ ที่เปิดเผยข้อมูลค่าจ้างอย่างเปิดเผย จำเป็นต้องมีการทำงานที่สำคัญเพื่อให้ได้ส่วนได้เสียในการจ่ายเพื่อช่วยสรรหาและรักษาผู้หญิงในระดับผู้บริหารระดับกลางและระดับสูง
[NPC5]การรวมงาน/ชีวิตมีความสำคัญพอๆ กับค่าตอบแทน ด้วยความรับผิดชอบในการดูแลเอาใจใส่ผู้หญิงเป็นหลัก การมีตารางการทำงานที่ยืดหยุ่นจึงเป็นอีกกุญแจสำคัญในการรักษาและดึงดูดนักเทคโนโลยีสตรีในช่วงกลางอาชีพ “บางทีอาจไม่ใช่ทุกคนที่จะต้องมาใน 9 ถึง 5” อัลเลนอธิบาย “บางทีเราอาจมีตารางงานแยกกัน คนอื่นๆ อาจกลับไปทำงานโดยมีกำหนดการแบบค่อยเป็นค่อยไป เริ่มงานนอกเวลาและเปลี่ยนเป็นแบบเต็มเวลาในที่สุด เมื่อบริษัทต่างๆ ปลดปล่อยขอบเขตเดิมๆ ของวันทำงาน พวกเขาก็เปิดตัวเองขึ้นเพื่อดึงดูดและรักษาผู้มีความสามารถระดับสูงไว้”