การสอนนักเรียน AI ในปัจจุบันให้เป็นผู้นำที่มีจริยธรรมในวันพรุ่งนี้: บทสัมภาษณ์กับ Yan Zhang
นักวิทยาศาสตร์และนักประดิษฐ์ที่ยิ่งใหญ่ที่สุดบางคนกำลังนั่งอยู่ในห้องเรียนของโรงเรียนมัธยมศึกษาตอนปลายในขณะนี้ หายใจคล่องผ่านแคลคูลัสและรอคอยปีแรกที่มหาวิทยาลัยชั้นนำของโลกอย่างใจจดใจจ่อ พวกเขาอาจชนะการแข่งขันคณิตศาสตร์โอลิมปิกหรือคิดค้นแอปพลิเคชั่นอินเทอร์เน็ตใหม่ที่ชาญฉลาด เรารู้ว่านักเรียนเหล่านี้ฉลาด แต่พวกเขาพร้อมที่จะชี้นำอนาคตของเทคโนโลยีอย่างมีความรับผิดชอบหรือไม่
การพัฒนาเทคโนโลยีที่ปลอดภัยและเป็นประโยชน์นั้นต้องการมากกว่าความเชี่ยวชาญด้านเทคนิค — จำเป็นต้องมีการศึกษาที่รอบรู้และความสามารถในการเข้าใจมุมมองอื่นๆ แต่เนื่องจากนักศึกษาวิชาคณิตศาสตร์และวิทยาศาสตร์ต้องใช้เวลามากในการทำงานด้านเทคนิค พวกเขาจึงมักขาดทักษะและประสบการณ์ที่จำเป็นในการทำความเข้าใจว่าสิ่งประดิษฐ์ของพวกเขาจะส่งผลต่อสังคมอย่างไร
ช่องว่างทางการศึกษาเหล่านี้สามารถพิสูจน์ได้ว่าเป็นปัญหาเนื่องจากปัญญาประดิษฐ์มีบทบาทมากขึ้นในชีวิตของเรา การวิจัย AI กำลังเฟื่องฟูในหมู่นักวิทยาศาสตร์คอมพิวเตอร์รุ่นใหม่ และนักเรียนเหล่านี้จำเป็นต้องเข้าใจความท้าทายด้านจริยธรรม การกำกับดูแล และความปลอดภัยที่ซับซ้อนซึ่งเกิดจากนวัตกรรมของพวกเขา
สปาร์ก
ในปี 2012 กลุ่มนักวิจัย AI และผู้สนับสนุนด้านความปลอดภัย ได้แก่ Paul Christiano, Jacob Steinhardt, Andrew Critch, Anna Salamon และ Yan Zhang ได้สร้างโครงการภาคฤดูร้อนใน Applied Rational and Cognition (SPARC) เพื่อแก้ไขปัญหาต่างๆ ที่ต้องเผชิญกับวัยรุ่นที่เข้มแข็งในเชิงปริมาณ รวมถึงปัญหาช่องว่างทางการศึกษาใน AI เช่นเดียวกับเทคโนโลยีทั้งหมดพวกเขาอธิบายยิ่งชุมชน AI ประกอบด้วยผู้ให้เหตุผลที่มีความคิด ฉลาด และใจกว้างมากเท่าใด AI ก็มีแนวโน้มที่จะพัฒนาในลักษณะที่ปลอดภัยและเป็นประโยชน์มากขึ้นเท่านั้น
ในแต่ละฤดูร้อน ผู้ก่อตั้ง SPARC จะเชิญนักเรียนมัธยมปลายที่มีพรสวรรค์ทางคณิตศาสตร์จำนวน 30-35 คนเข้าร่วมในโครงการสองสัปดาห์ จาง ผู้อำนวยการของ SPARC อธิบายว่า “เป้าหมายของเราคือการสร้างชุมชนที่เข้มแข็ง ให้นักเรียนเหล่านี้เห็นแนวคิดที่พวกเขาจะไม่ได้รับในชั้นเรียน จุดบอดของการเป็นวัยรุ่นที่แข็งแกร่งในเชิงปริมาณในโลกปัจจุบัน เช่น การเอาใจใส่และการเปลี่ยนแปลงทางสังคม . โดยรวมแล้วเราต้องการทำให้พวกเขาเป็นคนที่มีอำนาจมากขึ้นที่สามารถนำการเปลี่ยนแปลงในเชิงบวกมาสู่โลกได้”
เพื่อช่วยให้นักเรียนสร้างผลกระทบเชิงบวก ผู้สอน SPARC จะสอนแนวคิดหลักในเรื่องความเห็นแก่ประโยชน์อย่างมีประสิทธิภาพ (EA) “เรามีการสนทนามากมายเกี่ยวกับ EA แต่เราไม่ได้ผลักดันให้นักเรียนกลายเป็น EA” Zhang กล่าว “เราทำให้พวกเขาได้รับแนวคิดดีๆ และฉันคิดว่านั่นเป็นวิธีที่ดีกว่าในการให้คำปรึกษา”
SPARC ยังเปิดโอกาสให้นักเรียนได้เรียนรู้เกี่ยวกับแมชชีนเลิร์นนิง ความปลอดภัยของ AI และความเสี่ยงด้านอัตถิภาวนิยม ในปี 2016 และ 2017 พวกเขาจัดมากกว่า 10 ชั้นเรียนในหัวข้อเหล่านี้ ได้แก่ “การเรียนรู้ของเครื่อง” และ “Tensorflow” ที่สอนโดย Jacob Steinhardt “อนาคตที่ขาดความรับผิดชอบ” และ “การทำความดีอย่างมีประสิทธิภาพ” ที่สอนโดย Paul Christiano “การเพิ่มประสิทธิภาพ” สอนโดย John Schulman และ “Long-Term Thinking on AI and Automization” สอนโดย Michael Webb
แต่ผู้สอน SPARC ก็ไม่ผลักนักเรียนให้หลงไปตามเส้นทาง AI เช่นกัน แต่พวกเขาสนับสนุนให้นักเรียนใช้การฝึกอบรมแบบองค์รวมของ SPARC เพื่อสร้างผลกระทบเชิงบวกมากขึ้นในทุกสาขา
Thinking on the Margin: บทบาทของทักษะทางสังคม
การสร้างผลกระทบเชิงบวกสูงสุดต้องคิดที่ขอบ และถามว่า: หน่วยความรู้เพิ่มเติมใดจะเป็นประโยชน์มากที่สุดสำหรับการสร้างผลกระทบเชิงบวก สำหรับนักเรียนเหล่านี้ ซึ่งส่วนใหญ่ชนะการแข่งขันคณิตศาสตร์และคอมพิวเตอร์โอลิมปิก มักจะไม่ใช่วิชาคณิตศาสตร์อีกต่อไป
“จุดอ่อนของนักเรียนที่มีความคิดทางคณิตศาสตร์จำนวนมากคือสิ่งต่างๆ เช่น ทักษะการเข้าสังคมหรือการโต้เถียงอย่างมีประสิทธิผลกับผู้คน” Zhang กล่าว “เพราะการจะสร้างผลกระทบได้ คุณต้องมีทักษะเชิงปริมาณ แต่คุณต้องสามารถเชื่อมโยงกับผู้คนได้ด้วย”
เพื่อตอบโต้จุดอ่อนนี้ เขาสอนชั้นเรียนเกี่ยวกับทักษะการเข้าสังคมและการส่งสัญญาณ และบางครั้งก็เป็นผู้นำเกมด้นสด SPARC ยังคงสอนคณิตศาสตร์อยู่เป็นจำนวนมาก แต่ Zhang สนใจที่จะจัดการกับจุดบอดทางการศึกษาของนักเรียนเหล่านี้มากกว่า ซึ่งเป็นจุดบอดแบบเดียวกับที่ผู้สอนเองก็มีในฐานะนักเรียน “อะไรจะทำให้เราเป็นคนที่มีอิทธิพลมากขึ้น และยังสมบูรณ์และเป็นมนุษย์มากขึ้นในหลาย ๆ ด้าน” เขาถาม.
การทำงานกับนักเรียนที่ไม่ใช้คณิตศาสตร์สามารถช่วยได้ Zhang และเพื่อนร่วมงานของเขาได้ทดลองนำนักเขียนและนักคิดที่มีความสามารถยอดเยี่ยมมาเข้าร่วมโปรแกรม “เราประสบความสำเร็จอย่างดีกับนักเรียนเหล่านั้นมาโดยตลอด เพราะพวกเขานำบางสิ่งที่เด็กๆ คณิตศาสตร์โอลิมปิกไม่มีมาให้” จางกล่าว
SPARC ยังขยายขอบเขตของนักเรียนด้วยวิทยากรรับเชิญจากสถาบันการศึกษาและองค์กรต่างๆ เช่น Open Philanthropy Project, OpenAI, Dropbox และ Quora ในการพูดคุยครั้งหนึ่ง Albert Ni วิศวกรของ Dropbox ได้พูดคุยกับนักเรียนของ SPARC เกี่ยวกับ “ข้อผิดพลาดทั่วไปที่นักคณิตศาสตร์มักทำเมื่อพยายามทำสิ่งต่างๆ ในภายหลัง”
ในการทดลองที่ประสบความสำเร็จอีกรายการหนึ่งซึ่งแนะนำโดย Ofer Grossman ซึ่งเป็นศิษย์เก่าของ SPARC ซึ่งปัจจุบันเป็นพนักงาน SPARC ได้กำหนดให้ครึ่งหนึ่งของชั้นเรียนทั้งหมดเป็นทางเลือกในปี 2017 ชั้นเรียนยังคงเต็มเพราะนักเรียนชื่นชมวัฒนธรรม ผู้ก่อตั้งยังเห็นพ้องกันว่าการสนทนาหลังเลิกเรียนมักจะส่งผลกระทบมากกว่าการเรียน ดังนั้นจึงได้ออกแบบการสนทนาแบบตัวต่อตัวและแบบกลุ่มลงในหลักสูตร เมื่อนึกถึงขอบข้าง พวกเขาถามว่า “อะไรคือสิ่งที่น่าจดจำเกี่ยวกับโรงเรียน? ส่วนที่ดีมีอะไรบ้าง? เราสามารถทำสิ่งเหล่านั้นให้มากขึ้นและน้อยลงได้หรือไม่”
เหนือสิ่งอื่นใด SPARC ส่งเสริมวัฒนธรรมการเปิดกว้าง ความอยากรู้อยากเห็น และความรับผิดชอบ โดยธรรมชาติในโครงการนี้คือ “การบิดเบือนทางปัญญา” – เรียนรู้เกี่ยวกับอคติทั่วไป เช่น อคติในการเลือกและอคติการยืนยัน และการแก้ไขสำหรับอคติเหล่านั้น “เราลดอคติอย่างมากในการปฏิสัมพันธ์ระหว่างกันอย่างชัดเจน” จางกล่าว “เรายังมีชั้นเรียนเกี่ยวกับอคติทางปัญญา แต่วัฒนธรรมเป็นส่วนที่สำคัญกว่า”
การวิจัย AI และผู้นำในอนาคต
การออกแบบเทคโนโลยีที่ปลอดภัยและเป็นประโยชน์ต้องใช้ความเชี่ยวชาญด้านเทคนิค แต่ในมุมมองของ SPARC การปลูกฝังวัฒนธรรมการวิจัยแบบองค์รวมก็มีความสำคัญเท่าเทียมกัน นักเรียนชั้นนำในปัจจุบันอาจสร้างความก้าวหน้าด้าน AI ที่เป็นผลสืบเนื่องมากที่สุดในอนาคต และค่านิยม การศึกษา และอารมณ์จะมีบทบาทสำคัญในการทำให้มั่นใจว่า AI ขั้นสูงจะถูกนำมาใช้อย่างปลอดภัยและเพื่อประโยชน์ส่วนรวม
“สิ่งนี้มีความสำคัญนอกเหนือจาก AI” Zhang อธิบาย “จุดยืนอย่างเป็นทางการของ SPARC คือการทำให้นักเรียนเหล่านี้เป็นผู้นำในอนาคตในชุมชนของพวกเขา ไม่ว่าจะเป็น AI, วิชาการ, การแพทย์หรือกฎหมาย ผู้นำเหล่านี้สามารถพูดคุยกันและกลายเป็นพันธมิตรกันแทนที่จะมีระเบียบวินัยที่แตกเป็นชิ้นเล็กชิ้นน้อย”
เมื่อ SPARC เข้าใกล้ปีที่ 7 ศิษย์เก่าบางคนก็เริ่มสร้างผลกระทบแล้ว ศิษย์เก่าที่มุ่งเน้น AI สองสามคนเพิ่งก่อตั้ง AlphaSheets ซึ่งเป็นสเปรดชีตที่ทำงานร่วมกันและตั้งโปรแกรมได้สำหรับการเงินซึ่งมีแนวโน้มที่จะเกิดข้อผิดพลาดน้อยกว่า ในขณะที่นักเรียนคนอื่นๆ กำลังเป็นผู้นำ “บ้านแฮ็กเกอร์” กับผู้คนใน Silicon Valley นอกจากนี้ SPARC ยังเป็นแรงบันดาลใจให้สร้าง ESPR ซึ่งเป็นโครงการที่คล้ายคลึงกันของยุโรปซึ่งเน้นที่ความเสี่ยงด้าน AI อย่างชัดเจน
แต่ผลกระทบส่วนใหญ่จะจับต้องได้น้อยลง “กลุ่มคนที่สนใจในสิ่งต่าง ๆ ได้ทำงานกับทรัพยากรของ SPARC และพวกเขากำลังสร้างกลุ่มสังคมจำนวนมาก” จางอธิบาย “มันเหมือนกับประกายไฟเล็กๆ น้อยๆ และเราไม่รู้ว่ามันจะเป็นอย่างไร แต่ฉันค่อนข้างตื่นเต้นกับอีก 5 ปีข้างหน้า”
ข้อควรพิจารณาสำหรับผู้บริหารอุตสาหกรรมเทคโนโลยี
เลือกจ้าง. ภายใต้วัตถุประสงค์ทางธุรกิจเชิงกลยุทธ์ ผู้บริหารสามารถใช้แนวทางคัดเลือกเพื่อประเมินว่าจำเป็นต้องมีผู้เชี่ยวชาญด้านการวิเคราะห์หรือไม่ หรือบรรลุเป้าหมายด้วยเครื่องมืออัตโนมัติ โปรแกรม XaaS หรือบริการที่ใช้ AI
การปรับทักษะที่มุ่งเน้นและตรงเป้าหมาย ผู้นำสามารถยกระดับทักษะของพนักงานในปัจจุบันในด้านข้อมูลและการวิเคราะห์ที่เฉพาะเจาะจง เช่น ML, การวิเคราะห์ข้อมูล, การสร้างแบบจำลองข้อมูล, สถาปัตยกรรมข้อมูล และวิศวกรรมข้อมูล
เสริมสร้างความร่วมมือ ร่วมมือกับสถาบันการศึกษาและมหาวิทยาลัย ศูนย์บ่มเพาะธุรกิจและเร่งความเร็ว และระบบนิเวศเริ่มต้นเพื่อแตะและนำข้อมูลและผู้เชี่ยวชาญด้านการวิเคราะห์ที่ดีที่สุดและมีความเกี่ยวข้องมากที่สุดมารวมกัน
Aniyah สนุกกับบทบาทของเธอในฐานะผู้บริหารฝ่ายเทคโนโลยีภายในองค์กรธนาคารทางการเงินขนาดใหญ่ แต่เธอมักจะต่อสู้กับความคาดหวังทางวัฒนธรรมของชั่วโมงการทำงานที่ยาวนาน โอกาสก้าวหน้าเพียงเล็กน้อย และการขาดแบบอย่างของผู้หญิง ดังนั้น เมื่อคู่สมรสของเธอได้รับการเสนองานในอีกรัฐหนึ่ง Aniyah ได้ไตร่ตรองถึงอาชีพการงาน 12 ปีของเธอและตระหนักว่าถึงเวลาแล้วที่จะต้องพิจารณาทางเลือกทั้งหมดของเธอ การวางแผนครอบครัวกลายเป็นหัวข้อที่จริงจังในการเป็นหุ้นส่วนของเธอ และในขณะที่เธอไม่ได้เตรียมที่จะตัดงานด้านเทคโนโลยีทั้งหมดในอนาคตออกไป เธอตัดสินใจที่จะหยุดอาชีพของเธอชั่วคราวเพื่อมุ่งเน้นไปที่สิ่งที่สำคัญที่สุดในช่วงชีวิตนี้
น่าเสียดายที่ Aniyah ไม่ได้อยู่คนเดียว การศึกษาในปี 2008 ที่ตีพิมพ์ใน Harvard Business Review รายงานว่าอัตราการออกจากงานของผู้หญิงในแวดวงเทคโนโลยีนั้นมากกว่าผู้ชายสองเท่า 1ผู้หญิงออกจากจุดหมายปลายทางที่หลากหลาย—บางคนเลือกที่จะเริ่มต้นธุรกิจที่เกี่ยวข้องกับเทคโนโลยีของตนเองหรือย้ายไปทำงานนอกสายเทคโนโลยี แต่หลายคนออกจากงานไปโดยสิ้นเชิง อย่างน้อยก็ชั่วคราว เพื่อทำหน้าที่รับผิดชอบของครอบครัว ศึกษาต่อ หรือแสวงหาผลประโยชน์ส่วนตัว น่าเสียดายที่อัตราการออกจากงานในปัจจุบันในวงการเทคโนโลยีโดยรวมไม่ค่อยมีใครรู้จักและผู้หญิงเหล่านี้จบลงที่ใด แต่น่าจะปลอดภัยที่จะบอกว่าข้อมูลนี้ยังคงไม่เปลี่ยนแปลงค่อนข้างมาก
ตามที่เราสำรวจในบทความของเราที่ชื่อ การซ่อมแซมท่อส่งผู้หญิงคิดเป็น 25% ของผู้ปฏิบัติงานด้านเทคโนโลยี โดยมีคนงานผิวดำ (9%) และ Latinx (7%) ที่ทำงานด้านเทคโนโลยีน้อยกว่า แม้ว่าบริษัทต่างๆ จะสรรหาผู้หญิงและกลุ่มอื่นๆ ที่มีบทบาทต่ำกว่าได้ดีกว่าในตำแหน่งระดับเริ่มต้น แต่ผู้หญิงในเปอร์เซ็นต์ที่สูงกว่าผู้ชายก็ออกจากตำแหน่งเทคโนโลยีก่อนที่จะไปถึงตำแหน่งผู้นำ
แล้วผู้บริหารด้านเทคโนโลยีจะสามารถย้อนกลับแนวโน้มนี้ได้อย่างไร? ไม่มีใครมีคำตอบทั้งหมด แต่การวิจัยและการสัมภาษณ์ของเรากับ CIO และผู้นำด้านเทคโนโลยีเผยให้เห็นแนวทางที่หลากหลาย ซึ่งเมื่อรวมกันแล้วสามารถนำไปสู่กลยุทธ์ที่ครอบคลุมซึ่งออกแบบมาเพื่อคัดเลือกและรักษาผู้หญิงที่มีประสบการณ์ที่มีความสามารถและกลุ่มอื่นๆ ที่มีบทบาทต่ำกว่า วัตถุประสงค์ของกลยุทธ์เหล่านี้คือการผลักดันให้ผู้หญิงมีบทบาทเป็นผู้นำระดับสูงมากขึ้น เพื่อที่จะสามารถสร้างแรงบันดาลใจ ให้คำปรึกษา และเป็นแบบอย่างให้กับผู้ที่อยู่เบื้องหลังพวกเขา เมื่อเวลาผ่านไปกลยุทธ์และพฤติกรรมเหล่านี้สามารถนำไปสู่การรวมหลากหลายแรงงานว่านวัตกรรมการสนับสนุนขององค์กรและการเจริญเติบโตในขณะที่เราสำรวจในปูเส้นทางที่หลากหลายเพื่อเป็นผู้นำด้านเทคโนโลยีและนวัตกรรมสำหรับทุก
ในบทความนี้ ซึ่งเป็นบทความที่เจ็ดใน ซีรีส์DEI for Tech Leadersของ Deloitte เราจะ เจาะลึกถึงวิธีที่องค์กรเทคโนโลยี (หน้าที่ทางเทคโนโลยีภายในองค์กร) สามารถช่วยปิดช่องว่างระหว่างเพศ เชื้อชาติ และชาติพันธุ์ด้วยกลยุทธ์แบบองค์รวมเพื่อสรรหาและรักษาผู้มีประสบการณ์โดยเฉพาะ นักเทคโนโลยีสตรี แม้ว่าเราจะมุ่งเน้นที่ผู้หญิงในด้านเทคโนโลยีเป็นหลัก แต่แนวทางหลายๆ วิธีก็อาจนำไปใช้กับกลุ่มอื่นๆ ที่มีบทบาทด้อยกว่าเช่นกัน
องค์กรเทคโนโลยีมีการเติบโตอย่างไร
การสูญเสียพรสวรรค์ด้านเทคโนโลยีที่มีคุณค่าในช่วงกลางอาชีพมักเกิดจากสภาพแวดล้อมการทำงานที่ไม่เอื้ออำนวย ความลำเอียงที่แพร่หลาย (โดยมีสติและ/หรือหมดสติ) บ่อนทำลายพฤติกรรมจากผู้บริหาร และการจัดลำดับความสำคัญที่แข่งขันกัน
ในปี 2560 ศูนย์วิจัย Pew พบว่า 74% ของผู้หญิงที่ทำงานด้านเทคโนโลยีประสบปัญหาการเลือกปฏิบัติทางเพศในที่ทำงาน นอกจากนี้ การสำรวจพนักงานและลูกค้าเทคโนโลยีของ Deloitte ในปี 2020 ยืนยันว่าอคติทางเพศยังคงเป็นปัญหาอย่างต่อเนื่อง เมื่อถูกขอให้สะท้อนถึงประสบการณ์ด้านเทคนิคและอาชีพที่สะสมมา ผู้ตอบแบบสอบถามโดยรวมระบุว่าอคติทางเพศเป็นอุปสรรคสำคัญที่ขัดขวางไม่ให้ผู้หญิงในบทบาทเทคโนโลยีย้ายไปสู่ตำแหน่งผู้นำ ตามด้วยการรวมงาน/ชีวิต และการขาดการสนับสนุน
[NPC5]สำหรับผู้หญิงที่เข้าถึงทรัพยากรและโอกาสรองได้ การออกจากงานอาจเป็นวิธีแก้ปัญหาที่สามารถยุติการเลือกปฏิบัติในทันทีหรือความคาดหวังที่ไม่สมจริง บางคนก็เหมือนกับ Aniyah ตัวละครหลักของเรา ที่ปล่อยให้พนักงานมีสมาธิกับครอบครัวเนื่องจากขาดทางเลือกในการบูรณาการงาน/ชีวิต คนอื่นๆ อาจดำเนินต่อไปในอาชีพที่ซบเซา มักจะน่าผิดหวัง เพราะการออกจากบทบาทไม่ใช่ทางเลือกที่เหมาะสมเนื่องจากข้อจำกัดด้านเศรษฐกิจ สุขภาพ หรือการสนับสนุนเครือข่าย ซึ่งมักส่งผลให้จำเป็นต้อง “ปิดบัง” ตัวตนที่แท้จริงหรือมองข้ามตัวตนของพวกเขา เพื่อปรับให้เข้ากับสภาพแวดล้อมในที่ทำงาน ไม่ว่าจะด้วยวิธีใด บริษัทมักจะสูญเสียความสามารถที่มีคุณค่าและมีประสิทธิผลซึ่งอาจเป็นเรื่องยากที่จะแทนที่ด้วยคนที่มีประสบการณ์น้อยกว่า