Get in my Think Art.

การทำลายไซโลในการวิจัย AI

การทำลายไซโลในการวิจัย AI

การทำลายไซโลในการวิจัย AI

jumbo jili

ปัญญาประดิษฐ์อาจดูเหมือนเป็นโครงการวิทยาการคอมพิวเตอร์ แต่ถ้าจะบูรณาการเข้ากับสังคมได้สำเร็จ นักสังคมศาสตร์ก็ต้องมีส่วนร่วมมากขึ้น
การพัฒนาเครื่องอัจฉริยะไม่ได้เป็นเพียงปัญหาของการปรับเปลี่ยนอัลกอริธึมในห้องปฏิบัติการเท่านั้น เครื่องจักรเหล่านี้ต้องสอดคล้องกับค่านิยมของมนุษย์ และต้องมีความเข้าใจอย่างลึกซึ้งเกี่ยวกับจริยธรรมและผลทางสังคมของการปรับใช้เครื่องจักรอัจฉริยะ

สล็อต

การรวมผู้ที่มีภูมิหลังหลากหลายดูเหมือนจะมีเหตุผลเพียงพอในทางทฤษฎี แต่ในทางปฏิบัติ จะเกิดอะไรขึ้นเมื่อนักวิทยาศาสตร์คอมพิวเตอร์ นักพัฒนา AI นักเศรษฐศาสตร์ นักปรัชญา และนักจิตวิทยา พยายามพูดคุยเกี่ยวกับปัญหา AI มีใครพูดภาษาเดียวกันบ้างไหม?
นักวิทยาศาสตร์ทางสังคมและนักวิทยาศาสตร์คอมพิวเตอร์จะเข้ามาที่ปัญหา AI จากทิศทางที่ต่างกันมาก และถ้าพวกเขาร่วมมือกัน ทุกคนก็ชนะ นักสังคมศาสตร์สามารถเรียนรู้เกี่ยวกับเครื่องมือที่ซับซ้อนและอัลกอริทึมที่ใช้ในห้องปฏิบัติการวิทยาการคอมพิวเตอร์ และนักวิทยาศาสตร์คอมพิวเตอร์สามารถปรับตัวให้เข้ากับผลกระทบทางสังคมและจริยธรรมของ AI ขั้นสูง
ด้วยการเรียนรู้แบบสหวิทยาการ ทั้งสองสาขาจะพร้อมรับมือกับความท้าทายในการพัฒนา AI ได้ดีขึ้น และสังคมโดยรวมจะปลอดภัยยิ่งขึ้น
ทำลายไซโล
บ่อยครั้ง นักวิจัยให้ความสำคัญกับความเชี่ยวชาญที่แคบ ไม่ค่อยเข้าถึงผู้เชี่ยวชาญในสาขาอื่นเพื่อแก้ปัญหาทั่วไป AI ก็ไม่ต่างกัน ด้วยกำแพงหนา – บางครั้งก็แยกสังคมศาสตร์ออกจากวิทยาการคอมพิวเตอร์ กระบวนการทำลายกำแพงระหว่างสาขาการวิจัยนี้มักเรียกว่าการทำลายไซโล
หากนักวิจัย AI ส่วนใหญ่ทำงานในไซโล พวกเขาอาจสูญเสียโอกาสในการเรียนรู้จากมุมมองอื่นและร่วมมือกับเพื่อนร่วมงานที่มีศักยภาพ นักวิทยาศาสตร์อาจพลาดช่องว่างในการวิจัยหรือทำซ้ำงานที่คนอื่นทำเสร็จแล้ว เพราะพวกเขาถูกแยกออกไปในไซโลของพวกเขา สิ่งนี้สามารถขัดขวางการพัฒนา AI ที่สอดคล้องกับมูลค่าได้อย่างมาก
เพื่อทำลายระบบไซโลเหล่านี้ Wendell Wallach ได้จัดเวิร์กช็อปเพื่ออำนวยความสะดวกในการแบ่งปันความรู้ในหมู่นักวิทยาศาสตร์คอมพิวเตอร์และสังคมศาสตร์ชั้นนำ Wallach ที่ปรึกษา นักจริยธรรม และนักวิชาการที่ศูนย์สหวิทยาการด้านชีวจริยธรรมของมหาวิทยาลัยเยล จัดการประชุมเชิงปฏิบัติการเหล่านี้ที่The Hastings Centerซึ่งเขาเป็นที่ปรึกษาอาวุโส
ร่วมกับ Gary Marchant, Stuart Russell และบาร์ต Selman ซึ่งเป็นประธานร่วมนั้น Wallach ได้จัดเวิร์กช็อปครั้งแรกในเดือนเมษายน 2016 “การประชุมเชิงปฏิบัติการครั้งแรกเป็นเรื่องเกี่ยวกับการเปิดเผยให้ผู้คนได้รู้ว่าผู้เชี่ยวชาญในสาขาต่างๆ เหล่านี้คิดอย่างไร” Wallach อธิบาย “ความตั้งใจของฉันคือให้คนเหล่านี้ทั้งหมดอยู่ในห้องเดียวกัน และหวังว่าพวกเขาจะเห็นว่าพวกเขาไม่ได้เป็นผู้คิดค้นล้อใหม่ทั้งหมด และตระหนักว่ายังมีคนอื่นๆ ที่มีส่วนร่วมในโครงการที่คล้ายคลึงกัน”
การประชุมเชิงปฏิบัติการรวบรวมผู้เชี่ยวชาญจากหลากหลายมุมมองโดยเจตนารวมถึงจริยธรรมทางวิศวกรรม ปรัชญา และวิศวกรรมความยืดหยุ่นตลอดจนผู้เข้าร่วมจากสถาบันวิศวกรไฟฟ้าและอิเล็กทรอนิกส์ (IEEE) สำนักงานวิจัยกองทัพเรือและฟอรัมเศรษฐกิจโลก ( WEF) Wallach เล่าว่า “บางคนสนใจมากว่าคุณจะใช้ความอ่อนไหวต่อการพิจารณาทางศีลธรรมในการคำนวณของ AI ได้อย่างไร และคนอื่นๆ ก็สนใจว่า AI จะเปลี่ยนแปลงบริบททางสังคมอย่างไร”
ผู้เข้าร่วมคนอื่นๆ ได้ศึกษาว่าวิศวกรของระบบเหล่านี้อาจอ่อนไหวต่ออคติทางปัญญาที่เป็นอันตรายและผลประโยชน์ทับซ้อนได้อย่างไร ในขณะที่คนอื่นๆ ยังคงมุ่งเน้นไปที่ประเด็นการกำกับดูแลที่เกี่ยวข้องกับ AI มุมมองแต่ละข้อเหล่านี้จำเป็นสำหรับการพัฒนา AI ที่เป็นประโยชน์ และการประชุมเชิงปฏิบัติการของ The Hastings Center เปิดโอกาสให้ผู้เข้าร่วมได้เรียนรู้และสอนซึ่งกันและกัน
แต่การทำลายไซโลไม่ใช่เรื่องง่าย Wallach อธิบายว่า “ทุกคนมีเป้าหมายของตัวเอง โครงการของตัวเอง ความตั้งใจของตัวเอง และมันยากที่จะได้ยินใครพูดว่า ‘บางทีคุณอาจไร้เดียงสาเกี่ยวกับเรื่องนี้’” เมื่อนักวิจัยดำเนินการเฉพาะในไซโล “เกือบ เป็นไปไม่ได้ที่จะเข้าใจว่าผู้คนที่อยู่นอกไซโลทำสิ่งที่พวกเขาทำได้อย่างไร” เขากล่าวเสริม
ความตั้งใจของการประชุมเชิงปฏิบัติการครั้งแรกไม่ใช่เพื่อพัฒนากลยุทธ์หรือข้อเสนอที่เป็นรูปธรรม แต่เป็นการเปิดใจของนักวิจัยต่อความท้าทายในวงกว้างในการพัฒนา AI ด้วยคุณค่าของมนุษย์ “ความสงสัยของฉันคือ สิ่งที่มีค่าที่สุดที่ออกมาจากการประชุมเชิงปฏิบัติการนี้คงยากที่จะหาปริมาณได้” Wallach ชี้แจง “มันเหมือนกับว่าจิตใจของผู้คนถูกยืดออกและเปิดกว้าง สำหรับฉันแล้วสิ่งนี้เป็นเรื่องเกี่ยวกับอะไรเป็นหลัก”
การประชุมเชิงปฏิบัติการให้ผลลัพธ์ที่เป็นรูปธรรมบางอย่าง ตัวอย่างเช่น Marchant และ Wallach ได้แนะนำโครงการนำร่องสำหรับการกำกับดูแล AI ในระดับสากล และเกือบทุกคนในการประชุมเชิงปฏิบัติการตกลงที่จะทำงานในเรื่องนี้ ตั้งแต่นั้นมา IEEE, คณะกรรมการกาชาดระหว่างประเทศ, UN, World Economic Forum และสถาบันอื่น ๆ ได้ตกลงที่จะเป็นพันธมิตรอย่างแข็งขันกับ The Hastings Center ในการสร้างโครงสร้างพื้นฐานระดับโลกเพื่อให้แน่ใจว่า AI และ Robotics จะเป็นประโยชน์
ความร่วมมือแบบสหวิทยาการนี้เป็นสัญญาณบ่งชี้ว่าความพยายามของ Wallach กำลังประสบความสำเร็จในการเสริมสร้างความเข้มแข็งในการตอบสนองต่อความท้าทายด้าน AI ทั่วโลก
การจัดตำแหน่งค่า
Wallach และประธานร่วมจัดเวิร์กช็อปครั้งที่สองเมื่อปลายเดือนตุลาคม ผู้เข้าร่วมส่วนใหญ่เป็นนักวิทยาศาสตร์ แต่ยังรวมถึงนักทฤษฎีสังคม นักวิชาการด้านกฎหมาย นักปรัชญา และนักจริยธรรมด้วย เป้าหมายโดยรวมยังคงอยู่ – เพื่อทำลายไซโล AI และอำนวยความสะดวกในการทำงานร่วมกันแบบสหวิทยาการ – แต่การประชุมเชิงปฏิบัติการนี้มีจุดเน้นที่แคบกว่า
“เราทำให้มันมากขึ้นเกี่ยวกับการจัดตำแหน่งคุณค่าและจรรยาบรรณของเครื่องจักร” เขาอธิบาย “ความตึงเครียดในห้องอยู่ระหว่างผู้ที่คิดว่าปัญหา [ของการจัดตำแหน่งค่านิยม] นั้นสามารถแก้ไขได้ในทันที กับผู้ที่สงสัยอย่างลึกซึ้งเกี่ยวกับการแก้ปัญหาเลย”
โดยทั่วไป วัลลัคตั้งข้อสังเกตว่า “นักสังคมศาสตร์และนักปรัชญามักจะเอาชนะความยากลำบาก [ของการสร้าง AI ด้วยการจัดตำแหน่งอย่างเต็มคุณค่า] และนักวิทยาศาสตร์คอมพิวเตอร์มักจะมองข้ามความยากลำบากนั้นไป”
Wallach เชื่อว่าในขณะที่นักวิทยาศาสตร์คอมพิวเตอร์จะสร้างอัลกอริธึมและฟังก์ชั่นยูทิลิตี้สำหรับ AI พวกเขาต้องการข้อมูลจากนักสังคมสงเคราะห์เพื่อให้แน่ใจว่ามีการจัดแนวค่า “ถ้าฟังก์ชันยูทิลิตี้แทน 100,000 อินพุต นักทฤษฎีทางสังคมจะช่วยให้นักวิจัย AI เข้าใจว่าอินพุต 100,000 รายการเหล่านั้นคืออะไร” เขาอธิบาย “นักวิจัย AI อาจสามารถหาเงินได้ 50,000-60,000 ด้วยตัวเอง แต่ทันใดนั้นพวกเขาจะตระหนักว่าคนที่คิดอย่างลึกซึ้งมากขึ้นเกี่ยวกับจริยธรรมประยุกต์อาจมีความอ่อนไหวต่อสิ่งที่พวกเขาไม่เคยคิดมาก่อน”
“ฉันหวังว่า [นักวิจัยเหล่านี้] จะเรียนรู้ภาษาของกันและกันและสื่อสารกันอย่างไร พวกเขาจะรับรู้ถึงคุณค่าที่พวกเขาจะได้รับจากการทำงานร่วมกัน” เขากล่าว “ฉันคิดว่าฉันเห็นหลักฐานของการเริ่มต้นนั้นเกิดขึ้น”

สล็อตออนไลน์

ก้าวไปข้างหน้า
การพัฒนา AI ที่สอดคล้องกับมูลค่าเป็นงานที่ยิ่งใหญ่และมีความเสี่ยงที่มีอยู่ ผู้เชี่ยวชาญจากหลากหลายมุมมองต้องเต็มใจเรียนรู้จากกันและกันและปรับความเข้าใจในประเด็นดังกล่าว
ด้วยจิตวิญญาณนี้ The Hastings Center จึงเป็นผู้นำในการนำไซโล AI ต่างๆ มารวมกัน หลังจากเหตุการณ์ที่ประสบความสำเร็จสองครั้งซึ่งส่งผลให้เกิดความร่วมมือที่คาดหวัง Wallach และประธานร่วมของเขาจะจัดการประชุมเชิงปฏิบัติการครั้งที่สามในฤดูใบไม้ผลิ 2018 และในขณะที่การประชุมเชิงปฏิบัติการเหล่านี้เป็นความพยายามเพียงเล็กน้อยในการอำนวยความสะดวกในความร่วมมือแบบสหวิทยาการด้าน AI Wallach ก็มีความหวัง
“เป็นกลุ่มเล็กๆ” เขายอมรับ “แต่เป็นคนที่เป็นผู้นำในด้านต่างๆ เหล่านี้ ดังนั้นหวังว่าจะกระจายไปทั่วสนามทั้งสองด้าน”
จากวรรณกรรมทางจิตวิทยาไปจนถึงสคริปต์ทางศาสนา ภูมิปัญญาดั้งเดิมได้โต้แย้งว่าชีวิตมีระดับของความทุกข์ทรมานดังนั้น ความสามารถของเราที่จะทำได้ดีจึงขึ้นอยู่กับความยืดหยุ่นและความสามารถในการเรียนรู้วิธีแก้ปัญหาและเอาชนะอุปสรรค หากเราสามารถดำดิ่งสู่โลกสังเคราะห์ในอุดมคติโดยปราศจากอุปสรรคหรือความยุ่งยากใดๆ ก็ถือว่ายุติธรรมที่จะทึกทักเอาเองว่ามันจะมีผลกระทบอย่างใหญ่หลวงต่อความสามารถของเราที่จะเติบโตใน ‘โลกแห่งความจริง’ นับประสาจัดการกับความสัมพันธ์กับมนุษย์ที่ไม่สมบูรณ์อย่างสมบูรณ์ สิ่งมีชีวิต ประสบการณ์ฟองสบู่โซเชียลมีเดียได้สอนเราว่าผู้คนมีแนวโน้มที่จะสร้างพื้นที่ในอุดมคติของตนเองเพื่อปิดตัวคนที่พวกเขาไม่เห็นด้วยและไม่ต้องการได้ยิน SR จะทำให้เพิกเฉยต่อผู้คนที่ ‘ไม่พึงปรารถนา’ และความเป็นจริงในลักษณะเดียวกัน ความแตกต่างเพียงอย่างเดียวคือฟองสบู่ SR จะให้ความรู้สึกเหมือนจริงและเป็นธรรมชาติ
บทสรุป
นักปรัชญาตั้งแต่เพลโตไปจนถึงจอร์จ เบิร์กลีย์ หรือเดวิด ฮูม ได้พยายามตอบคำถามว่ามีความเป็นจริงทางธรรมชาติตามวัตถุประสงค์เป็นเวลาหลายศตวรรษหรือไม่ ในบางวิธี SR ได้แก้ไขปัญหานี้ โดยที่เราจะสามารถดำดิ่งสู่ความเป็นจริงที่เป็นอัตวิสัยล้วนๆ ถ้า SR จะสามารถทำซ้ำและสร้าง ‘การมีอยู่’ ของวัตถุ ผู้คน หรือสภาพแวดล้อมทั้งหมดได้ จะมีคำถามร้ายแรงว่าสิ่งนี้จะส่งผลต่อความเข้าใจและการรับรู้ทางประสาทสัมผัสของเราต่อการมีอยู่ตามธรรมชาติจริงอย่างไร หากเราไม่ทางใดก็ทางหนึ่งที่เรารับรู้บางสิ่งหรือบางคนว่าเป็นของจริงและปัจจุบัน กระตุ้นการตอบสนองทางอารมณ์และความผูกพัน หากเป็นไปไม่ได้ที่มนุษย์จะแยกแยะความแตกต่างระหว่างความเป็นจริงตามธรรมชาติและความจริงสังเคราะห์ เราจะลากเส้นแบ่งระหว่างสิ่งที่เป็นและความเป็นจริงได้ที่ไหนสิ่งที่ไม่ได้เป็น?
เป็นวันทีมสำหรับ Oxford Insights โดยปกตินั่นหมายถึงอาหารเช้าแบบอเมริกัน (ขอบคุณคุณ Sabrina) การนำเสนอแบบอังกฤษ (ขอบคุณ Richard) และองค์กรกิจกรรมของออสเตรเลีย (ขอบคุณ Scarlet และ Emma) นอกจากนี้ยังหมายถึงงานสร้างทีมลึกลับ
[NPC4]เซอร์ไพรส์! ครั้งนี้เราพบว่าตัวเองอยู่ในความสงบสูงตระหง่านของBarbicanเข้าคิวนิทรรศการ” AI: More than Human ” ในฐานะนักเล่าเรื่อง AI และผู้กำหนดนโยบาย เราอยากรู้เกี่ยวกับนิทรรศการนี้มาหลายเดือนแล้ว พวกเขาจะนำเสนอใบหน้าใดในล้านใบหน้าของ AI พวกเขาจะเล่าเรื่องอะไร? แน่นอนว่านิทรรศการ AI สามารถเติมเต็มให้พอดีกับพื้นที่ใดก็ได้ เขาวงกตอันกว้างใหญ่ของ Barbican รู้สึกเหมาะสมมาก
ขณะที่เราเดินลัดเลาะไปตามทางเดินมืดแคบ ๆ ของพื้นที่จัดแสดง เขาวงกตนั้นดูมีสติปัญญามากกว่าทางกายภาพ พวกเขาพยายามแสดงใบหน้าที่โด่งดังที่สุดทั้งหมดและเราไม่สามารถดูได้ว่าเรากำลังจะไปที่ไหน
มีเรื่องราวยอดนิยมมากมายที่กระจัดกระจายและด้อยพัฒนาตลอดนิทรรศการ: ตัวละครฮิวแมนนอยด์ที่มีชีวิตชีวาในวัฒนธรรมสมัยนิยม, AlphaGo เอาชนะแชมป์โกโลกและ AI ในด้านวิทยาศาสตร์การแพทย์ เกาะที่จัดแสดงนิทรรศการมีมากมาย เช่นเดียวกับไฟกระพริบ วิดีโอ และหน้าจอแบบอินเทอร์แอคทีฟ ทั้งหมดนี้เราค้นหาเรื่องราวหรือข้อความต่อไป แต่ไม่พบสิ่งใดนอกจากจังหวะที่ซ้ำซากจำเจของทำนอง “AI นั้นเซ็กซี่และคุณจะไม่มีวันเข้าใจ”
เมื่อเราจัดการโฟกัสได้แล้ว ก็มีการแพร่กระจายเรื่องราวที่น่าสนใจเกี่ยวกับ AI รวมถึงวิธีที่Massive Attackได้เข้ารหัสอัลบั้ม “Mezzanine” ของพวกเขาให้เป็นสาย DNA และเติมกระป๋องสเปรย์ด้วยสีที่มีรหัสอัลบั้ม เรายังได้เห็นคอมพิวเตอร์ยุคแรกๆ ที่สวยงาม จดหมายถึงและจากอลัน ทัวริง และวิดีโอที่น่าสนใจบางส่วนเกี่ยวกับอคติของอัลกอริทึม
อย่างไรก็ตาม แม้ว่าการแสดงความสำเร็จของนักวิทยาศาสตร์ในช่วงสองสามศตวรรษที่ผ่านมาซึ่งนำเรามาถึงจุดนี้เป็นสิ่งสำคัญ แต่ผลลัพธ์ของการนำเสนอ “อะไร” หลายศตวรรษโดยปราศจาก “วิธี” กลับทำให้แปลกแยกออกไป แนวคิดพื้นฐานของ AIไม่ยากที่จะเข้าใจ แต่เราได้เรียนรู้น้อยมากเกี่ยวกับแนวคิดพื้นฐานในพื้นที่นี้
ในฐานะสังคม เราจำเป็นต้องทำลายสิ่งที่เป็นอัลกอริธึมอันทรงพลังออกจากออร่าในตำนานตามที่ CJ กล่าวไว้ ” พฤติกรรมคล้ายแฟรงเกนสไตน์ที่จะทำลายมนุษยชาติ”ที่ติดเชื้อได้ราวกับไข้หวัดใหญ่ ” แนวคิดเรื่องปัญญาประดิษฐ์ในยุค 2000 ” นี้ละเลยความจริงที่ว่าตอนนี้ ” เรามีความเข้าใจ AI ที่ซับซ้อนมากขึ้น” นี่คือเรื่องเก่า. เมื่อเรารู้แล้วว่า AI ทำอะไรได้บ้างและไม่สามารถทำได้ เราจึงจะทราบผลกระทบที่มีต่ออนาคตของเรา และประโยชน์หรือความเสี่ยงที่อาจก่อให้เกิด การทำความเข้าใจ “อย่างไร” ในกรณีนี้เป็นสิ่งสำคัญ
เห็นได้ชัดว่ามันน่าเบื่อเกินไปที่จะขายตั๋วนิทรรศการ ดังนั้นเราไปกันเถอะ
ทว่าปัญหายังคงอยู่ที่ “AI” เป็นประเภทหรือจุดสุดยอดของวิทยาศาสตร์หลายศตวรรษ มากกว่าแนวโน้มที่สามารถจัดแสดงในนิทรรศการเดียวเพื่อการบริโภคของสาธารณะ ผลลัพธ์ที่นี่ทำให้รู้สึกเหมือนถูกกัดมากกว่าที่จะเคี้ยวได้
เรามีความพยายามที่น่าสนใจสองสามอย่างในการเคี้ยวเนื้อหาบางส่วนด้วยตัวเอง
โดยเฉพาะอย่างยิ่ง ผมกับอังเดรใช้เวลาพูดคุยกันถึงวิธีที่คำพูดสามารถช่วยให้ผู้ชมเปลี่ยนจากส่วน “วัฒนธรรม” ซึ่งแสดงให้เห็นความหมกมุ่นอยู่กับการให้ชีวิตกับวัตถุที่ไม่มีชีวิต ไปสู่คำอธิบายของเทคโนโลยีเอง ซึ่งเป็นการเลียนแบบการสร้างสรรค์ที่แยกจากกัน ของ “ชีวิต” ที่เราพบว่าเป็นส่วนสำคัญในตัวตนของเรา
[NPC5]บางทีนั่นอาจเป็นประเด็น ที่นี่เราพยายามอย่างยิ่งที่จะไข “ความลึกลับของนิทรรศการ AI” โดยพูดถึงว่าเรื่องราวควรเป็นอย่างไร บางทีเมื่อมีหลายส่วน มันเป็นสัญชาตญาณตามธรรมชาติของมนุษย์ที่จะรวมมันเข้าด้วยกันและสร้างเรื่องเล่าของเราเอง การเชื่อมต่อเป็นจุดแข็งของสติปัญญาของเราด้วยหรือไม่
ฉันเริ่มคิดกว้างขึ้นเกี่ยวกับ “มากกว่ามนุษย์” ในบริบทนี้จริงหรือ? มันอาจหมายถึง “มากกว่า”, “เกิน” หรือ “นอกเหนือจาก” หรือไม่? ความคลุมเครือนั้นน่าหลงใหล
เราไม่สามารถหาคำศัพท์สำหรับปรากฏการณ์ใหม่นี้ได้เนื่องจากภาษาของเราทำให้มนุษย์กลายเป็นสิ่งที่ไม่ใช่มนุษย์ อีกคำหนึ่งคือ “สูงกว่า”…จริงเหรอ? ประโยคหนึ่งที่โดดเด่นสำหรับฉันอธิบายว่าตอนนี้เรากำลังสร้างคอมพิวเตอร์ที่ “มองเห็น ได้ยิน และเคลื่อนไหว” ได้อย่างไร นี่คือคำพูดของมนุษย์สำหรับการกระทำของมนุษย์ หากเราไม่เข้าใจว่าคอมพิวเตอร์จัดการกับงานเหล่านี้แตกต่างกันอย่างไร ตำนานและความลึกลับก็จะดำเนินต่อไป อังเดรกับฉันพยายามจะเขียนป้ายใหม่แต่ทำไม่ได้ เราทุกคนต่างมีทางไป