Get in my Think Art.

การอภิปรายเกี่ยวกับ AI แบบมีหลักการในอะซิโลมาร์

การอภิปรายเกี่ยวกับ AI แบบมีหลักการในอะซิโลมาร์

การอภิปรายเกี่ยวกับ AI แบบมีหลักการในอะซิโลมาร์

jumbo jili

เราผู้จัดงานพบว่าการได้เป็นส่วนหนึ่งของการประชุม BAI 2017ซึ่งเป็นงานประชุมครั้งที่สองของสถาบัน Future of Life เกี่ยวกับอนาคตของปัญญาประดิษฐ์นั้นสร้างแรงบันดาลใจได้ยอดเยี่ยมมาก นอกจากจะเป็นการรวมตัวของผู้คนที่ประสบความสำเร็จอย่างไม่รู้จบและน่าสนใจแล้ว ยังให้ความรู้สึกที่ชัดเจนถึงภารกิจร่วมกัน: การเปลี่ยนแปลงครั้งสำคัญกำลังจะมาถึง ในช่วงเวลาที่ไม่รู้จัก แต่ในทุกส่วนของสังคม และผู้คนที่มีส่วนร่วมในการเปลี่ยนแปลงนั้นมีความรับผิดชอบอย่างมาก และโอกาสที่จะสร้างมันให้ดีที่สุด

สล็อต

ความรู้สึกนี้ในหมู่ผู้เข้าร่วมสะท้อนถึงการมีส่วนร่วมทางสังคมในวงกว้างกับ AI ซึ่งได้ร้อนแรงขึ้นอย่างมากในช่วงไม่กี่ปีที่ผ่านมา เนื่องจากความตระหนักเรื่อง AI ที่เพิ่มขึ้นนี้ รายงานสำคัญๆ หลายสิบฉบับจึงมาจากภาควิชาการ (เช่น รายงาน 100 ปีของสแตนฟอร์ด) รัฐบาล (เช่น รายงานสำคัญสองฉบับจากทำเนียบขาว) อุตสาหกรรม (เช่น วัสดุจากพันธมิตรด้าน AI) และ ภาคส่วนที่ไม่แสวงหากำไร (เช่น รายงานหลักของ IEEE)
ในการวางแผนการประชุม Asilomar เราหวังว่าทั้งสองจะสร้างการสนทนาที่มีความหมายในหมู่ผู้เข้าร่วมประชุม และเพื่อดูว่าถ้ามีอะไร ชุมชนที่ค่อนข้างต่างกันนี้จะตกลงกันจริงๆ หรือไม่ เรารวบรวมรายงานทั้งหมดที่ทำได้และรวบรวมรายการความคิดเห็นเกี่ยวกับสิ่งที่สังคมควรทำเพื่อจัดการ AI ให้ดีที่สุดในทศวรรษหน้า จากรายการนี้ เรามองหาการทับซ้อนและการทำให้เข้าใจง่าย โดยพยายามกลั่นกรองให้มากที่สุดเท่าที่จะทำได้ลงในชุดหลักการหลักที่แสดงความเห็นพ้องต้องกันในระดับหนึ่ง แต่รายการ “ย่อ” นี้ยังคงมีความคลุมเครือ ความขัดแย้ง และมีพื้นที่เหลือเฟือสำหรับการตีความและการอภิปรายที่คุ้มค่า
ก่อนการประชุม เราได้สำรวจผู้เข้าร่วมการประชุมอย่างละเอียดเกี่ยวกับรายการ รวบรวมคำติชม การประเมิน และข้อเสนอแนะสำหรับหลักการที่ปรับปรุงหรือใหม่ คำตอบถูกพับเป็นเวอร์ชันปรับปรุงที่สำคัญเพื่อใช้ในการประชุม ใน Asilomar เราได้รวบรวมข้อเสนอแนะเพิ่มเติมในสองขั้นตอน ประการแรก กลุ่มผู้แยกย่อยกลุ่มย่อยจะอภิปรายส่วนย่อยของหลักธรรม โดยให้รายละเอียดที่ขัดเกลาและให้ความเห็นเกี่ยวกับหลักธรรมเหล่านี้ กระบวนการนี้สร้างเวอร์ชันที่ปรับปรุงแล้ว (ในบางกรณีมีหลายเวอร์ชันที่แข่งขันกันใหม่) และหลักการใหม่บางประการ สุดท้าย เราได้สำรวจผู้เข้าร่วมทั้งชุดเพื่อกำหนดระดับการสนับสนุนสำหรับแต่ละรุ่นของแต่ละหลักการ
หลังจากการอภิปรายอย่างละเอียดถี่ถ้วนและบางครั้งก็เป็นการโต้เถียงและข้อเสนอแนะที่หลากหลาย เรารู้สึกประหลาดใจอย่างตรงไปตรงมาที่ความเห็นพ้องต้องกันในระดับสูงซึ่งปรากฏอยู่รอบๆ ข้อความหลายฉบับในระหว่างการสำรวจครั้งสุดท้ายนั้น ความเห็นพ้องต้องกันนี้ทำให้เราสามารถกำหนดมาตรฐานที่สูงสำหรับการรวมอยู่ในรายการสุดท้าย: เราคงไว้ซึ่งหลักการก็ต่อเมื่อผู้เข้าร่วมอย่างน้อย 90% เห็นด้วยกับพวกเขา
สิ่งที่เหลืออยู่คือรายการของหลักการ 23 ข้อตั้งแต่กลยุทธ์การวิจัยไปจนถึงสิทธิ์ในข้อมูลจนถึงปัญหาในอนาคตรวมถึงความฉลาดขั้นสูงที่อาจเกิดขึ้นซึ่งลงนามโดยผู้ที่ต้องการเชื่อมโยงชื่อของพวกเขากับรายการ การรวบรวมหลักการนี้ไม่ครอบคลุมและเปิดกว้างสำหรับการตีความที่แตกต่างกันอย่างแน่นอน แต่ยังเน้นว่าพฤติกรรม “เริ่มต้น” ในปัจจุบันเกี่ยวกับประเด็นที่เกี่ยวข้องจำนวนมากสามารถละเมิดหลักการที่ผู้เข้าร่วมส่วนใหญ่เห็นพ้องกันว่ามีความสำคัญอย่างไร
เราหวังว่าหลักการเหล่านี้จะจัดหาเนื้อหาสำหรับการอภิปรายอย่างจริงจังและยังเป็นเป้าหมายที่สร้างแรงบันดาลใจว่าจะใช้พลังของ AI เพื่อปรับปรุงชีวิตของทุกคนในปีต่อๆ ไปได้อย่างไร
เทศบาลนครหรือเทศบาลขนาดใหญ่ไม่ควรเป็นคนเดียวที่พัฒนากลยุทธ์ด้าน AI เมืองเล็กๆ และพื้นที่ชนบทจะรู้สึกถึงผลกระทบของระบบอัตโนมัติ และหากพวกเขาไม่ริเริ่มเช่นกัน พวกเขาเสี่ยงที่จะถูกทิ้งไว้ข้างหลัง เราต้องเรียนรู้บทเรียนจากความพยายามครั้งก่อนในการเชื่อมโยงความแตกแยกในระดับภูมิภาคและฟื้นฟูส่วนที่ยากจนกว่าของประเทศ ตัวอย่างเช่น ความคิดริเริ่มของ Northern Powerhouse ได้รับการวิพากษ์วิจารณ์ว่าเน้นไปที่เขตมหานครเช่นแมนเชสเตอร์มากเกินไปโดยที่เมืองเล็ก ๆ และพื้นที่ชนบทจะถูกละเลย ตัวอย่างเช่น Greater Manchester Combined Authority ได้จัดทำกลยุทธ์ดิจิทัลสำหรับปี 2018-2020และหน่วยงานรวมของ Liverpool City Region ได้จัดทำแผนดิจิทัลและความคิดสร้างสรรค์ที่คล้ายกันสำหรับปี 2018-2020. ดังนั้นจึงมีความเสี่ยงที่ผลกระทบของ AI ต่อเศรษฐกิจของเราเติบโตขึ้น เมืองใหญ่ทั่วประเทศจะพร้อมสำหรับการเก็บเกี่ยวรางวัลได้ดีกว่าเมืองเล็ก ๆ เมื่อพิจารณาว่าอยู่ในเมืองเล็กๆ เช่น ดาร์ลิงตัน เรดคาร์ และสต็อกตัน-ออน-ทีส์ที่กลุ่มอนุรักษ์นิยมได้รับผลประโยชน์ โดยเมืองอย่างแมนเชสเตอร์ส่วนใหญ่ยังคงยึดครองแรงงาน ซึ่งเป็นพื้นที่ที่รัฐบาลกลางต้องยืนหยัดเพื่อ เว้นแต่ว่าเราต้องการรวมแกนเหนือ-ใต้ของความไม่เท่าเทียมกันกับแกนในเขตเมือง-ชนบท หน่วยงานท้องถิ่นจำเป็นต้องดำเนินการในเชิงรุก ไม่ใช่แค่ตอบโต้ เมื่อเผชิญกับการเปลี่ยนแปลงทางเทคโนโลยี
เพื่อให้บรรลุอนาคตที่หน่วยงานท้องถิ่นสามารถพัฒนากลยุทธ์ AI ของตนเองได้ รัฐบาลต้องเพิ่มเงินทุน การทบทวนของหน่วยงานรัฐบาลท้องถิ่นพบว่าหน่วยงานท้องถิ่นจะเผชิญกับการลดเงินทุนหลักในปีนี้เกือบ 16 พันล้านปอนด์ในช่วงทศวรรษที่ผ่านมา และเผชิญกับช่องว่างการระดมทุนจำนวน 7.8 พันล้านปอนด์ภายในปี 2568 หากไม่มีเงินทุนเพียงพอ หน่วยงานท้องถิ่นไม่สามารถดำเนินการวิจัยที่สำคัญ AI ในพื้นที่ของตน
รัฐบาลควรพิจารณาให้อำนาจแก่เจ้าหน้าที่นอกเมืองมากขึ้น ทำให้สภาสามารถจัดการการเปลี่ยนผ่านไปสู่ยุค AI ได้ง่ายขึ้น ด้วยเงินทุนที่ดีขึ้นและความเป็นอิสระที่มากขึ้น หน่วยงานท้องถิ่นจะสามารถสร้างประเภทของ AI ที่มองไปข้างหน้าและกลยุทธ์การทำงานในอนาคตที่เราอำนวยความสะดวกในสต็อกตัน แคลิฟอร์เนีย ยุทธศาสตร์เหล่านี้ควรเชื่อมโยงกับยุทธศาสตร์ของรัฐบาลกลาง ตลอดจนพื้นที่ใกล้เคียงอื่นๆ ด้วยวิธีนี้ แนวทางทั่วทั้งสหราชอาณาจักรสามารถประสานงานได้ในขณะเดียวกันก็สะท้อนถึงความท้าทายและโอกาสที่โดดเด่นในแต่ละด้าน
AI จะส่งผลการเปลี่ยนแปลงต่อเศรษฐกิจและรัฐบาลในทุกระดับ มีความเสี่ยงที่ศูนย์กลางเทคโนโลยีในลอนดอน แมนเชสเตอร์ และเมืองใหญ่อื่นๆ จะเก็บเกี่ยวผลประโยชน์จากการปฏิวัติครั้งนี้ ในขณะที่พื้นที่อื่นๆ ของประเทศจะถูกทิ้งไว้ข้างหลัง โดยเฉพาะอย่างยิ่งในเมืองเล็ก เมือง และชุมชนชนบทในภาคเหนือและภาคกลาง เนื่องจากพื้นที่เหล่านี้เป็นรากฐานของรัฐบาลส่วนใหญ่ พรรคอนุรักษ์นิยมจึงต้องแบกรับความเสี่ยงนี้ไว้ในใจ ในอนาคตข้างหน้า ทุกพื้นที่ของสหราชอาณาจักรควรได้รับการพูดในอนาคตทางเศรษฐกิจและมีโอกาสที่จะกำหนดวาระ AI ของตนเอง โดยการใช้แนวทางที่ครอบคลุมและครอบคลุมมากขึ้นในการวางแผน AI เท่านั้นที่เราจะสามารถป้องกันความไม่เท่าเทียมกันที่ทวีความรุนแรงขึ้นได้ มาทำให้การปฏิวัติ AI ได้ผลสำหรับทุกคน!

สล็อตออนไลน์

ปัญญาประดิษฐ์และการเปลี่ยนแปลงของรัฐบาล
เทคโนโลยีปัญญาประดิษฐ์ (AI) ถูกตั้งค่าให้เปลี่ยนวิธีที่รัฐบาลให้บริการสาธารณะ ผู้ช่วยเสมือนว่าคำสั่งพลเมืองคำตอบ ; ระบบวิเคราะห์ความเชื่อมั่นที่ติดตามปฏิกิริยาของประชาชนในการนโยบายของรัฐบาล ; เครื่องมือที่สามารถจัดเรียงโดยอัตโนมัติหมายเลขใหญ่ของไฟล์รัฐบาลตามหัวข้อ ; และซอฟต์แวร์จดจำใบหน้าที่ตำรวจสามารถใช้เพื่อระบุผู้ที่มีหมายจับที่โดดเด่นล้วนเป็นตัวอย่างของเทคโนโลยี AI ที่ใช้อยู่ในปัจจุบันเพื่อพยายามทำให้รัฐบาลมีประสิทธิภาพและตอบสนองต่อความต้องการของประชาชนมากขึ้น
ประเด็นสำคัญประการหนึ่งของ AI ที่รัฐบาลแสดงความสนใจเพิ่มขึ้นคือการวิเคราะห์เชิงคาดการณ์ – การใช้ AI เพื่อทำนายผลลัพธ์ในอนาคตโดยอิงจากการสังเกตในอดีต คอมพิวเตอร์สามารถสืบค้นข้อมูลจำนวนมหาศาลเพื่อค้นหารูปแบบที่ซ่อนอยู่ ระบุความเชื่อมโยงระหว่างปัจจัยเฉพาะและโอกาสที่เพิ่มขึ้นของผลลัพธ์เฉพาะ เช่น อาชญากรรมที่เกิดขึ้น หรือผู้ป่วยในโรงพยาบาลที่ตอบสนองต่อการรักษา การคาดการณ์ที่ครอบคลุมและแม่นยำยิ่งขึ้นเป็นเป้าหมายที่คู่ควรสำหรับข้าราชการ แต่งานวิจัยบางชิ้นชี้ให้เห็นว่าการวิเคราะห์เชิงคาดการณ์อาจกำหนดเป้าหมายพลเมืองที่ยากจนและเปราะบางอย่างไม่เป็นธรรม เนื่องจากมีอคติในข้อมูลที่มีอยู่ซึ่งเครื่องมือใหม่เหล่านี้ได้รับการฝึกอบรมและใช้งาน
ข้อมูลและความยากจน
ปีที่แล้ว รองศาสตราจารย์ด้านรัฐศาสตร์จากมหาวิทยาลัย Albany Virginia Eubanks ‘หนังสือAutomating Inequality: How High-Tech Tools Profile, Policy, and Punish the Poorมีส่วนสำคัญต่อการเติบโตของจริยธรรม AI และความยุติธรรมของอัลกอริทึม ในหนังสือ Eubanks ได้สำรวจว่าระบบอัตโนมัติแบบใหม่ที่ใช้ในบริการสาธารณะทั่วสหรัฐอเมริกานั้นกำหนดเป้าหมายพลเมืองที่ยากจนและเปราะบางอย่างไรอย่างไม่เป็นธรรม เธอพิจารณากรณีศึกษาเฉพาะสามกรณี: ระบบอัตโนมัติของกระบวนการมีสิทธิ์สำหรับโปรแกรมความช่วยเหลือสาธารณะในรัฐอินเดียนา ระบบจับคู่คนไร้บ้านกับทรัพยากรที่อยู่อาศัยในลอสแองเจลิส และแบบจำลองความเสี่ยงเชิงพยากรณ์ที่ใช้โดยบริการคุ้มครองเด็กใน Allegheny County รัฐเพนซิลเวเนีย
ในการหารือเกี่ยวกับกรณีของ Allegheny County Eubanks ได้กล่าวถึงประเด็นที่น่าสนใจเป็นพิเศษสำหรับรัฐบาลทุกแห่ง ทั้งในระดับท้องถิ่นและระดับประเทศที่ต้องการควบคุมพลังของเทคโนโลยีใหม่ ๆ เพื่อปรับปรุงวิธีการให้บริการสาธารณะ เธอชี้ให้เห็นว่าปัญหาอย่างหนึ่งของรูปแบบความเสี่ยงของ Allegheny County คือมันมักจะอาศัยผู้ปกครองที่ประเมินว่าได้เข้าถึงบริการสาธารณะ ตัวอย่างเช่น ผู้ปกครองที่มีประวัติการติดยา หรือมีประวัติป่วยทางจิต จะได้รับคะแนนความเสี่ยงที่สูงกว่าผู้ที่ไม่มีประวัติ ในการประเมินปัจจัยเหล่านี้ แบบจำลองความเสี่ยงจะใช้ฐานข้อมูลของรัฐบาลที่มีบันทึกผู้ป่วยจากศูนย์การเสพติดหรือจากศูนย์บำบัดสุขภาพจิต หมายความว่าถ้าใครมั่งคั่งพอที่จะจ่ายค่ารักษาส่วนตัว
Eubanks ยกประเด็นสำคัญและมักถูกมองข้ามเกี่ยวกับข้อมูลและความยากจน ในการพัฒนาระหว่างประเทศ ผู้คนอ้างถึง ‘ความยากจนของข้อมูล’ หรือ ‘การกีดกันข้อมูล’ – ซึ่งประเทศที่ยากจนที่สุดในโลกไม่ได้รวบรวมข้อมูลที่เพียงพอเกี่ยวกับพลเมืองของตน หมายความว่าคนยากจนที่สุดในโลกบางคนไม่ได้แสดงอยู่ในฐานข้อมูลเกี่ยวกับการพัฒนา การกีดกันข้อมูลแสดงให้เห็นว่าปัญหาสำหรับคนยากจนในยุคที่ขับเคลื่อนด้วยข้อมูลคือการที่ข้อมูลของพวกเขาไม่ได้ถูกรวบรวมโดยรัฐบาล ทำให้พวกเขามองไม่เห็นเครื่องมือวิเคราะห์ข้อมูล แต่โดยเฉพาะอย่างยิ่งในประเทศที่พัฒนาแล้วเช่นสหรัฐอเมริกาสหราชอาณาจักรและปัญหาที่เกิดขึ้นอาจจะไม่มองไม่เห็น แต่hypervisibility พลเมืองที่ร่ำรวยอาจเลือกใช้ทางเลือกส่วนตัวสำหรับบริการสาธารณะเช่นการดูแลสุขภาพโดยเฉพาะอย่างยิ่งเมื่อการให้บริการผู้ที่มาภายใต้ความเครียด ในขณะเดียวกัน พลเมืองที่ยากจนกว่าที่อ้างสิทธิ์เพื่อรับผลประโยชน์ที่ได้รับการทดสอบแล้ว จะต้องได้รับการตรวจสอบเพิ่มเติมและการเก็บรวบรวมข้อมูลซึ่งผู้ที่ไม่ต้องการความช่วยเหลือจากรัฐบาลสามารถหลีกเลี่ยงได้ ทั้งหมดนี้หมายความว่ารัฐบาลอาจลงเอยด้วยข้อมูลเกี่ยวกับพลเมืองที่ยากจนกว่าคนที่ร่ำรวยกว่า
นอกจากนี้ กรณีศึกษาของ Eubanks ระบุว่ารัฐบาลอาจสามารถรวบรวมข้อมูลเพิ่มเติม รวมถึงข้อมูลส่วนบุคคลและข้อมูลที่ละเอียดอ่อนอย่างไม่น่าเชื่อจากผู้ใช้บริการสาธารณะที่อ่อนแอที่สุดบางราย และอาจจบลงด้วยสิทธิ์ในข้อมูลนั้นมากขึ้น บรรดาผู้ที่พึ่งพารัฐบาลในการจ่ายเงินสวัสดิการเพื่อช่วยชีวิต Medicare หรือการเข้าถึงที่อยู่อาศัย จะต้องยอมรับข้อกำหนดและเงื่อนไขที่ล่วงล้ำมากขึ้นในการรวบรวมข้อมูลเพื่อเข้าถึงผลประโยชน์เหล่านี้ ซึ่งบุคคลที่ให้ความช่วยเหลือจากรัฐบาลมีความสำคัญน้อยกว่า นอกจากนี้ ข้อเท็จจริงที่ว่าความคลั่งไคล้ในที่สาธารณะเกี่ยวกับการฉ้อโกงผลประโยชน์และตำนานเรื่อง ‘คนจนที่ไม่สมควรได้รับ’ หมายถึงรัฐบาลมักต้องการรวบรวมข้อมูลส่วนบุคคลจำนวนมหาศาลจากผู้ที่เข้าถึงสวัสดิการ เพื่อให้แน่ใจว่าความต้องการของพวกเขาเป็นจริง
[NPC4]สิทธิ์ที่คนยากจนและกลุ่มเสี่ยงมีเหนือข้อมูลของพวกเขาอาจสั่นคลอนหากการลงนามในสิทธิ์เหล่านั้นเป็นข้อกำหนดเบื้องต้นสำหรับการเข้าถึงบริการสาธารณะ กรณีหนึ่งที่ Eubanks กล่าวถึงคือเครื่องมือในการจับคู่คนไร้บ้านในลอสแองเจลิสกับที่อยู่อาศัยของรัฐตามความต้องการของพวกเขา เพื่อให้มีโอกาสเข้าถึงที่อยู่อาศัยของประชาชน คนเร่ร่อนต้องกรอกแบบสำรวจยาวกับเจ้าหน้าที่ประชาสัมพันธ์ โดยให้รายละเอียดส่วนบุคคลรวมถึงว่าพวกเขาป่วยเป็นโรคทางจิตหรือไม่ ไม่ว่าพวกเขาจะเข้าถึงบริการฉุกเฉินสำหรับการล่วงละเมิดทางเพศหรือความรุนแรงในครอบครัวหรือไม่ ไม่ว่าพวกเขาจะมีเพศสัมพันธ์เพื่อเงินหรือเสพยาเพื่อใครก็ตาม และไม่ว่าพวกเขาจะพยายามทำร้ายตนเองหรือพยายามทำร้ายผู้อื่นหรือไม่ แบบฟอร์มยินยอมสำหรับการสำรวจแสดงให้เห็นว่าข้อมูลจะถูกแบ่งปันกับ ‘องค์กร [ที่อาจ] ซึ่งรวมถึงผู้ให้บริการไร้บ้าน องค์กรบริการสังคมอื่นๆ กลุ่มที่อยู่อาศัย และผู้ให้บริการด้านการดูแลสุขภาพ’ และระบุว่าสามารถแจ้งประกาศความเป็นส่วนตัวฉบับเต็มได้ตามคำขอ หากใครต้องการขอคำประกาศความเป็นส่วนตัวแบบเต็ม พวกเขาจะพบว่าข้อมูลดังกล่าวถูกแบ่งปันกับองค์กร 168 แห่ง รวมถึงกรมตำรวจลอสแองเจลิส ซึ่งสามารถเข้าถึงข้อมูลส่วนบุคคลในระบบโดยไม่ต้องมีหมายค้น ตามที่บันทึกของ Eubanks เป็นเรื่องยากที่จะจินตนาการถึงฐานข้อมูลของผู้ที่ได้รับการลดหย่อนภาษีจำนองหรือเงินให้กู้ยืมเพื่อการศึกษาที่ได้รับเงินอุดหนุนจากรัฐบาลกลางซึ่งสามารถเข้าถึงได้โดยหน่วยงานบังคับใช้กฎหมายโดยไม่มีหมายค้น หากใครต้องการขอคำประกาศความเป็นส่วนตัวแบบเต็ม พวกเขาจะพบว่าข้อมูลดังกล่าวถูกแบ่งปันกับองค์กร 168 แห่ง รวมถึงกรมตำรวจลอสแองเจลิส ซึ่งสามารถเข้าถึงข้อมูลส่วนบุคคลในระบบโดยไม่ต้องมีหมายค้น ตามที่บันทึกของ Eubanks เป็นเรื่องยากที่จะจินตนาการถึงฐานข้อมูลของผู้ที่ได้รับการลดหย่อนภาษีจำนองหรือเงินให้กู้ยืมเพื่อการศึกษาที่ได้รับเงินอุดหนุนจากรัฐบาลกลางซึ่งสามารถเข้าถึงได้โดยหน่วยงานบังคับใช้กฎหมายโดยไม่มีหมายค้น หากใครต้องการขอประกาศความเป็นส่วนตัวแบบเต็ม พวกเขาจะพบว่าข้อมูลดังกล่าวถูกแบ่งปันกับองค์กร 168 แห่ง รวมถึงกรมตำรวจลอสแองเจลิส ซึ่งสามารถเข้าถึงข้อมูลส่วนบุคคลในระบบโดยไม่ต้องมีหมายค้น ตามที่บันทึกของ Eubanks เป็นเรื่องยากที่จะจินตนาการถึงฐานข้อมูลของผู้ที่ได้รับการลดหย่อนภาษีจำนองหรือเงินให้กู้ยืมเพื่อการศึกษาที่ได้รับเงินอุดหนุนจากรัฐบาลกลางซึ่งสามารถเข้าถึงได้โดยหน่วยงานบังคับใช้กฎหมายโดยไม่มีหมายค้น
อัลกอริธึมอคติ
เมื่อ AI เข้ามามีบทบาทในชีวิตเรามากขึ้นเรื่อยๆ ปัญหาเรื่องอคติหรือความไม่เป็นธรรมในเทคโนโลยีใหม่เหล่านี้จึงดึงดูดความสนใจของสาธารณชนมากขึ้น เงินเดิมพันจะสูงเป็นพิเศษเมื่อรัฐบาลสามารถลงเอยด้วยการใช้เทคโนโลยีที่ยืดอายุความไม่เท่าเทียมกันทางสังคมที่มีอยู่ อำนาจที่รัฐบาลใช้เหนือพลเมืองของตน (อำนาจเช่นสิทธิในการจับกุมและกีดกันเสรีภาพของพวกเขาหรือสิทธิที่จะไปจากบุตรของใครบางคน) หมายความว่าเมื่อรัฐบาลใช้เครื่องมือที่ไม่เป็นธรรมเช่นเครื่องมือจดจำใบหน้าที่เป็น มีแนวโน้มที่จะระบุใบหน้าสีดำผิดพลาด – ผลที่ตามมาสำหรับพลเมืองอาจรุนแรง ประเด็นเรื่องความเป็นธรรมของอัลกอริทึมมีความสำคัญต่ออนาคตของการบริการสาธารณะ
ดังนั้นจึงเป็นเรื่องที่เกี่ยวกับความคลาดเคลื่อนระหว่างข้อมูลที่รัฐบาลมีจากพลเมืองที่ยากจนกว่าเมื่อเทียบกับข้อมูลที่ร่ำรวยกว่า ส่งผลต่อความเป็นธรรมของการวิเคราะห์เชิงคาดการณ์ อคตินี้สามารถเกิดขึ้นได้สองวิธี ประการแรก เครื่องมือที่ได้รับการฝึกฝนเกี่ยวกับข้อมูลในอดีตที่สื่อถึงคนยากจนมากเกินไปมักจะทำให้การคาดคะเนที่เบ้ ในหนังสือของเธอเกี่ยวกับอนาคตของ AI ในสังคม นักคณิตศาสตร์Hannah Fry เน้นว่าอัลกอริธึมที่พัฒนาขึ้นสำหรับการรักษาแบบคาดการณ์ล่วงหน้าสามารถสิ้นสุดการกำหนดเป้าหมายเฉพาะพื้นที่ในวงจรเสริมกำลังตัวเองได้อย่างไร หากย่านใกล้เคียงบางแห่ง (มักยากจนและมักเป็น BME ส่วนใหญ่) ถูกระบุว่ามีความเสี่ยงสูงที่จะเกิดอาชญากรรม เนื่องจากมีข้อมูลในอดีตเกี่ยวกับอาชญากรรมที่ก่ออาชญากรรมมากเกินไป (ไม่ว่าจะเกิดจากความเสี่ยงในการก่ออาชญากรรมที่เพิ่มขึ้นอย่างแท้จริง คนผิวสีหรือทั้งสองอย่างรวมกัน) จากนั้นตำรวจจะส่งเจ้าหน้าที่เพิ่มไปยังพื้นที่เหล่านี้ การปรากฏตัวของตำรวจที่เพิ่มขึ้นมีแนวโน้มที่จะนำไปสู่เจ้าหน้าที่ระบุอาชญากรรมมากขึ้นในพื้นที่นั้น ซึ่งหมายความว่าความไม่เท่าเทียมกันในขั้นต้นจะยิ่งฝังแน่นยิ่งขึ้นเมื่อระบบได้รับข้อมูลใหม่ที่ทำเครื่องหมายว่าพื้นที่ใกล้เคียงเหล่านี้มีความเสี่ยงมากกว่าเดิม
ปัญหาที่สองคือ เมื่อใช้แบบจำลองการคาดการณ์ คนจนมักจะถูกตั้งค่าสถานะสำหรับปัจจัยเสี่ยงบางอย่าง หากรัฐบาลมีข้อมูลประชากรที่ยากจนกว่า ตัวอย่างเช่น ตามที่กล่าวไว้ข้างต้น รัฐบาลมีข้อมูลเกี่ยวกับประชาชนที่เข้าถึงการรักษาแบบสาธารณะสำหรับการติดยาเสพติด แต่ไม่มีข้อมูลสำหรับผู้ที่เข้าถึงการรักษาแบบส่วนตัว นี่เป็นปัญหาที่ Eubanks ยอมรับโมเดลความเสี่ยงของ Allegheny County สำหรับการล่วงละเมิดและละเลยเด็ก โดยเน้นถึงความไม่เท่าเทียมกันที่เกิดจากแบบจำลองความเสี่ยง (สิ่งที่เธอเรียกว่าการทำโปรไฟล์ความยากจน ) เธอเขียนว่า:
[NPC5]ครอบครัวชนชั้นกลางมืออาชีพติดต่อขอความช่วยเหลือตลอดเวลา: แก่นักบำบัด การบำบัดด้วยยาและแอลกอฮอล์ส่วนตัว พี่เลี้ยง พี่เลี้ยงเด็ก โปรแกรมหลังเลิกเรียน ค่ายฤดูร้อน ผู้สอน และแพทย์ประจำครอบครัว แต่เนื่องจากเป็นทุนส่วนตัวทั้งหมด จึงไม่มีคำขอใดสิ้นสุดในคลังข้อมูลของ Allegheny County ความเต็มใจเช่นเดียวกันที่จะยื่นมือขอการสนับสนุนจากครอบครัวที่ยากจนและชนชั้นแรงงาน เพราะพวกเขากำลังขอทรัพยากรสาธารณะ ติดป้ายกำกับให้บุตรหลานของตนอยู่ใน [แบบจำลองการทำนาย]