AI-Run World ต้องการสะท้อนผู้คนในสีที่ดีกว่า


ตลาด AI คาดว่าจะเติบโตสูงถึงกว่า $ 100 พันล้านภายในปี 2568 เราเป็นเพียงระยะทางสั้น ๆ ห่างจากชีวิตที่ขับเคลื่อนด้วยเสียง แต่สำหรับกลุ่มประชากรที่เติบโตอย่างรวดเร็วนั้น AI สามารถกระตุ้นได้มากกว่านวัตกรรม ข้อมูลส่วนใหญ่ที่ใช้ในการฝึกอบรมอัลกอริทึมการเรียนรู้ของเครื่องจักรซึ่งขับเคลื่อนการเคลื่อนไหวของ AI ไม่ได้คำนึงถึงเชื้อชาติหรือเชื้อชาติ สำหรับบุคคลทั่วไปหรือบางคนที่ถูกตัดการเชื่อมต่อจากคนที่มีสีจำนวนมากในแต่ละวันสิ่งนี้อาจดูไม่สำคัญหรือแม้แต่การแข่งขัน ท้ายที่สุดอัลกอริทึมไม่จำเป็นต้องเข้าใจเชื้อชาติของผู้ใช้เพื่อให้คำแนะนำและสมมติฐานที่ถูกต้อง นั่นคือความงามของเทคโนโลยีใช่มั้ย อย่างไรก็ตามยิ่งเรามีชีวิตอยู่ด้วย AI มากเท่าไรก็ยิ่งมีอคติมากขึ้นซึ่งบางส่วนอาจส่งผลให้มีชีวิตหรือความตาย ก่อนที่ AI จะทำให้ความไม่เท่าเทียมเลวร้ายไปทั่วสังคมเราต้องรวมและปกป้องข้อมูลส่วนน้อยในปัจจุบัน

ความคิดเห็นที่มีสาย

เกี่ยวกับ

แองเจล่าเบนตัน (@ABenton) เป็นผู้ก่อตั้งและซีอีโอของ Streamlytics ซึ่งใช้วิทยาศาสตร์ข้อมูลเพื่อวัดสิ่งที่ผู้คนกำลังดูและฟังในแพลตฟอร์มสตรีมมิ่ง ก่อนหน้านี้เธอได้ก่อตั้ง NewME ซึ่งเป็นตัวเร่งความเร็วครั้งแรกสำหรับผู้ก่อตั้งชนกลุ่มน้อย

ข้อผิดพลาดจากข้อมูลการฝึกอบรม AI ที่ไม่สมบูรณ์ส่งผลกระทบต่อผู้คนในสีแล้ว สำหรับซอฟท์แวร์จดจำใบหน้าคนหนึ่งมีประวัติของคนผิวดำที่เข้าใจผิด (การเปิดเผยข้อมูล: ฉันเป็นนักลงทุนใน บริษัท ที่จดจำใบหน้าซึ่งไม่ได้ขายข้อมูลให้กับหน่วยงานทางการ) เมื่อปีที่แล้ว ACLU ได้ทำการทดสอบด้วยซอฟต์แวร์ Rekognition ของ Amazon ซึ่งมีการจับคู่ headshots กับฐานข้อมูลของ mugshot สี่สิบเปอร์เซ็นต์ของคนเหล่านั้นถูกระบุว่าเป็นคนมีสี แต่พวกเขามีเพียง 20 เปอร์เซ็นต์ของสภาคองเกรส ยังคงมีการใช้งาน Rekognition ภายในแผนกตำรวจบางแห่ง อเมซอนได้ร่วมมือกับกองกำลังตำรวจกว่า 400 แห่งทั่วประเทศซึ่งจะใช้ผลิตภัณฑ์ออดกล้องออดของอเมซอน (ซึ่งยังมีซอฟต์แวร์จดจำใบหน้ายังอยู่ในระหว่างการพัฒนา) เพื่อจัดทำ“ การเฝ้าระวังพื้นที่ใกล้เคียง” แบบใหม่ที่มีรูปแบบใหม่ ระบบดังที่ค้นพบ ProPublica ปี 2559 ซอฟต์แวร์ที่ใช้ระบุภัยคุกคามทางอาญาที่มีความรุนแรงในอนาคตได้ใช้อัลกอริทึมที่ถูกต้องเพียง 20 เปอร์เซ็นต์เท่านั้น โดยเฉพาะอย่างยิ่งจำเลยที่เป็นสีดำได้รับการยอมรับว่ามีความเสี่ยงสูงกว่าร้อยละ 77 ในการก่ออาชญากรรมในอนาคตกว่าการพิสูจน์ความเป็นจริง

การดูแลสุขภาพซึ่งใช้อัลกอริทึมมากขึ้นเพื่อตรวจสอบการวินิจฉัยและการรักษาก็เป็นปัญหาเช่นกัน เกือบ 40% ของคนอเมริกันระบุว่าไม่ใช่คนผิวขาว แต่ 80 ถึง 90 เปอร์เซ็นต์ของผู้เข้าร่วมในการทดลองทางคลินิกส่วนใหญ่เป็นสีขาว นี่อาจเป็นปัญหาใหญ่สำหรับโรคที่ทำให้ชุมชนชนกลุ่มน้อยไม่สมส่วนเช่นโรคเบาหวานหรือโรคหัวใจและโรคระบบทางเดินหายใจ ในปี 2558 มีเพียง 1.9 เปอร์เซ็นต์ของการศึกษาโรคทางเดินหายใจรวมถึงชนกลุ่มน้อย ในขณะที่ฉันกำลังจะผ่านการรักษามะเร็งเต้านมขั้นตอนและวิธีการรักษาที่แพทย์แนะนำของฉันนั้นมาจากการศึกษาที่มีผู้ป่วยหญิงผิวขาวเป็นส่วนใหญ่ มันก็ยากมากสำหรับฉันที่จะได้รับการอ้างอิงสำหรับการตรวจด้วยแมมโมแกรมเมื่อฉันได้รับการวินิจฉัยที่ 34 แม้ว่าผู้หญิงผิวดำมักจะได้รับการวินิจฉัยว่าเป็นมะเร็งเต้านมที่อายุน้อยกว่าผู้หญิงผิวขาวอายุที่แนะนำให้รับแมมโมแกรมนั้นคือ 40 ข้อมูลที่รวมหญิงผิวขาวอย่างไม่เป็นสัดส่วน Dr. Joy Buolamwini นักวิทยาศาสตร์คอมพิวเตอร์ของ MIT และให้การสนับสนุนด้านเทคโนโลยีที่มีจริยธรรมและครอบคลุมกล่าวว่า "สายตาที่ถูกเข้ารหัส" นี้เป็น "ภาพสะท้อนของลำดับความสำคัญความชอบและบางครั้งก็เป็นอคติของผู้ที่มีอำนาจในการกำหนดรูปแบบเทคโนโลยี"

ในขณะเดียวกันข้อมูลพลัดถิ่นสีดำและสีน้ำตาลนั้นทวีคูณอย่างรวดเร็ว ในสหรัฐอเมริกาคนที่มีสีผิวถูกคาดการณ์ว่ามีจำนวนมากกว่าคนผิวขาวที่ไม่ใช่ชาวสเปนภายในปี 2045 ประมาณ 50 เปอร์เซ็นต์ของการเติบโตของประชากรโลกในขณะนี้ถึงปี 2050 คาดว่ามาจากแอฟริกา จากข้อมูลของ Pew Research Center พบว่าสัดส่วนของคนผิวดำและชาวฮิสแปนิกส่วนใหญ่ใช้ Instagram, Twitter, WhatsApp, Snapchat และ YouTube มากกว่าคนผิวขาว Facebook เป็นเจ้าของแพลตฟอร์มโซเชียลมีเดียที่ใช้มากที่สุดสามอันดับแรกจากหกคน นั่นเป็นพลังที่เหลือเชื่อ จับคู่กับอัตราการเติบโตทางธุรกิจต่อปีที่ประมาณ 37 เปอร์เซ็นต์ของการเจาะ AI เข้าสู่ธุรกิจและความลำเอียงทางเชื้อชาติจะกลายเป็นความท้าทายที่น่ากลัวยิ่งกว่าในมือของเครื่องจักรของเรา