ซื้อกลับบ้านที่สำคัญ
- บริษัทต่าง ๆ กำลังใช้ AI ที่อธิบายว่ามันได้ผลลัพธ์อย่างไร
- LinkedIn เพิ่มรายได้จากการสมัครสมาชิกเมื่อเร็ว ๆ นี้หลังจากใช้ AI ที่คาดการณ์ลูกค้าที่เสี่ยงต่อการยกเลิกและอธิบายว่ามันมาถึงบทสรุปได้อย่างไร
- คณะกรรมาธิการการค้าแห่งสหพันธรัฐกล่าวว่า AI ที่ไม่สามารถอธิบายได้สามารถตรวจสอบได้
หนึ่งในเทรนด์ใหม่ที่ร้อนแรงที่สุดในซอฟต์แวร์อาจเป็นปัญญาประดิษฐ์ (AI) ซึ่งอธิบายวิธีการบรรลุผลสำเร็จ
AI ที่อธิบายได้นั้นได้ผลดี เนื่องจากบริษัทซอฟต์แวร์พยายามทำให้ AI เข้าใจมากขึ้น LinkedIn เพิ่งเพิ่มรายได้จากการสมัครหลังจากใช้ AI ที่คาดการณ์ลูกค้าที่เสี่ยงต่อการยกเลิกและอธิบายว่ามันมาถึงบทสรุปได้อย่างไร
"AI ที่อธิบายได้คือความสามารถในการไว้วางใจในผลลัพธ์และทำความเข้าใจว่าเครื่องไปถึงที่นั่นได้อย่างไร" Travis Nixon ซีอีโอของ SynerAI และหัวหน้า Data Science ฝ่ายบริการทางการเงินของ Microsoft กล่าวกับ Lifewire ในการสัมภาษณ์ทางอีเมล.
"'ยังไง?' เป็นคำถามที่เกิดขึ้นในระบบ AI หลายๆ ระบบ โดยเฉพาะอย่างยิ่งเมื่อมีการตัดสินใจหรือผลลัพธ์ที่ออกมาไม่สมบูรณ์แบบ” นิกสันกล่าวเสริม “ตั้งแต่การปฏิบัติต่อเผ่าพันธุ์ต่างๆ อย่างไม่เป็นธรรมไปจนถึงการเข้าใจผิดว่าหัวโล้นสำหรับฟุตบอล เราต้องรู้ว่าเหตุใดระบบ AI จึงให้ผลลัพธ์ เมื่อเราเข้าใจ 'วิธี' แล้ว ระบบจะวางตำแหน่งบริษัทและบุคคลต่างๆ ให้ตอบว่า 'อะไรต่อไป'"
ทำความรู้จักกับ AI
AI ได้รับการพิสูจน์แล้วว่าแม่นยำและคาดการณ์ได้หลายประเภท แต่ AI มักจะสามารถอธิบายได้ว่าทำไมมันถึงได้ข้อสรุป
และหน่วยงานกำกับดูแลกำลังรับทราบปัญหาการอธิบาย AI คณะกรรมาธิการการค้าแห่งสหพันธรัฐกล่าวว่า AI ที่ไม่สามารถอธิบายได้สามารถตรวจสอบได้ สหภาพยุโรปกำลังพิจารณาร่างพระราชบัญญัติปัญญาประดิษฐ์ ซึ่งรวมถึงข้อกำหนดที่ผู้ใช้สามารถตีความการคาดการณ์ของ AI
Linkedin เป็นหนึ่งในบริษัทที่คิดว่า AI ที่อธิบายได้สามารถช่วยเพิ่มผลกำไรได้ ก่อนหน้านี้ พนักงานขายของ LinkedIn อาศัยความรู้ของตนและใช้เวลามหาศาลในการกลั่นกรองข้อมูลออฟไลน์เพื่อระบุว่าบัญชีใดมีแนวโน้มที่จะทำธุรกิจต่อไปและผลิตภัณฑ์ใดที่พวกเขาอาจสนใจในระหว่างการต่ออายุสัญญาครั้งถัดไป ในการแก้ปัญหา LinkedIn ได้เริ่มโปรแกรมชื่อ CrystalCandle ที่ตรวจจับเทรนด์และช่วยเหลือพนักงานขาย
ในอีกตัวอย่างหนึ่ง Nixon กล่าวว่าระหว่างการสร้างแบบจำลองการกำหนดโควต้าสำหรับพนักงานขายของบริษัท บริษัทของเขาสามารถรวม AI ที่อธิบายได้เพื่อระบุลักษณะที่ชี้ให้เห็นถึงความสำเร็จในการจ้างพนักงานขายใหม่
"ด้วยผลลัพธ์นี้ ฝ่ายบริหารของบริษัทนี้สามารถระบุได้ว่าพนักงานขายคนใดควรอยู่ใน 'ช่องทางด่วน' และคนใดที่จำเป็นต้องมีการฝึกสอน ก่อนเกิดปัญหาใหญ่ใดๆ ขึ้น" เขากล่าวเสริม
มีประโยชน์หลายอย่างสำหรับ AI ที่อธิบายได้
AI ที่อธิบายได้กำลังถูกใช้เพื่อตรวจสอบลำไส้สำหรับนักวิทยาศาสตร์ด้านข้อมูลส่วนใหญ่ Nixon กล่าว นักวิจัยใช้แบบจำลองของพวกเขาด้วยวิธีการง่ายๆ ตรวจสอบให้แน่ใจว่าไม่มีสิ่งใดผิดปกติ จากนั้นจึงจัดส่งแบบจำลอง
ส่วนหนึ่งเป็นเพราะองค์กรด้านวิทยาศาสตร์ข้อมูลหลายแห่งได้ปรับระบบของตนให้เหมาะสมกับ 'ค่าเกินเวลา' เป็น KPI ซึ่งนำไปสู่กระบวนการที่เร่งรีบและแบบจำลองที่ไม่สมบูรณ์” Nixon กล่าวเสริม
ฉันกังวลว่าการย้อนกลับของโมเดลที่ขาดความรับผิดชอบอาจทำให้อุตสาหกรรม AI กลับมาจริงจังอีกครั้ง
ผู้คนมักไม่มั่นใจในผลลัพธ์ที่ AI ไม่สามารถอธิบายได้ Raj Gupta ประธานเจ้าหน้าที่ฝ่ายวิศวกรรมของ Cogito กล่าวในอีเมลว่าบริษัทของเขาได้สำรวจลูกค้าและพบว่าเกือบครึ่งหนึ่งของผู้บริโภค (43%) จะมีการรับรู้ในเชิงบวกมากขึ้นเกี่ยวกับบริษัทและ AI หากบริษัทต่างๆ มีความชัดเจนมากขึ้นเกี่ยวกับการใช้งาน ของเทคโนโลยี
และไม่ใช่แค่ข้อมูลทางการเงินที่ได้รับความช่วยเหลือจาก AI ที่อธิบายได้ ด้านหนึ่งที่ได้รับประโยชน์จากแนวทางใหม่คือข้อมูลรูปภาพ ซึ่งง่ายต่อการระบุว่าส่วนใดของภาพที่อัลกอริทึมคิดว่าจำเป็น และที่ที่มนุษย์จะรู้ว่าข้อมูลนั้นสมเหตุสมผลได้ง่ายหรือไม่ Samantha Kleinberg รองศาสตราจารย์ของ Stevens สถาบันเทคโนโลยีและผู้เชี่ยวชาญด้าน AI ที่อธิบายได้ บอกกับ Lifewire ทางอีเมล
"การตรวจวัด EKG หรือข้อมูลการตรวจระดับน้ำตาลอย่างต่อเนื่องนั้นยากกว่ามาก" Kleinberg กล่าวเสริม
Nixon คาดการณ์ว่า AI ที่อธิบายได้จะเป็นพื้นฐานของทุกระบบ AI ในอนาคต และหากไม่มี AI ที่อธิบายได้ ผลลัพธ์ก็อาจเลวร้ายได้ เขากล่าว
"ฉันหวังว่าเราจะก้าวหน้าในหน้านี้มากพอที่จะอธิบาย AI ได้ในปีต่อ ๆ ไป และเมื่อมองย้อนกลับไป ณ เวลานั้นวันนี้ก็แปลกใจที่ใครๆ ก็บ้าพอที่จะปรับใช้โมเดลที่พวกเขาไม่เข้าใจ, " เขาเพิ่ม."ถ้าเราไม่พบกับอนาคตในลักษณะนี้ ฉันกังวลว่าการย้อนกลับจากโมเดลที่ขาดความรับผิดชอบอาจทำให้อุตสาหกรรม AI กลับมาในทางที่จริงจัง"