ซื้อกลับบ้านที่สำคัญ
- ซอฟต์แวร์ที่ใช้ปัญญาประดิษฐ์เพื่อสร้างโปรไฟล์ผู้คนกำลังสร้างความกังวลเรื่องความเป็นส่วนตัว
- Cryfe ผสมผสานเทคนิคการวิเคราะห์พฤติกรรมเข้ากับปัญญาประดิษฐ์
- บริษัทจีนอาลีบาบาเพิ่งเผชิญกับการวิพากษ์วิจารณ์หลังจากมีรายงานว่าซอฟต์แวร์ของตนสามารถตรวจจับชาวอุยกูร์และชนกลุ่มน้อยอื่น ๆ ได้
ซอฟต์แวร์ใหม่ที่ขับเคลื่อนโดยปัญญาประดิษฐ์ที่มีไว้สำหรับนายจ้างเพื่อโปรไฟล์พนักงานของพวกเขากำลังทำให้เกิดความกังวลเรื่องความเป็นส่วนตัว
แพลตฟอร์มซอฟต์แวร์ใหม่ที่เรียกว่า Cryfe ผสมผสานเทคนิคการวิเคราะห์พฤติกรรมเข้ากับปัญญาประดิษฐ์ นักพัฒนาซอฟต์แวร์อ้างว่าการวิเคราะห์เบาะแสเพียงเล็กน้อย ซอฟต์แวร์สามารถเปิดเผยความตั้งใจของผู้คนในระหว่างการสัมภาษณ์ได้ แต่ผู้สังเกตการณ์บางคนกล่าวว่า Cryfe และซอฟต์แวร์ประเภทอื่นๆ ที่วิเคราะห์พฤติกรรมสามารถบุกรุกความเป็นส่วนตัวได้
"บริษัทต่างๆ ต่างพึ่งพา AI มากขึ้นในการสร้างโปรไฟล์" Vaclav Vincale ผู้เชี่ยวชาญด้าน AI กล่าวในการสัมภาษณ์ทางอีเมล "แต่แม้แต่คนที่เขียนโค้ดอัลกอริธึมเหล่านี้ ซึ่งน้อยกว่าเจ้าหน้าที่สนับสนุนลูกค้าที่คุณติดต่อทางโทรศัพท์ ก็ไม่สามารถบอกคุณได้ว่าทำไมพวกเขาถึงเสนอคำแนะนำใดๆ"
มากกว่าคำพูด
Cryfe ได้รับการพัฒนาโดยบริษัทสวิสซึ่งพนักงานได้รับการฝึกอบรมจาก FBI ในด้านเทคนิคการทำโปรไฟล์ "ในการสื่อสารระหว่างบุคคลทั้งหมด Cryfe ไม่เพียงแต่ฟังคำพูด แต่ยังระบุสัญญาณอื่นๆ ที่มนุษย์ปล่อยออกมา เช่น อารมณ์ การแสดงออกเล็กๆ และท่าทางทั้งหมด" Caroline Matteucci ผู้ก่อตั้ง Cryfe กล่าวในการสัมภาษณ์ทางอีเมล
"ตัวอย่างเช่น ในระหว่างการรับสมัคร ทำให้เราได้ค้นหาบุคลิกที่แท้จริงของคู่สนทนาของเรา"
Matteucci กล่าวว่าความเป็นส่วนตัวของผู้ใช้ได้รับการคุ้มครองเนื่องจากบริษัทมีความโปร่งใสเกี่ยวกับวิธีการทำงานของซอฟต์แวร์ "ผู้ใช้ก่อนที่จะสามารถใช้แพลตฟอร์มได้ต้องยอมรับเงื่อนไขทั่วไป" เธอกล่าว
"มีการระบุไว้ว่าผู้ใช้ไม่อาจส่งบทสัมภาษณ์เพื่อการวิเคราะห์โดยไม่ได้รับความยินยอมเป็นลายลักษณ์อักษรจากคู่สนทนาไม่ว่าในกรณีใด"
Cryfe ไม่ใช่ซอฟต์แวร์ที่ขับเคลื่อนโดย AI เพียงตัวเดียวที่มีจุดประสงค์เพื่อวิเคราะห์พฤติกรรมของมนุษย์ นอกจากนี้ยังมี Humantic ซึ่งอ้างว่าวิเคราะห์พฤติกรรมผู้บริโภค "เทคโนโลยีทำลายเส้นทางของ Humantic ทำนายพฤติกรรมของทุกคนโดยที่พวกเขาไม่จำเป็นต้องทำการทดสอบบุคลิกภาพ" ตามเว็บไซต์ของบริษัท
บริษัทอ้างว่าใช้ AI เพื่อสร้างโปรไฟล์ทางจิตวิทยาของผู้สมัครตามคำที่พวกเขาใช้ในประวัติย่อ จดหมายปะหน้า โปรไฟล์ LinkedIn และข้อความอื่นๆ ที่พวกเขาส่งมา
ซอฟต์แวร์ด้านพฤติกรรมต้องเผชิญกับความท้าทายทางกฎหมายในอดีต ในปี 2019 Bloomberg Law รายงานว่า Equal Employment Opportunity Commission (EEOC) ได้พิจารณาคดีที่ถูกกล่าวหาว่ามีการเลือกปฏิบัติที่ไม่ชอบด้วยกฎหมายอันเนื่องมาจากการตัดสินใจที่เกี่ยวข้องกับ HR ซึ่งใช้อัลกอริธึม
"ทั้งหมดนี้จะต้องได้รับการฝึกฝนเพราะอนาคตของการรับสมัครคือ AI" ทนายความ Bradford Newman กล่าวกับ Bloomberg
ผู้สังเกตการณ์บางคนมีปัญหากับบริษัทที่ใช้ซอฟต์แวร์ติดตามพฤติกรรมเพราะมันไม่ถูกต้องเพียงพอ ในการให้สัมภาษณ์ Nigel Duffy ผู้นำด้านปัญญาประดิษฐ์ระดับโลกของบริษัทบริการระดับมืออาชีพ EY บอกกับ InformationWeek ว่าเขามีปัญหากับซอฟต์แวร์ที่ใช้แบบทดสอบโซเชียลมีเดียและส่งผลต่อการตรวจจับ
"ฉันคิดว่ามีวรรณกรรมที่น่าสนใจจริงๆ เกี่ยวกับศักยภาพในการตรวจจับผลกระทบ แต่ความเข้าใจของฉันคือวิธีดำเนินการบ่อยครั้งนั้นค่อนข้างไร้เดียงสา" เขากล่าว
"ผู้คนกำลังสรุปว่าวิทยาศาสตร์ไม่สนับสนุนจริงๆ [เช่น] การตัดสินใจว่าใครเป็นพนักงานที่ดีเพราะพวกเขายิ้มมากหรือตัดสินใจว่าใครบางคนชอบผลิตภัณฑ์ของคุณเพราะพวกเขายิ้มมาก."
รายงานบริษัทจีนโปรไฟล์ชนกลุ่มน้อย
การติดตามพฤติกรรมอาจมีจุดประสงค์ที่เลวร้ายมากขึ้นเช่นกัน กลุ่มสิทธิมนุษยชนบางกลุ่มกล่าว ในประเทศจีน อาลีบาบายักษ์ใหญ่ในตลาดออนไลน์ได้สร้างความตื่นตระหนกหลังจากมีรายงานว่าซอฟต์แวร์ของตนสามารถตรวจจับชาวอุยกูร์และชนกลุ่มน้อยอื่น ๆ ได้
The New York Times รายงานว่าธุรกิจคลาวด์คอมพิวติ้งของบริษัทมีซอฟต์แวร์ที่จะสแกนรูปภาพและวิดีโอ
แต่แม้แต่คนที่เขียนโค้ดอัลกอริธึมเหล่านี้…ก็ไม่สามารถบอกคุณได้ว่าทำไมพวกเขาถึงเสนอคำแนะนำใดๆ
วอชิงตันโพสต์ยังรายงานเมื่อเร็วๆ นี้ว่า Huawei ซึ่งเป็นบริษัทเทคโนโลยีของจีนอีกบริษัทหนึ่ง ได้ทดสอบซอฟต์แวร์ที่สามารถเตือนผู้บังคับใช้กฎหมายเมื่อกล้องวงจรปิดตรวจพบใบหน้าอุยกูร์
การยื่นขอสิทธิบัตรปี 2018 โดย Huawei รายงานว่า "การระบุลักษณะทางเท้ามีความสำคัญมาก" ในเทคโนโลยีจดจำใบหน้า"คุณลักษณะของวัตถุเป้าหมายอาจเป็นเพศ (ชาย หญิง) อายุ (เช่น วัยรุ่น วัยกลางคน เก่า) [หรือ] เชื้อชาติ (ฮั่น, อุยกูร์)" แอปพลิเคชันกล่าว
โฆษกของ Huawei บอกกับ CNN Business ว่าฟีเจอร์การระบุชาติพันธุ์ควร "ไม่เคยเป็นส่วนหนึ่งของแอปพลิเคชันนี้เลย"
การใช้ปัญญาประดิษฐ์ที่เพิ่มมากขึ้นในการจัดเรียงข้อมูลจำนวนมหาศาลทำให้เกิดความกังวลเรื่องความเป็นส่วนตัว คุณอาจไม่มีทางรู้ว่าใครหรืออะไรกำลังวิเคราะห์คุณในครั้งต่อไปที่คุณไปสัมภาษณ์งาน