ซื้อกลับบ้านที่สำคัญ
- AI และอัลกอริธึมการเรียนรู้ของเครื่องกำลังเฝ้าดูพฤติกรรมของมนุษย์และสามารถเรียนรู้ที่จะจัดการกับมันได้ ผู้เชี่ยวชาญกล่าว
- นักวิจัยเพิ่งสร้างวิธีการค้นหาและใช้ประโยชน์จากช่องโหว่ในวิธีที่ผู้คนตัดสินใจโดยใช้ AI
- อัลกอริธึมโซเชียลมีเดียที่ซับซ้อนที่สุดในตอนนี้คือ TikTok ผู้สังเกตการณ์คนหนึ่งกล่าว
ปัญญาประดิษฐ์ (AI) และอัลกอริธึมการเรียนรู้ของเครื่องกำลังเรียนรู้วิธีโน้มน้าวพฤติกรรมของผู้ใช้มากขึ้นเรื่อยๆ ผู้เชี่ยวชาญกล่าว
นักวิจัยจากหน่วยงานวิทยาศาสตร์แห่งชาติของออสเตรเลียเพิ่งสร้างวิธีการค้นหาและใช้ประโยชน์จากช่องโหว่ในวิธีที่ผู้คนตัดสินใจเลือกโดยใช้ AI การวิจัยล่าสุดเป็นเพียงหนึ่งในคลื่นของระบบที่ขับเคลื่อนด้วย AI ที่ออกแบบมาเพื่อจัดการกับการตัดสินใจของมนุษย์
"ไม่มีจุดสิ้นสุดในหลาย ๆ ด้านที่ AI มีอิทธิพลต่อพฤติกรรมอยู่แล้ว" เคนทาโร่ โทยามะ ศาสตราจารย์แห่งโรงเรียนสารสนเทศแห่งมหาวิทยาลัยมิชิแกน และผู้แต่ง Geek Heresy: การช่วยเหลือการเปลี่ยนแปลงทางสังคมจากลัทธิเทคโนโลยี กล่าวในการสัมภาษณ์ทางอีเมล
"อันที่จริงแล้ว หากคุณเคยค้นหาใน Google และติดตามผลจากลิงก์ คุณจะได้รับผลกระทบจากระบบ AI ที่คาดเดาความสนใจของคุณและให้ผลลัพธ์ที่คิดว่าเกี่ยวข้องกับคุณมากที่สุด"
AI vs. มนุษย์
ในงานวิจัยของออสเตรเลียที่ตีพิมพ์ในรายงานฉบับล่าสุด ผู้เข้าร่วมที่เป็นมนุษย์เล่นเกมกับคอมพิวเตอร์ในการทดลองต่างๆ การทดลองแรกให้ผู้เข้าร่วมคลิกที่กล่องสีแดงหรือสีน้ำเงินเพื่อรับเงิน
AI ประสบความสำเร็จประมาณ 70% ของเวลาทั้งหมด โดยเรียนรู้รูปแบบการเลือกของผู้เข้าร่วมและนำทางพวกเขาไปสู่ตัวเลือกเฉพาะ
ในการทดลองอื่น ผู้เข้าร่วมดูหน้าจอและกดปุ่มเมื่อเห็นสัญลักษณ์เฉพาะ หรือไม่ได้กดเมื่อเสนออย่างอื่น AI เรียนรู้ที่จะจัดเรียงสัญลักษณ์ใหม่ ดังนั้นผู้เข้าร่วมจึงทำผิดพลาดมากขึ้น
ผลการทดลอง นักวิจัยสรุปได้ว่า AI ได้เรียนรู้จากการตอบสนองของผู้เข้าร่วม จากนั้นเครื่องจะระบุและกำหนดเป้าหมายช่องโหว่ในการตัดสินใจของผู้คน ผลก็คือ AI สามารถชักใยให้ผู้เข้าร่วมดำเนินการบางอย่างได้
ความจริงที่ว่า AI หรือแมชชีนเลิร์นนิงสามารถจัดการคนได้ ไม่ควรแปลกใจเลยที่ผู้สังเกตการณ์กล่าว
"AI มีอิทธิพลต่อพฤติกรรมของเราทุกวัน" Tamara Schwartz ผู้ช่วยศาสตราจารย์ด้านความปลอดภัยในโลกไซเบอร์และการบริหารธุรกิจที่ York College of Pennsylvania กล่าวในการสัมภาษณ์ทางอีเมล
"เราได้ยินตลอดเวลาเกี่ยวกับอัลกอริทึมในแอปพลิเคชันโซเชียลมีเดีย เช่น Facebook หรือ Twitter อัลกอริธึมเหล่านี้ชี้นำความสนใจของเราไปยังเนื้อหาที่เกี่ยวข้องและสร้างเอฟเฟกต์ 'echo chamber' ซึ่งจะส่งผลต่อพฤติกรรมของเรา"
TikTok กำลังดู
อัลกอริธึมโซเชียลมีเดียที่ทันสมัยที่สุดคือ TikTok Schwartz กล่าว แอพจะวิเคราะห์สิ่งที่คุณสนใจ คุณดูอะไรมานานแค่ไหน และคุณข้ามไปเร็วแค่ไหน จากนั้นจึงปรับแต่งข้อเสนอเพื่อให้คุณรับชมต่อไป
"TikTok นั้นน่าติดตามกว่าแพลตฟอร์มอื่นมากเพราะอัลกอริธึม AI นี้ ซึ่งเข้าใจสิ่งที่คุณชอบ วิธีที่คุณเรียนรู้ และวิธีที่คุณเลือกข้อมูล" เธอกล่าวเสริม "เรารู้เรื่องนี้เพราะเวลาเฉลี่ยที่ผู้ใช้ใช้บน TikTok คือ 52 นาที"
Chris Nicholson ซีอีโอของ Pathmind บริษัท AI แย้งว่าการจัดการพฤติกรรมมนุษย์ด้วยปัญญาประดิษฐ์อาจมีประโยชน์ในทางบวก ตัวอย่างเช่น หน่วยงานด้านสาธารณสุขสามารถใช้ AI เพื่อกระตุ้นให้ผู้คนตัดสินใจได้ดีขึ้น
"อย่างไรก็ตาม โซเชียลมีเดีย ผู้ผลิตวิดีโอเกม ผู้โฆษณา และระบอบเผด็จการกำลังมองหาวิธีที่จะโน้มน้าวใจให้ผู้คนตัดสินใจที่ไม่เป็นประโยชน์สูงสุด และสิ่งนี้จะทำให้พวกเขามีเครื่องมือใหม่ในการทำเช่นนั้น " เขาเสริม
ประเด็นด้านจริยธรรมเกี่ยวกับพฤติกรรมที่มีอิทธิพลต่อ AI มักเป็นเรื่องของการศึกษาระดับปริญญา Toyama กล่าว AI อนุญาตให้โฆษณาที่เน้นซึ่งความพึงใจและจุดอ่อนของแต่ละบุคคลสามารถใช้ประโยชน์ได้
"ตัวอย่างเช่น ระบบ AI จะสามารถระบุตัวผู้ที่พยายามเลิกบุหรี่และดึงพวกเขาด้วยโฆษณาบุหรี่ที่ดึงดูดใจได้" เขากล่าวเสริม
ไม่ใช่ทุกคนที่เห็นด้วยว่าการปรับพฤติกรรมมนุษย์ของ AI นั้นเป็นปัญหา จิตวิทยาคลาสสิกและ AI ต่างก็สังเกตข้อมูล Jason J. Corso ผู้อำนวยการสถาบันปัญญาประดิษฐ์ Stevens ชี้ในการสัมภาษณ์ทางอีเมล
"นักวิทยาศาสตร์มนุษย์น่าจะดีกว่าในการสรุปข้อสังเกตและทฤษฎีพฤติกรรมมนุษย์ที่อาจนำไปใช้ได้กว้างกว่า ในขณะที่แบบจำลอง AI จะคล้อยตามการระบุความแตกต่างเฉพาะปัญหามากกว่า" Corso กล่าว
"จากมุมมองด้านจริยธรรม ฉันไม่เห็นความแตกต่างระหว่างสิ่งเหล่านี้"