ซื้อกลับบ้านที่สำคัญ
- การวิจัยใหม่เผยผู้คนไม่สามารถแยกภาพที่สร้างโดย AI ออกจากภาพจริงได้
- ผู้เข้าร่วมให้คะแนนรูปภาพที่สร้างโดย AI ว่าน่าเชื่อถือมากขึ้น
- ผู้เชี่ยวชาญเชื่อว่าผู้คนควรหยุดเชื่อถือสิ่งที่พวกเขาเห็นบนอินเทอร์เน็ต
สุภาษิต 'การเห็นคือการเชื่อ' ไม่เกี่ยวข้องกับอินเทอร์เน็ตอีกต่อไป และผู้เชี่ยวชาญกล่าวว่ามันจะไม่ดีขึ้นในเร็วๆ นี้
การศึกษาเมื่อเร็วๆ นี้พบว่ารูปภาพของใบหน้าที่สร้างโดยปัญญาประดิษฐ์ (AI) ไม่เพียงแต่ให้ภาพที่เหมือนจริงมากเท่านั้น แต่ยังดูมีคุณธรรมมากกว่าใบหน้าจริงอีกด้วย
"การประเมินความเหมือนจริงของแสงของใบหน้าที่สังเคราะห์ด้วย AI บ่งชี้ว่าเครื่องมือสังเคราะห์ได้ผ่านหุบเขาลึกลับ และสามารถสร้างใบหน้าที่แยกไม่ออกและน่าเชื่อถือกว่าใบหน้าจริง" นักวิจัยตั้งข้อสังเกต
ไม่มีคนนั้น
นักวิจัย ดร. โซฟี ไนติงเกลจากมหาวิทยาลัยแลงคาสเตอร์และศาสตราจารย์ฮานี ฟาริดจากมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ ได้ทำการทดลองหลังจากยอมรับการคุกคามที่เผยแพร่อย่างดีของของปลอม ตั้งแต่การฉ้อโกงออนไลน์ทุกประเภทไปจนถึงการทำให้กระปรี้กระเปร่า แคมเปญบิดเบือนข้อมูล
"บางทีสิ่งที่อันตรายที่สุดคือผลที่ตามมาในโลกดิจิทัลที่ภาพหรือวิดีโอใด ๆ สามารถปลอมแปลงได้ ความถูกต้องของการบันทึกที่ไม่สะดวกหรือไม่เป็นที่พอใจสามารถถูกตั้งคำถามได้" นักวิจัยโต้แย้ง
พวกเขาโต้เถียงว่าในขณะที่มีความคืบหน้าในการพัฒนาเทคนิคอัตโนมัติในการตรวจจับเนื้อหาปลอมที่ลึกล้ำ เทคนิคปัจจุบันไม่มีประสิทธิภาพและแม่นยำเพียงพอที่จะติดตามกระแสเนื้อหาใหม่ที่อัปโหลดทางออนไลน์อย่างต่อเนื่องซึ่งหมายความว่าขึ้นอยู่กับผู้บริโภคของเนื้อหาออนไลน์ที่จะแยกแยะของจริงออกจากของปลอม ทั้งคู่แนะนำ
Jelle Wieringa ผู้สนับสนุนการรับรู้ด้านความปลอดภัยที่ KnowBe4 เห็นด้วย เขาบอกกับ Lifewire ทางอีเมลว่าการต่อสู้กับการปลอมแปลงที่เกิดขึ้นจริงเป็นเรื่องยากมากหากไม่มีเทคโนโลยีเฉพาะทาง "[เทคโนโลยีบรรเทาผลกระทบ] อาจมีราคาแพงและยากที่จะนำไปใช้ในกระบวนการแบบเรียลไทม์ ซึ่งมักจะตรวจพบ Deepfake หลังจากข้อเท็จจริงเท่านั้น"
ด้วยสมมติฐานนี้ นักวิจัยได้ทำการทดลองหลายชุดเพื่อพิจารณาว่ามนุษย์สามารถแยกแยะใบหน้าที่สังเคราะห์ที่ล้ำสมัยจากใบหน้าจริงได้หรือไม่ ในการทดสอบ พวกเขาพบว่าแม้จะฝึกเพื่อช่วยให้จดจำของปลอม แต่อัตราความแม่นยำก็ดีขึ้นเพียง 59% เพิ่มขึ้นจาก 48% โดยไม่ต้องฝึก
สิ่งนี้ทำให้นักวิจัยทดสอบว่าการรับรู้ถึงความน่าเชื่อถือสามารถช่วยให้ผู้คนระบุภาพเทียมได้หรือไม่ ในการศึกษาครั้งที่สาม พวกเขาขอให้ผู้เข้าร่วมให้คะแนนความน่าเชื่อถือของใบหน้า แต่พบว่าคะแนนเฉลี่ยสำหรับใบหน้าสังเคราะห์คือ 7ความน่าเชื่อถือมากกว่าคะแนนเฉลี่ยของใบหน้าจริง 7% ตัวเลขอาจฟังดูไม่มาก แต่นักวิจัยอ้างว่ามีนัยสำคัญทางสถิติ
ของปลอมที่ล้ำลึก
การปลอมแปลงอย่างลึกซึ้งเป็นปัญหาหลักอยู่แล้ว และตอนนี้การศึกษานี้ทำให้น่านน้ำกลายเป็นโคลนมากขึ้น ซึ่งแสดงให้เห็นว่าภาพปลอมคุณภาพสูงดังกล่าวสามารถเพิ่มมิติใหม่ให้กับการหลอกลวงออนไลน์ได้ เช่น การช่วยสร้างเพิ่มเติม โปรไฟล์ปลอมออนไลน์ที่น่าเชื่อ
"สิ่งหนึ่งที่ขับเคลื่อนการรักษาความปลอดภัยในโลกไซเบอร์คือความไว้วางใจที่ผู้คนมีในเทคโนโลยี กระบวนการ และบุคคลที่พยายามทำให้พวกเขาปลอดภัย " Wieringa กล่าว "ของปลอมโดยเฉพาะอย่างยิ่งเมื่อกลายเป็นภาพเหมือนจริง บ่อนทำลายความไว้วางใจนี้ ดังนั้น การยอมรับและการยอมรับความปลอดภัยในโลกไซเบอร์ อาจทำให้ผู้คนไม่ไว้วางใจในสิ่งที่พวกเขารับรู้"
Chris Hauk แชมป์ด้านความเป็นส่วนตัวของผู้บริโภคที่ Pixel Privacy ตกลง ในการแลกเปลี่ยนอีเมลสั้นๆ เขาบอกกับ Lifewire ว่าการปลอมแปลงภาพถ่ายเสมือนจริงอาจทำให้เกิด "ความหายนะ" ทางออนไลน์ได้ โดยเฉพาะอย่างยิ่งในยุคนี้ที่บัญชีทุกประเภทสามารถเข้าถึงได้โดยใช้เทคโนโลยี photo ID
การดำเนินการแก้ไข
โชคดีที่ Greg Kuhn ผู้อำนวยการ IoT ของ Prosegur Security กล่าวว่ามีกระบวนการที่สามารถหลีกเลี่ยงการรับรองความถูกต้องที่เป็นการฉ้อโกงได้ เขาบอกกับ Lifewire ทางอีเมลว่าระบบข้อมูลประจำตัวที่ใช้ AI ตรงกับบุคคลที่ได้รับการยืนยันกับรายชื่อ แต่หลายคนมีระบบป้องกันในตัวเพื่อตรวจสอบ "ความมีชีวิตชีวา"
"ระบบประเภทนี้อาจต้องการและแนะนำให้ผู้ใช้ดำเนินการบางอย่าง เช่น ยิ้มหรือหันศีรษะไปทางซ้ายแล้วไปทางขวา สิ่งเหล่านี้เป็นสิ่งที่ใบหน้าที่สร้างแบบสแตติกไม่สามารถทำได้ " แชร์ Kuhn
นักวิจัยได้เสนอแนวทางในการควบคุมการสร้างและเผยแพร่เพื่อปกป้องสาธารณชนจากภาพสังเคราะห์ สำหรับผู้เริ่มต้น พวกเขาแนะนำให้รวมลายน้ำที่ฝังลึกเข้าไปในเครือข่ายการสังเคราะห์ภาพและวิดีโอด้วยตัวมันเอง เพื่อให้แน่ใจว่าสื่อสังเคราะห์ทั้งหมดสามารถระบุได้อย่างน่าเชื่อถือ
ก่อนหน้านั้น Paul Bischoff ผู้สนับสนุนด้านความเป็นส่วนตัวและบรรณาธิการฝ่ายวิจัยของ infosec ที่ Comparitech กล่าวว่าผู้คนต่างก็อยู่คนเดียว"ผู้คนจะต้องเรียนรู้ที่จะไม่เชื่อถือใบหน้าทางออนไลน์ เช่นเดียวกับที่เราทุกคน (หวังว่า) เรียนรู้ที่จะไม่เชื่อถือชื่อที่แสดงในอีเมลของเรา" Bischoff บอกกับ Lifewire ทางอีเมล