ซื้อกลับบ้านที่สำคัญ
- ระบบ AI ที่เรียกว่า DALL-E2 ดูเหมือนจะสร้างระบบการสื่อสารที่เป็นลายลักษณ์อักษรของตัวเอง
- ผู้เชี่ยวชาญบางคนบอกว่าภาษาที่พูดออกมาอาจจะแค่พูดพล่อยๆ
- เป็นตัวอย่างของความยากในการตีความผลลัพธ์ของระบบ AI ขั้นสูง
ดูเหมือนว่าปัญญาประดิษฐ์ (AI) ได้พัฒนาภาษาของตัวเองแล้ว แต่ผู้เชี่ยวชาญบางคนไม่เชื่อคำกล่าวอ้างนี้
ระบบ AI แปลงข้อความเป็นรูปภาพของ OpenAI ที่ชื่อ DALL-E2 ดูเหมือนจะสร้างระบบการสื่อสารที่เป็นลายลักษณ์อักษรขึ้นมาเอง เป็นตัวอย่างของการตีความผลลัพธ์ของระบบ AI ขั้นสูงว่ายากเพียงใด
"เนื่องจากขนาดและความลึกของโมเดลขนาดใหญ่ จึงเป็นเรื่องยากมากที่จะอธิบายพฤติกรรมของโมเดล" Teresa O'Neill ผู้อำนวยการสถาปัตยกรรมโซลูชันเพื่อความเข้าใจภาษาธรรมชาติที่ iMerit กล่าวกับ Lifewire ในการสัมภาษณ์ทางอีเมล "นี่เป็นหนึ่งในความท้าทายหลัก และในบางกรณี ปัญหาด้านจริยธรรมกับโมเดลที่มีอำนาจมากขึ้นเรื่อยๆ หากเราไม่สามารถอธิบายได้ว่าทำไมพวกเขาถึงประพฤติตัวเหมือนอย่างที่เป็นอยู่ เราสามารถคาดการณ์พฤติกรรมของพวกเขาหรือรักษาให้สอดคล้องกับบรรทัดฐานและความคาดหวังของเราได้หรือไม่"
แชท AI
นักศึกษาวิทยาศาสตร์คอมพิวเตอร์ Giannis Daras เพิ่งสังเกตว่าระบบ DALLE-2 ซึ่งสร้างภาพตามการป้อนข้อความ จะส่งคืนคำที่ไร้สาระเป็นข้อความในบางกรณี
"ข้อจำกัดที่ทราบของ DALLE-2 คือมันมีปัญหากับข้อความ" เขาเขียนไว้ในกระดาษที่ตีพิมพ์บนเซิร์ฟเวอร์พิมพ์ล่วงหน้า Arxiv "ตัวอย่างเช่น ข้อความแจ้งเช่น: 'รูปภาพของคำว่าเครื่องบิน' มักจะนำไปสู่ภาพที่สร้างขึ้นซึ่งแสดงถึงข้อความที่ไม่มีความหมาย"
แต่ที่เขียนว่าดารัส อาจมีวิธีที่อยู่เบื้องหลังการพูดพล่อยๆ "เราพบว่าข้อความที่สร้างขึ้นนี้ไม่ใช่การสุ่ม แต่เผยให้เห็นคำศัพท์ที่ซ่อนอยู่ซึ่งแบบจำลองดูเหมือนว่าจะพัฒนาขึ้นภายใน" เขากล่าวต่อ "ตัวอย่างเช่น เมื่อป้อนข้อความที่ไม่มีความหมายนี้ โมเดลมักสร้างเครื่องบิน"
ในทวีตของเขา Daras ชี้ให้เห็นว่าเมื่อ DALLE-2 ถูกขอให้บรรยายการสนทนาระหว่างเกษตรกรสองคน มันแสดงให้เห็นว่าพวกเขาคุยกัน แต่กรอบคำพูดเต็มไปด้วยสิ่งที่ดูเหมือนคำไร้สาระ แต่ดาราสพบว่าคำเหล่านั้นดูเหมือนจะมีความหมายในตัวเองต่อ AI: ชาวนากำลังพูดถึงผักและนก
Nicola Davolio ซีอีโอของบริษัทเทคโนโลยี Hupry ซึ่งทำงานร่วมกับ AI ได้อธิบายให้ Lifewire ฟังในการสัมภาษณ์ทางอีเมลว่าภาษานี้มีพื้นฐานมาจากสัญลักษณ์ที่ระบบ DALL-E2 ได้เรียนรู้ที่จะเชื่อมโยงกับแนวคิดบางอย่าง ตัวอย่างเช่น สัญลักษณ์ของ "สุนัข" อาจเกี่ยวข้องกับรูปภาพของสุนัข ในขณะที่สัญลักษณ์สำหรับ "แมว" อาจเชื่อมโยงกับรูปภาพของแมวDALL-E2 ได้สร้างภาษาขึ้นมาเพราะช่วยให้สามารถสื่อสารกับระบบ AI อื่นๆ ได้อย่างมีประสิทธิภาพมากขึ้น
ปริศนาอย่างคำศัพท์ที่ซ่อนอยู่ใน DALL-E2 นั้นสนุกที่จะต่อสู้ แต่ก็เน้นคำถามที่หนักกว่า…
"ภาษานี้ประกอบด้วยสัญลักษณ์ที่ดูเหมือนอักษรอียิปต์โบราณและไม่ได้มีความหมายเฉพาะเจาะจงแต่อย่างใด" เขากล่าวเสริม "สัญลักษณ์อาจไม่มีความหมายสำหรับมนุษย์ แต่พวกมันก็สมเหตุสมผลดีกับระบบ AI เนื่องจากมีการฝึกอบรมเกี่ยวกับรูปภาพหลายล้านภาพ"
นักวิจัยเชื่อว่าระบบ AI สร้างภาษาเพื่อช่วยให้เข้าใจความสัมพันธ์ระหว่างภาพและคำได้ดีขึ้น Davolio กล่าว
"พวกเขาไม่แน่ใจว่าทำไมระบบ AI จึงพัฒนาภาษาของตน แต่พวกเขาสงสัยว่าอาจเกี่ยวข้องกับการเรียนรู้การสร้างภาพ" Davolio กล่าวเสริม "เป็นไปได้ว่าระบบ AI จะพัฒนาภาษาเพื่อให้การสื่อสารระหว่างส่วนต่างๆ ของเครือข่ายมีประสิทธิภาพมากขึ้น"
ความลึกลับของ AI
DALL-E2 ไม่ใช่ระบบ AI เดียวที่พัฒนาภาษาภายใน Davolio ชี้ให้เห็น ในปี 2560 ระบบ AutoML ของ Google ได้สร้างสถาปัตยกรรมประสาทรูปแบบใหม่ที่เรียกว่า 'เครือข่ายย่อย' หลังจากถูกปล่อยให้ตัดสินใจว่าจะทำงานได้ดีที่สุดอย่างไร เครือข่ายย่อยนี้ไม่สามารถตีความโดยผู้สร้างที่เป็นมนุษย์ได้
"ตัวอย่างเหล่านี้เป็นเพียงตัวอย่างบางส่วนที่ระบบ AI ได้พัฒนาวิธีการทำสิ่งที่เราไม่สามารถอธิบายได้" Davolio กล่าว "เป็นปรากฏการณ์ที่เกิดขึ้นใหม่ที่น่าสนใจและน่าตกใจในระดับที่เท่าเทียมกัน เนื่องจากระบบ AI มีความซับซ้อนและเป็นอิสระมากขึ้น เราอาจพบว่าตัวเองอยู่ในตำแหน่งที่ไม่เข้าใจวิธีการทำงาน"
โอนีลบอกว่าเธอไม่คิดว่า DALL-E2 กำลังสร้างภาษาของตัวเอง เธอกล่าวว่าเหตุผลของการประดิษฐ์ทางภาษาที่เห็นได้ชัดนั้นอาจจะดูธรรมดากว่าเล็กน้อย
"คำอธิบายที่สมเหตุสมผลอย่างหนึ่งคือความบังเอิญ ในแบบจำลองที่มีขนาดใหญ่ อาจใช้กฎของเมอร์ฟีเล็กน้อย: ถ้าสิ่งแปลกประหลาดอาจเกิดขึ้นได้ ก็น่าจะเป็นเช่นนั้น" โอนีลกล่าวเสริม ความเป็นไปได้อีกประการหนึ่งที่แนะนำโดยนักวิเคราะห์วิจัย Benjamin Hilton ในหัวข้อ Twitter ที่กล่าวถึงการค้นพบของ Daras คือรูปแบบของวลี "apoploe vesrreaitais" เลียนแบบรูปแบบของชื่อภาษาละตินสำหรับสัตว์ ดังนั้นระบบจึงได้เกิดคำสั่งใหม่ของ Aves, O'Neill กล่าวเสริม
ปริศนาอย่างคำศัพท์ที่ซ่อนอยู่ใน DALL-E2 นั้นสนุกที่จะต่อสู้ แต่ก็เน้นย้ำคำถามที่หนักกว่าเกี่ยวกับความเสี่ยง ความลำเอียง และจริยธรรมในพฤติกรรมที่มักเข้าใจยากของโมเดลขนาดใหญ่” โอนีลกล่าว.