ซื้อกลับบ้านที่สำคัญ
- ToxMod โดยบริษัท Modulate ในบอสตัน อ้างว่าจะตรวจจับและดำเนินการกับคำพูดที่ก่อกวนโดยอัตโนมัติแบบเรียลไทม์
- แทนที่จะถูกจำกัดด้วยภาษาธรรมดา ToxMod ใช้การเรียนรู้ของเครื่องเพื่อค้นหาสิ่งที่จับต้องไม่ได้ เช่น อารมณ์ ระดับเสียง และจังหวะ
- ToxMod ได้รับการออกแบบมาเพื่อใช้กับห้องแชทในเกม แต่ไม่มีเหตุผลที่จะไม่สามารถมาที่ช่อง Twitch ของคุณได้
บริษัทในบอสตันกำลังใช้แมชชีนเลิร์นนิงเพื่อสร้างสิ่งที่เรียกเก็บเงินเป็นบริการกลั่นกรองด้วยเสียงเป็นรายแรกของโลก ซึ่งสามารถบอกความแตกต่างระหว่างสิ่งที่พูดกับความหมาย
ToxMod คือความพยายามที่จะแก้ไขความขัดแย้งของการดูแลพื้นที่ว่างบนอินเทอร์เน็ต มีมนุษย์ไม่เพียงพอที่จะตอบสนองความต้องการ แต่อัลกอริธึม ตัวกรอง และระบบรายงานไม่เข้าใจความแตกต่างกันนิดหน่อย
ด้วยฐานข้อมูลของ ToxMod มันสามารถติดตามปัจจัยในคำพูดของผู้เล่น เช่น อารมณ์และระดับเสียง ซึ่งช่วยให้แยกแยะระหว่างช่วงเวลาชั่วขณะและรูปแบบของพฤติกรรม เพิ่งได้รับการประกาศให้เป็นส่วนเสริมของเกมฟุตบอลอเมริกัน 7v7 Gridiron ซึ่งขณะนี้อยู่ใน Steam Early Access
"ทุกคนรู้ดีว่าการล่วงละเมิด คำพูดแสดงความเกลียดชัง และความเป็นพิษในการแชทด้วยเสียงและการเล่นเกมเป็นปัญหาใหญ่ ซึ่งเป็นเรื่องที่เข้าใจกันทั่วไป" Carter Huffman ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีและผู้ร่วมก่อตั้ง Modulate กล่าวใน Google Meeting with ไลฟ์ไวร์ "เราสามารถนำคุณลักษณะที่เราสกัดผ่านระบบแมชชีนเลิร์นนิงที่หลากหลายและรวมเข้ากับระบบที่คำนึงถึงความรู้ของผู้เชี่ยวชาญทั้งหมดที่เรากำลังเรียนรู้จากชุมชน"
ทักทายผู้ดูแลหุ่นยนต์คนใหม่ของเรา
Modulate ทำงานบน ToxMod ตั้งแต่ฤดูใบไม้ร่วงปีที่แล้ว และได้รวมเอามันเป็นหนึ่งในสามบริการหลักของบริษัท นอกจากนี้ยังมี VoiceWear ซึ่งเป็นโปรแกรมปลอมแปลงเสียงที่ขับเคลื่อนโดยการเรียนรู้ของเครื่อง และ VoiceVibe ซึ่งเป็นบริการรวบรวมที่ช่วยให้ผู้ใช้ค้นหาสิ่งที่ผู้คนในชุมชนกำลังพูดคุยกันอยู่
เมื่อ ToxMod ทำงานในแชท สามารถตั้งโปรแกรมผ่านแผงผู้ดูแลระบบของ Modulate เพื่อดำเนินการอัตโนมัติได้หลากหลาย เช่น ออกคำเตือน ปิดเสียงผู้เล่น หรือการปรับระดับเสียงทีละคน
มันใช้ระบบ Triage โดยที่อินสแตนซ์ในเครื่องเป็นการดำเนินการก่อน ก่อนตรวจสอบกับเซิร์ฟเวอร์ของ Modulate เพื่อยืนยัน จากนั้นในที่สุดมันก็บานปลายจนถึงจุดที่อาจเรียกร้องให้มีการแทรกแซงของมนุษย์ ด้วยการเรียกใช้การตรวจสอบแต่ละครั้งซึ่ง Modulate เรียกว่า "triage gates" แนวคิดก็คือ ToxMod ให้ทีมผู้ดูแลกลุ่มเล็ก ๆ มีเครื่องมือในการกลั่นกรองชุมชนขนาดใหญ่กว่าอย่างมีประสิทธิภาพ
"ความจริงที่น่าเศร้าคือทุกคนเคยมีประสบการณ์แบบนั้น พยายามใช้การแชทด้วยเสียงบนแพลตฟอร์มใดก็ตามที่คุณอยู่ และพบว่าไอ้หนูนั่นเป็นความคิดที่แย่" ไมค์ ปาปปาส ซีอีโอของ Modulate กล่าวใน แฮงเอาท์วิดีโอกับ Lifewire "เข้าไปแล้วพูดว่า 'นี่ไม่ใช่ Wild West มีกฎอยู่' ฉันคิดว่ามันสำคัญมาก"
ทำลายระบบ
โดยปกติ คำถามที่สองหรือสามที่ถามเกี่ยวกับ ToxMod คือวิธีทำลายมัน
ด้วยระบบการกลั่นกรองอัตโนมัติมากมาย เช่น อัลกอริธึมที่ควบคุม Twitter ทำให้ง่ายต่อการเล่นเกมกับคนที่คุณไม่ชอบ เพียงรายงานเป้าหมายของคุณเป็นจำนวนมากด้วยบัญชีหุ่นเชิดสักสองสามบัญชี แล้วพวกเขาจะโดนแบนอย่างน่าเชื่อถือ
"ในระดับพื้นฐาน ToxMod ไม่จำเป็นต้องพึ่งพารายงานผู้เล่นเพิ่มเติมเหล่านั้น" Pappas กล่าว “มันยังสามารถให้ค่าประมาณที่ชัดเจนเกี่ยวกับความผิดที่เราต้องการ [ให้ความสนใจ]คุณไม่ต้องกังวลกับผู้เล่นที่พยายามจะเล่นเกมระบบ เพราะไม่มีอะไรให้เล่นจริงๆ
ทุกคนรู้ว่าการล่วงละเมิด คำพูดแสดงความเกลียดชัง และความเป็นพิษในการแชทด้วยเสียงและการเล่นเกมเป็นปัญหาใหญ่
"สิ่งที่คุณควบคุมได้ทั้งหมดในฐานะผู้เล่นคือเสียงของคุณเอง" Pappas กล่าวต่อ "สิ่งที่แย่ที่สุดที่คุณสามารถทำได้คือทำตัวแย่ๆ ให้น้อยลง เราเลยไม่ตั้งธงว่าคุณเป็นนักแสดงที่แย่ ซึ่งผมจะบอกว่าเป็นสิ่งที่ใกล้เคียงกับความสำเร็จของภารกิจ"
โดยทั่วไปแล้ว แนวคิดเบื้องหลัง ToxMod คือความพยายามในการเรียกคืน ผู้เล่นหลายคน ณ จุดนี้มีประสบการณ์การล่วงละเมิดบางรูปแบบจากคนแปลกหน้าแบบสุ่มในช่องเสียงที่เปิดกว้าง ตั้งแต่การดูหมิ่นแบบสุ่มไปจนถึงการคุกคามเชิงรุก ด้วยเหตุนี้ นักเล่นเกมจึงมักจะอายที่จะไม่ใช้การแชทด้วยเสียงโดยทั่วไป โดยเลือกที่จะยอมสละความสะดวกเพื่อแลกกับความสบายใจของตนเอง
"สิ่งที่เราคาดหวังว่าจะได้เห็น [เป็นนักแสดงที่ไม่ดีใช้เวลา] ในการแชทด้วยเสียงน้อยลงมากก่อนที่จะถูกพบและนำออก" Pappas กล่าว“นั่นเป็นมากกว่าผลกระทบโดยตรง เมื่อทุกคนเห็นว่าการแชทด้วยเสียงเป็นสถานที่ที่ปลอดภัยกว่า นักแสดงที่ดีจำนวนมากขึ้นก็เต็มใจที่จะกลับมาใช้แชทด้วยเสียงและลองดู ฉันคิดว่าทุกอย่างสามารถหมุนไปในทิศทางที่ดีได้”
