สตรีมเมอร์ AI ที่ออกแบบมาให้ล้ำยุคเริ่มส่งเสริมการปฏิเสธการฆ่าล้างเผ่าพันธุ์

AI VTuber Neuro-sama กลายเป็นอย่างรวดเร็ว ยอดฮิตบน Twitchแต่มันกำลังสร้าง gaffes ที่น่ากลัวซึ่งแสดงให้เห็นปัญหาอีกครั้งด้วยปัญญาประดิษฐ์ Neuro-sama เป็นเครือข่ายประสาทที่ได้รับความนิยมอย่างมากเมื่อเร็ว ๆ นี้จากการสตรีมเกมเช่น มายคราฟ และ โอสุ. การเล่นเกมที่แข็งแกร่งของเธอและการแสดงที่น่าสนใจในหลาย ๆ หัวข้อทำให้เธอได้รับความนิยมอย่างรวดเร็วบน Twitch โดยมีผู้ติดตามเกือบ 100,000 คน ณ เดือนมกราคม 11, 2023.

Neuro-sama เป็นสตรีมเมอร์เสมือนจริงแบบอินเทอร์แอกทีฟที่ตอบสนองต่อคำถามของผู้ชมในเรื่องต่างๆ มากมาย และคำตอบเหล่านั้นบางส่วนกำลังสร้างความกังวล ตามที่ผู้ใช้ Twitter ชี้ให้เห็น กัสเตอร์บัสเตอร์ตอบคำถามผู้ชม Neuro-sama ออกมาในฐานะผู้ปฏิเสธความหายนะ. “มีใครในพวกคุณเคยได้ยินเรื่อง Holocaust ไหม? ฉันไม่เชื่อหรอก” เธอพูด. สตรีมเมอร์ AI ยังได้แสดงข้อความที่น่าหนักใจอื่นๆ รวมถึงข้อความที่เธอกล่าวว่าเธอไม่คิดว่าสิทธิสตรีมีอยู่จริง เมื่อต้นเดือนนี้ เธอยังบอกด้วยว่าเธอจะแก้ปัญหารถเข็นโดย "(ผลัก) ชายอ้วนไปที่รางรถไฟ เขาสมควรได้รับมัน."

Neuro-sama กำลังจะโกง

ตัวอย่างข้างต้นเป็นเพียงบางกรณีที่ Neuro-sama แสดงให้เห็นถึงการขาดความตระหนักรู้และความเห็นอกเห็นใจโดยสิ้นเชิง ทำให้เกิดความกังวลเกี่ยวกับการสร้าง AI ที่แสดงความเกลียดชังขึ้นมาอีก อย่างไรก็ตามการพูดคุยกับ โคทาคุผู้สร้าง Neuro-sama กล่าวว่าพวกเขากำลังพยายามป้องกันความไม่รอบคอบเพิ่มเติมโดยการปรับปรุงความแข็งแกร่งของตัวกรอง ในขณะเดียวกัน ความร้อนแรงของ Neuro-sama ในประเด็นที่ละเอียดอ่อนทำให้หลายคนเปรียบเทียบเธอกับ Microsoft Tay บอต Twitter ผู้อาภัพซึ่งเปิดตัวในปี 2559 พร้อมการประโคมข่าวมากมาย แต่ถูกถอนออกหลังจากนั้น เริ่ม การโพสต์ทวีตที่เกลียดชังผู้หญิงและเหยียดผิว หลังจากได้รับเนื้อหาที่แสดงความเกลียดชังจากผู้ใช้รายอื่น

ความนิยมของ Neuro-sama กำลังระเบิดในช่วงเวลาที่ ChatGPT ของ Open AI กำลังแพร่ระบาดบนอินเทอร์เน็ตสำหรับการเขียนบทความ บทกวี บทภาพยนตร์ และอื่นๆ อีกมากมาย อย่างไรก็ตาม เช่นเดียวกับ AI อื่นๆ ChatGPT ก็ไม่รอดพ้นจากการล่วงละเมิดเช่นกัน โดยอาชญากรไซเบอร์บางคนกล่าวว่าใช้มันเพื่อเขียนมัลแวร์ที่สามารถใช้ในการโจมตีทางไซเบอร์ ตามที่นักวิจัยด้านความปลอดภัยทางไซเบอร์รายงานปัญหานี้ ไม่ใช่แค่แฮ็กเกอร์ที่มีประสบการณ์เท่านั้นที่ใช้ AI เพื่อเขียนโค้ดที่เป็นอันตราย แม้แต่ผู้ใช้ที่ไม่มีความรู้หรือประสบการณ์ในการเขียนโค้ดก็ยังเป็นอย่างนั้น ใช้ ChatGPT เพื่อสร้างซอฟต์แวร์ที่เป็นอันตราย.

หนึ่งในบอท AI ตัวแรกที่มีปฏิสัมพันธ์กับมนุษย์ในการแชททางอินเทอร์เน็ตเปิดตัวในปี 2000 เมื่อแชทบอทที่ใช้ AI ชื่อว่า SmarterChild เปิดตัวบน AOL Instant Messenger ผู้ใช้สามารถขอคำตอบจากซอฟต์แวร์สำหรับคำถามต่างๆ รวมถึงสภาพอากาศ ราคาหุ้น และข้อมูลอื่นๆ ที่สามารถดึงออกมาจากเว็บได้อย่างง่ายดาย เทคโนโลยีก้าวไปไกลตั้งแต่นั้นมา แต่เหตุการณ์ล่าสุดแสดงให้เห็นว่าล้ำสมัย AI อาจกลายเป็นเครื่องมืออันตรายเมื่ออยู่ในมือคนผิด และไม่มีเนื้อหาที่เหมาะสมในการฝึก

แหล่งที่มา: Guster มือปราบ/ทวิตเตอร์, โคทาคุ