Claude Mythos คืออะไร และเอไอตัวใหม่นี้มีความเสี่ยงอะไรบ้าง ?

ในช่วงไม่กี่สัปดาห์ที่ผ่านมา แวดวงปัญญาประดิษฐ์หรือเอไอ (AI) คึกคักขึ้นมาก หลังได้ยินคำกล่าวอ้างของบริษัทชั้นนำอย่างแอนโทรปิก (Anthropic) เกี่ยวกับโมเดลใหม่ของบริษัทที่ชื่อว่าคล็อด มิโธส (Claude Mythos)

บริษัทบอกว่าเครื่องมือนี้สามารถทำงานด้านการแฮ็กและความปลอดภัยไซเบอร์บางอย่างได้ดีกว่ามนุษย์ ซึ่งได้จุดชนวนให้เกิดการถกเถียงในหมู่หน่วยงานกำกับดูแล ผู้ออกกฎหมาย และสถาบันการเงิน เกี่ยวกับอันตรายที่อาจเกิดขึ้นต่อบริการดิจิทัล

บริษัทยักษ์ใหญ่ด้านเทคโนโลยีหลายแห่งได้รับสิทธิ์เข้าถึงมิโธสผ่านโครงการที่ชื่อว่าโปรเจกต์ กลาสวิง (Project Glasswing) ซึ่งออกแบบมาเพื่อเสริมสร้างความสามารถในการรับมือกับมิโธสเอง แต่อีกฝ่ายชี้ว่าการนำเสนอของแอนโทรปิกที่ระบุว่าเครื่องมือของตนมีความสามารถที่ไม่เคยมีมาก่อนนั้นสร้างผลประโยชน์ให้กับบริษัทเช่นกัน เนื่องจากในโลกของเอไอขณะนี้ การแยกแยะระหว่างคำกล่าวอ้างที่มีเหตุผลรองรับกับการโฆษณาเกินจริง อาจยังทำได้ยาก

คล็อด มิโธส (Claude Mythos) คืออะไร

มิโธสเป็นหนึ่งในโมเดลที่แอนโทรปิกพัฒนาขึ้นมาล่าสุด เพื่อเป็นส่วนหนึ่งของระบบเอไอที่เป็นร่มใหญ่ที่เรียกว่า คล็อด (Claude) โดยครอบคลุมผู้ช่วยเอไอหรือตระกูลโมเดลต่าง ๆ ของบริษัทแอนโทรปิก ซึ่งเป็นคู่แข่งของแชทจีพีที (ChatGPT) จากบริษัทโอเพนเอไอ (OpenAI) และเจมิไน (Gemini) ของกูเกิล (Google)

บริษัทแอนโทรปิกเปิดตัวโมเดลนี้เมื่อต้นเดือน เม.ย. ที่ผ่านมา ในชื่อว่า "มิโธส พรีวิว" (Mythos Preview)

"เรดทีม" (red-team) หรือกลุ่มนักวิจัยที่ทดสอบว่าโมเดลเอไอรับมือกับคำขอหรืองานเฉพาะต่าง ๆ อย่างไร ระบุในรายงานว่ามิโธส "มีความสามารถโดดเด่นอย่างยิ่งในงานด้านความปลอดภัยทางคอมพิวเตอร์"

พวกเขาพบว่าเครื่องมือนี้สามารถค้นหาบั๊กที่แฝงตัวอยู่ในโค้ดที่มีอายุนานหลายสิบปี และสามารถใช้ประโยชน์จากบั๊กเหล่านั้นได้อย่างง่ายดาย

ด้วยเหตุนี้ แทนที่จะเปิดให้ผู้ใช้คล็อด (Claude) เข้าถึงโมเดลนี้อย่างกว้างขวาง แอนโทรปิกจึงมอบสิทธิ์การเข้าถึงให้แก่บริษัทเทคโนโลยี 12 แห่งผ่านโครงการกลาสวิงเท่านั้น ซึ่งบริษัทอธิบายว่าเป็น "ความพยายามในการรักษาความปลอดภัยให้กับซอฟต์แวร์ที่มีความสำคัญที่สุดของโลก"

บริษัทต่าง ๆ เหล่านี้ มียักษ์ใหญ่ด้านระบบประมวลผลแบบคลาวด์หลายเจ้าด้วยกัน เช่น แอมะซอน เว็บเซอร์วิสเซส (Amazon Web Services) หรือบริษัทผู้ผลิตอุปกรณ์อย่างแอปเปิล (Apple) ไมโครซอฟต์ (Microsoft) และกูเกิล ไปจนถึงผู้ผลิตชิปอย่างเอ็นวิเดีย (Nvidia) และบรอดคอม (Broadcom)

คราวด์สไตรก์ (Crowdstrike) ซึ่งการอัปเดตซอฟต์แวร์ที่บกพร่องของบริษัทเคยทำให้เกิดเหตุระบบล่มครั้งใหญ่ทั่วโลกในเดือน ก.ค. 2024 ก็อยู่ในพันธมิตรของโครงการนี้ด้วย โดยแอนโทรปิกระบุว่าบริษัทยังให้สิทธิ์เข้าถึงมิโธสแก่หน่วยงานต่าง ๆ มากกว่า 40 แห่งที่รับผิดชอบซอฟต์แวร์สำคัญ ๆ

ในวิดีโอที่เผยแพร่ควบคู่กับการเปิดตัวโปรเจกต์ กลาสวิง ดาริโอ อาโมเดอี ประธานบริษัทแอนโทรปิกกล่าวด้วยว่า บริษัทได้เสนอที่จะทำงานร่วมกับเจ้าหน้าที่รัฐบาลสหรัฐฯ เพื่อ "ช่วยป้องกันความเสี่ยงจากโมเดลเหล่านี้"

โมเดลนี้น่ากังวลอย่างไร

แอนโทรปิกกล่าวว่าในช่วงการทดสอบ บริษัทพบว่าโมเดลนี้มีทักษะสูงมากในงานด้านความปลอดภัยไซเบอร์และการแฮ็ก โดยโมเดลรุ่นนี้สามารถทำผลงานได้ดีกว่ามนุษย์

"มิโธส พรีวิว ได้ค้นพบช่องโหว่ระดับร้ายแรงสูงแล้วหลายพันจุด รวมถึงบางจุดในทุกระบบปฏิบัติการหลักและเว็บเบราว์เซอร์" แอนโทรปิกอ้างเมื่อวันที่ 7 เม.ย.

"ด้วยอัตราความก้าวหน้าของเอไอเช่นนี้ อีกไม่นานความสามารถเช่นนี้ก็จะแพร่หลายออกไป ซึ่งอาจอยู่เหนือการควบคุมของผู้ที่มุ่งมั่นจะนำไปใช้อย่างปลอดภัย"

บริษัทระบุว่าโมเดลนี้สามารถค้นหาบั๊กสำคัญที่ต้องแก้ไขโดยเร่งด่วนในระบบเก่าได้ โดยแทบไม่ต้องมีการควบคุมดูแลมากนัก โมเดลนี้ยังสามารถค้นหาช่องโหว่หนึ่งที่มีอยู่ในระบบมานานถึง 27 ปีเจอ และสามารถเสนอแนะแนวทางในการใช้ประโยชน์จากช่องโหว่เหล่านั้นได้

รัฐมนตรีว่าการกระทรวงการคลัง ผู้ว่าการธนาคารกลาง และผู้เชี่ยวชาญด้านการเงินบางส่วนได้แสดงความกังวลอย่างจริงจังเกี่ยวกับเรื่องนี้ในเวลาต่อมา โดยพวกเขาเกรงว่าโมเดลดังกล่าวอาจบ่อนทำลายความมั่นคงของระบบการเงิน

ฟรองซัวส์-ฟิลิปป์ ชองปาญ รมว.คลังของแคนาดา บอกกับบีบีซีว่า มิโธสได้ถูกหยิบยกขึ้นมาหารือในการประชุมกองทุนการเงินระหว่างประเทศหรือไอเอ็มเอฟ (IMF) ที่กรุงวอชิงตันดีซีในสัปดาห์นี้

"แน่นอนว่ามันเป็นเรื่องสำคัญมากพอที่รัฐมนตรีคลังทุกคนควรให้ความสนใจ" เขากล่าว และอธิบายเทคโนโลยีนี้ว่าเป็น "สิ่งที่ไม่รู้ว่าไม่รู้" (unknown unknown) ซึ่งสื่อถึงว่าเราไม่รู้เลยว่ามันมีความเสี่ยงอะไรบ้างที่เรายังไม่รู้ในตอนนี้

ด้านแอนดรูว์ เบลีย์ ผู้ว่าการธนาคารกลางอังกฤษ บอกกับบีบีซีว่า "ขณะนี้เราจำเป็นต้องพิจารณาอย่างรอบคอบมากว่าการพัฒนาเอไอล่าสุดนี้ อาจส่งผลต่อความเสี่ยงจากอาชญากรรมไซเบอร์อย่างไรบ้าง"

ขณะเดียวกัน สหภาพยุโรประบุว่ากำลังหารือกับแอนโทรปิกเกี่ยวกับความกังวลต่อมิโธสเช่นกัน

ผู้เชี่ยวชาญด้านไซเบอร์คิดอย่างไร

เซียแรน มาร์ติน อดีตผู้อำนวยการศูนย์ความมั่นคงทางไซเบอร์แห่งชาติของสหราชอาณาจักร บอกกับบีบีซีเมื่อต้นสัปดาห์นี้ว่า คำกล่าวอ้างที่ว่ามิโธสสามารถขุดค้นช่องโหว่สำคัญได้รวดเร็วอย่างมากกว่ารูปแบบเอไออื่น ๆ "สร้างความสั่นสะเทือนให้กับผู้คนอย่างแท้จริง"

"ประเด็นที่สองคือ แม้แต่จุดอ่อนที่มีอยู่แล้วซึ่งเรารู้จัก แต่หน่วยงานต่าง ๆ อาจยังไม่ได้อุดช่องโหว่ หรืออาจยังป้องกันได้ไม่ดีนัก มันก็เป็นแฮ็กเกอร์ที่เก่งมากจริง ๆ" เขากล่าว

ขณะเดียวกัน นักวิเคราะห์และผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์อิสระจำนวนมากยังไม่สามารถทดสอบมิโธสได้ด้วยตัวเอง และบางส่วนยังคงตั้งข้อสงสัยเกี่ยวกับประสิทธิภาพของมิโธส

สถาบันความปลอดภัยเอไอของสหราชอาณาจักรสรุปผลการประเมินเมื่อไม่นานมานี้ว่า แม้โมเดลนี้จะทรงพลังอย่างมาก แต่มันเป็นภัยคุกคามใหญ่ที่สุดต่อระบบที่มีการป้องกันต่ำและเปราะบางต่างหาก

นักวิจัยของสถาบันระบุว่า "เรายังไม่สามารถบอกได้อย่างแน่ชัดว่า มิโธส พรีวิว จะสามารถโจมตีระบบที่มีการป้องกันอย่างดีได้หรือไม่" ดังนั้น ในพื้นที่ที่มีการรักษาความปลอดภัยไซเบอร์ที่ดี โมเดลนี้ย่อมถูกระงับยับยั้งได้ในทางทฤษฎี

เราควรกังวลหรือไม่

ความกังวลเกี่ยวกับเอไอไม่ใช่เรื่องใหม่แต่อย่างใด โมเดลและเครื่องมือใหม่ ๆ ถูกพัฒนาออกมาอย่างต่อเนื่อง และมักมาพร้อมกับคำสัญญาว่าจะปฏิวัติชีวิตของเราไม่ทางใดก็ทางหนึ่ง

ในช่วงไม่กี่ปีที่ผ่านมา การฉวยโอกาสจากการผสมผสานระหว่างความหวาดกลัวและความตื่นเต้นเกี่ยวกับเอไอและผลกระทบในอนาคตของมัน ได้กลายเป็นลักษณะเด่นของภาคธุรกิจนี้และเป็นกลยุทธ์การตลาดของบริษัทในช่วงไม่กี่ปีที่ผ่านมาเช่นกัน

ในกรณีของมิโธส เรายังไม่รู้มากพอที่จะบอกได้ว่าความคาดหวังหรือความกลัวเหล่านี้มีเหตุผลรองรับหรือไม่ หรือเป็นเพียงภาพสะท้อนของกระแสโฆษณาเกินจริงในอุตสาหกรรมนี้

ไม่ว่าในกรณีใดก็ตาม ตามความเห็นของศูนย์ความมั่นคงทางไซเบอร์แห่งชาติของสหราชอาณาจักร บอกว่าสิ่งสำคัญที่สุดที่เราควรทำตอนนี้คือไม่ตื่นตระหนก แต่ควรมุ่งให้ความสำคัญกับการจัดการพื้นฐานด้านความปลอดภัยไซเบอร์ให้ถูกต้อง เนื่องจากท้ายที่สุดแล้ว แฮ็กเกอร์ส่วนใหญ่ไม่จำเป็นต้องใช้เครื่องมือเอไอขั้นสูงมากในการเจาะระบบ เพราะการโจมตีที่ง่ายกว่านั้นก็เพียงพอแล้ว

"สำหรับบางคน นี่คือเหตุการณ์วันสิ้นโลก แต่สำหรับคนอื่น ๆ มันดูเป็นเพียงกระแสการโฆษณาเกินจริงเสียมากกว่า" มาร์ตินบอกกับบีบีซี

อย่างไรก็ดี เขากล่าวด้วยว่าการพัฒนาต่อจากนี้ ไม่ว่าจะเกิดขึ้นโดยแอนโทรปิกหรือคู่แข่งของบริษัทดังกล่าว มันยังมีโอกาสสร้างโลกออนไลน์ที่ปลอดภัยยิ่งขึ้นนอกเหนือไปจากความเสี่ยงที่มาพร้อมกัน

"ในระยะกลาง มีโอกาสที่จะใช้เครื่องมือเหล่านี้ในการแก้ไขช่องโหว่พื้นฐานจำนวนมากบนอินเทอร์เน็ต" เขากล่าว