ChatGPT เป็นภัยพิบัติทางไซเบอร์หรือไม่? เราถามผู้เชี่ยวชาญ

ChatGPT รู้สึกหนีไม่พ้นตอนนี้กับเรื่องราว ทึ่งในความสามารถของมัน ดูเหมือนทุกที่ที่คุณมอง เราได้เห็นแล้วว่ามันสามารถเขียนเพลง เรนเดอร์ภาพเคลื่อนไหว 3 มิติ และแต่งเพลงได้อย่างไร หากคุณคิดได้ ChatGPT ก็น่าจะลองดูบ้าง

และนั่นคือปัญหา ในชุมชนเทคโนโลยีตอนนี้มีการถกเถียงกันทุกรูปแบบ โดยผู้แสดงความคิดเห็นมักจะกังวลว่า AI นั้นเกี่ยวกับ เพื่อนำไปสู่หายนะของมัลแวร์ที่แม้แต่แฮ็กเกอร์มือเขียวส่วนใหญ่ก็เสกโทรจันและแรนซัมแวร์ที่ไม่มีใครหยุดยั้งได้

แต่นี่เป็นเรื่องจริงหรือไม่? เพื่อหาคำตอบ ฉันได้พูดคุยกับผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์หลายคนเพื่อดูว่าพวกเขาสร้างอะไรจากความสามารถของมัลแวร์ ChatGPT ไม่ว่าพวกเขาจะกังวลเกี่ยวกับศักยภาพในการใช้งานในทางที่ผิดหรือไม่ และคุณจะทำอย่างไรเพื่อป้องกันตัวเองในสิ่งใหม่ที่กำลังจะมาถึงนี้ โลก.

ความสามารถที่น่าสงสัย

จุดเด่นอย่างหนึ่งของ ChatGPT คือความสามารถในการทำงานที่ซับซ้อนด้วยคำสั่งง่ายๆ เพียงไม่กี่คำสั่ง โดยเฉพาะอย่างยิ่งในโลกของการเขียนโปรแกรม ความกลัวคือสิ่งนี้จะลดอุปสรรคในการเข้าสู่การสร้างมัลแวร์ ซึ่งอาจเสี่ยงต่อการเพิ่มจำนวนของผู้เขียนไวรัสที่พึ่งพาเครื่องมือ AI ในการยกน้ำหนักให้กับพวกเขา

Joshua Long หัวหน้านักวิเคราะห์ด้านความปลอดภัยของบริษัทรักษาความปลอดภัย Intego อธิบายประเด็นนี้ “เช่นเดียวกับเครื่องมือใดๆ ในโลกจริงหรือโลกเสมือน รหัสคอมพิวเตอร์สามารถใช้ในทางดีหรือทางชั่วได้” เขาอธิบาย “หากคุณขอรหัสที่สามารถเข้ารหัสไฟล์ได้ บอทเช่น ChatGPT จะไม่สามารถรู้เจตนาที่แท้จริงของคุณได้ หากคุณอ้างว่าคุณต้องการรหัสเข้ารหัสเพื่อป้องกันไฟล์ของคุณเอง บอทจะเชื่อคุณ แม้ว่าเป้าหมายที่แท้จริงของคุณคือการสร้างแรนซัมแวร์ก็ตาม”

ChatGPT มีการป้องกันหลายอย่างเพื่อต่อสู้กับสิ่งนี้ และเคล็ดลับสำหรับผู้สร้างไวรัสก็คือการเลี่ยงผ่านกำแพงป้องกันเหล่านั้น ขอให้ ChatGPT สร้างไวรัสอย่างตรงไปตรงมาและมันก็จะปฏิเสธ คุณจะต้องใช้ความคิดสร้างสรรค์เพื่อเอาชนะมันและทำให้มันเสนอราคาตามดุลยพินิจที่ดีกว่า คำนึงถึงสิ่งที่ผู้คนสามารถทำได้ การแหกคุกใน ChatGPTความเป็นไปได้ในการสร้างมัลแวร์โดยใช้ AI นั้นเป็นไปได้ในทางทฤษฎี ในความเป็นจริง, มันถูกแสดงให้เห็นแล้วดังนั้นเราจึงรู้ว่ามันเป็นไปได้

แต่ทุกคนไม่ได้ตื่นตระหนก Martin Zugec ผู้อำนวยการฝ่ายโซลูชันด้านเทคนิคของ Bitdefender คิดว่าความเสี่ยงยังค่อนข้างน้อย “ผู้เขียนมัลแวร์มือใหม่ส่วนใหญ่ไม่มีทักษะที่จำเป็นในการเลี่ยงการรักษาความปลอดภัยเหล่านี้ ดังนั้นความเสี่ยงที่เกิดจากมัลแวร์ที่สร้างจากแชทบอทจึงค่อนข้างต่ำในเวลานี้” เขา พูดว่า.

“มัลแวร์ที่สร้างจาก Chatbot เป็นหัวข้อสนทนายอดนิยมเมื่อเร็วๆ นี้” Zugec กล่าวต่อ “แต่ในปัจจุบัน ไม่มีหลักฐานบ่งชี้ว่ามันเป็นภัยคุกคามที่สำคัญในอนาคตอันใกล้” และมีเหตุผลง่ายๆ จากข้อมูลของ Zugec “คุณภาพของโค้ดมัลแวร์ที่สร้างโดยแชทบอทมักจะต่ำ ทำให้มันน้อยลง ตัวเลือกที่น่าสนใจสำหรับผู้เขียนมัลแวร์ที่มีประสบการณ์ซึ่งสามารถหาตัวอย่างที่ดีกว่าในรหัสสาธารณะ ที่เก็บ”

ดังนั้น ในขณะที่รับ ChatGPT เพื่อสร้างโค้ดอันตรายนั้นเป็นไปได้อย่างแน่นอน แต่ใครก็ตามที่มีทักษะ จำเป็นต้องจัดการกับ AI chatbot มีแนวโน้มที่จะไม่ประทับใจกับโค้ดที่ไม่ดีที่มันสร้างขึ้น Zugec เชื่อว่า

แต่อย่างที่คุณคาดเดา AI กำเนิดเป็นเพียงการเริ่มต้นเท่านั้น และสำหรับ Long นั่นหมายถึงความเสี่ยงในการแฮ็กที่เกิดจาก ChatGPT ยังไม่อยู่ในขั้นหิน

“เป็นไปได้ว่าการเพิ่มขึ้นของบอท AI ที่ใช้ LLM อาจนำไปสู่การเพิ่มมัลแวร์ใหม่เล็กน้อยถึงปานกลาง หรือการปรับปรุงมัลแวร์ ความสามารถและการหลีกเลี่ยงโปรแกรมป้องกันไวรัส” Long กล่าวโดยใช้ตัวย่อสำหรับโมเดลภาษาขนาดใหญ่ที่เครื่องมือ AI เช่น ChatGPT ใช้เพื่อสร้าง ความรู้. “ถึงตอนนี้ ยังไม่ชัดเจนว่าเครื่องมือที่มีผลกระทบโดยตรงเช่น ChatGPT กำลังสร้างหรือจะสร้างกับภัยคุกคามมัลแวร์ในโลกแห่งความเป็นจริงมากน้อยเพียงใด”

เพื่อนของนักตกปลา

หากทักษะการเขียนโค้ดของ ChatGPT ยังไม่ถึงขีดสุด อาจเป็นภัยคุกคามในรูปแบบอื่นๆ เช่น การเขียนแคมเปญฟิชชิงและวิศวกรรมสังคมที่มีประสิทธิภาพมากขึ้นหรือไม่ ในที่นี้ นักวิเคราะห์เห็นพ้องกันว่ามีความเป็นไปได้สูงที่จะนำไปใช้ในทางที่ผิด

สำหรับหลายๆ บริษัท หนึ่งในการโจมตีที่เป็นไปได้คือพนักงานของบริษัท ซึ่งอาจถูกหลอกหรือชักใยให้เข้าถึงโดยไม่ได้ตั้งใจในที่ที่ไม่ควร แฮ็กเกอร์รู้เรื่องนี้ดี และมีการโจมตีทางวิศวกรรมสังคมจำนวนมากที่พิสูจน์แล้วว่าเป็นหายนะ ตัวอย่างเช่น คิดว่ากลุ่ม Lazarus ของเกาหลีเหนือเริ่มต้นจากสิ่งนี้ 2014 การบุกรุกเข้าไปในระบบของ Sony — ส่งผลให้เกิดการรั่วไหลของภาพยนตร์ที่ยังไม่เผยแพร่และข้อมูลส่วนตัว — โดยการปลอมตัวเป็นผู้จัดหางานและให้พนักงานของ Sony เปิดไฟล์ที่ติดไวรัส

นี่เป็นพื้นที่หนึ่งที่ ChatGPT สามารถช่วยแฮ็กเกอร์และฟิชเชอร์ปรับปรุงงานของพวกเขาได้อย่างมาก ตัวอย่างเช่น หากภาษาอังกฤษไม่ใช่ภาษาแม่ของภัยคุกคาม พวกเขาอาจใช้แชทบอท AI เพื่อเขียนอีเมลฟิชชิ่งที่น่าเชื่อสำหรับพวกเขา ซึ่งมีเป้าหมายเพื่อกำหนดเป้าหมายผู้พูดภาษาอังกฤษ หรืออาจใช้เพื่อสร้างข้อความที่น่าเชื่อถือจำนวนมากอย่างรวดเร็วโดยใช้เวลาน้อยกว่าที่ผู้คุกคามมนุษย์ต้องทำงานเดียวกัน

สิ่งต่าง ๆ อาจแย่ลงไปอีกเมื่อเครื่องมือ AI อื่น ๆ ถูกโยนเข้ามาผสม ดังที่ Karen Renaud, Merrill Warkentin และ George Westerman ได้กล่าวไว้ การตรวจสอบการจัดการสโลนของ MITผู้ฉ้อโกงสามารถสร้างสคริปต์โดยใช้ ChatGPT และให้อ่านทางโทรศัพท์ด้วยเสียงปลอมที่แอบอ้างเป็น CEO ของบริษัท สำหรับพนักงานบริษัทที่รับสาย เสียงจะฟังดูและทำหน้าที่เหมือนกับเจ้านายของพวกเขา หากเสียงดังกล่าวขอให้พนักงานโอนเงินจำนวนหนึ่งไปยังบัญชีธนาคารใหม่ พนักงานอาจตกเป็นเหยื่อของเล่ห์เพทุบายเนื่องจากความเคารพที่พวกเขาจ่ายให้เจ้านาย

ดังที่ Long กล่าว “[ผู้กระทำการคุกคาม] ไม่จำเป็นต้องพึ่งพาทักษะภาษาอังกฤษ (มักไม่สมบูรณ์) ของตนเองอีกต่อไปในการเขียนอีเมลหลอกลวงที่น่าเชื่อถือ และไม่ต้องคิดคำที่ฉลาดขึ้นมาเองและเรียกใช้ผ่าน Google แปลภาษา แต่ ChatGPT ซึ่งไม่รู้เลยถึงศักยภาพของเจตนาร้ายที่อยู่เบื้องหลังคำขอ จะเขียนข้อความทั้งหมดของอีเมลหลอกลวงในภาษาใดก็ได้ตามต้องการ”

และสิ่งที่จำเป็นเพื่อให้ ChatGPT ทำได้จริงก็คือการกระตุ้นเตือนที่ชาญฉลาด

ChatGPT สามารถเพิ่มความปลอดภัยในโลกไซเบอร์ของคุณได้หรือไม่?

แต่ก็ไม่เลวทั้งหมด ลักษณะเดียวกันที่ทำให้ ChatGPT เป็นเครื่องมือที่น่าสนใจสำหรับผู้คุกคาม — ความเร็ว ความสามารถในการค้นหาจุดบกพร่องในโค้ด — ทำให้เป็นแหล่งข้อมูลที่เป็นประโยชน์สำหรับนักวิจัยด้านความปลอดภัยในโลกไซเบอร์และบริษัทป้องกันไวรัส

ชี้ให้เห็นว่านักวิจัยกำลังใช้ AI chatbots เพื่อค้นหาสิ่งที่ยังไม่ถูกค้นพบ (“zero-day”) ช่องโหว่ในโค้ด เพียงแค่อัปโหลดโค้ดและขอให้ ChatGPT ดูว่าสามารถตรวจจับศักยภาพได้หรือไม่ จุดอ่อน นั่นหมายถึงวิธีการแบบเดียวกับที่อาจทำให้การป้องกันอ่อนแอลงสามารถใช้เพื่อค้ำจุนพวกเขาได้

และในขณะที่ความสนใจหลักของ ChatGPT สำหรับนักคุกคามอาจอยู่ที่ความสามารถในการเขียนข้อความฟิชชิงที่น่าเชื่อถือ ความสามารถเดียวกันนี้สามารถช่วยฝึกอบรมบริษัทและผู้ใช้เกี่ยวกับสิ่งที่ควรระวังเพื่อหลีกเลี่ยงการถูกหลอกลวง ตัวพวกเขาเอง. นอกจากนี้ยังสามารถใช้ทำวิศวกรรมย้อนกลับกับมัลแวร์ ช่วยให้นักวิจัยและบริษัทด้านความปลอดภัยสามารถพัฒนามาตรการรับมือได้อย่างรวดเร็ว

ท้ายที่สุดแล้ว ChatGPT นั้นไม่ได้ดีหรือไม่ดีโดยเนื้อแท้ ดังที่ Zugec ชี้ให้เห็นว่า “ข้อโต้แย้งที่ว่า AI สามารถอำนวยความสะดวกในการพัฒนามัลแวร์อาจนำไปใช้กับสิ่งอื่นๆ ความก้าวหน้าทางเทคโนโลยีที่เป็นประโยชน์ต่อนักพัฒนา เช่น ซอฟต์แวร์โอเพ่นซอร์สหรือการใช้รหัสร่วมกัน แพลตฟอร์ม”

กล่าวอีกนัยหนึ่ง ตราบใดที่การป้องกันยังคงปรับปรุง ภัยคุกคามที่เกิดจากแม้แต่ แชทบอท AI ที่ดีที่สุด อาจไม่มีวันกลายเป็นอันตรายอย่างที่คาดการณ์ไว้เมื่อไม่นานนี้

วิธีดูแลตัวเองให้ปลอดภัย

หากคุณกังวลเกี่ยวกับภัยคุกคามที่เกิดจากแชทบอท AI และมัลแวร์ที่อาจสร้างในทางที่ผิด มีขั้นตอนบางอย่างที่คุณสามารถทำได้เพื่อป้องกันตัวเอง Zugec กล่าวว่า สิ่งสำคัญคือต้องปรับใช้ “แนวทางการป้องกันแบบหลายชั้น” ซึ่งรวมถึง “การใช้โซลูชันการรักษาความปลอดภัยปลายทาง การรักษาซอฟต์แวร์และระบบ ปัจจุบันและยังคงระแวดระวังต่อข้อความหรือคำขอที่น่าสงสัย”

ในขณะเดียวกัน แนะนำให้ล้างไฟล์ที่ระบบแจ้งให้คุณติดตั้งโดยอัตโนมัติเมื่อเยี่ยมชมเว็บไซต์ เมื่อต้องอัปเดตหรือดาวน์โหลดแอป ให้ดาวน์โหลดจากร้านแอปอย่างเป็นทางการหรือเว็บไซต์ของผู้จำหน่ายซอฟต์แวร์ และระมัดระวังเมื่อคลิกที่ผลการค้นหาหรือลงชื่อเข้าใช้เว็บไซต์ — แฮ็กเกอร์สามารถจ่ายเงินเพื่อให้ไซต์หลอกลวงของพวกเขาอยู่ด้านบนสุดของผลการค้นหาและขโมยข้อมูลการเข้าสู่ระบบของคุณด้วย เว็บไซต์ที่คล้ายกันที่สร้างขึ้นอย่างพิถีพิถัน.

ChatGPT ไม่ได้ไปไหน และไม่ใช่มัลแวร์ที่สร้างความเสียหายมากมายทั่วโลก แม้ว่าภัยคุกคามจากความสามารถในการเขียนโค้ดของ ChatGPT อาจถูกมองข้ามในตอนนี้ แต่ความสามารถในการสร้างอีเมลฟิชชิ่งอาจทำให้คุณปวดหัวได้ทุกรูปแบบ แต่ก็เป็นไปได้มากที่จะปกป้องตัวเองจากภัยคุกคามที่เกิดขึ้นและทำให้แน่ใจว่าคุณจะไม่ตกเป็นเหยื่อ ในตอนนี้ คำเตือนมากมาย — และแอปป้องกันไวรัสที่แข็งแกร่ง — สามารถช่วยรักษาอุปกรณ์ของคุณให้ปลอดภัยได้

คำแนะนำของบรรณาธิการ

• Google Bard พูดได้แล้ว แต่จะกลบ ChatGPT ได้ไหม
• ปริมาณการใช้งานเว็บไซต์ ChatGPT ลดลงเป็นครั้งแรก
• คู่แข่ง ChatGPT ของ Apple อาจเขียนโค้ดให้คุณโดยอัตโนมัติ
• ทนายความของนิวยอร์กถูกปรับเพราะใช้คดี ChatGPT ปลอมในบทสรุปทางกฎหมาย
• เว็บเบราว์เซอร์นี้รวม ChatGPT ในรูปแบบใหม่ที่น่าสนใจ