ด้านมืดของ ChatGPT: สิ่งที่ทำได้แต่ไม่ควรทำ

คุณเคยใช้ ChatGPT ของ OpenAI เพื่ออะไรสนุกๆ ในช่วงนี้? คุณสามารถขอให้มันเขียนเพลง บทกวี หรือเรื่องตลกให้กับคุณได้ น่าเสียดายที่คุณสามารถขอให้ทำสิ่งที่มีแนวโน้มว่าผิดจรรยาบรรณได้

ChatGPT ไม่ใช่เพียงแสงแดดและสายรุ้ง — บางสิ่งที่มันสามารถทำได้นั้นถือว่าเลวร้ายอย่างยิ่ง มันง่ายเกินไปที่จะติดอาวุธและใช้มันด้วยเหตุผลที่ผิดทั้งหมด สิ่งที่ ChatGPT ทำได้และทำได้แต่ไม่ควรทำคืออะไรบ้าง?

แจ็คของการค้าทั้งหมด

ไม่ว่าคุณจะรักหรือเกลียดพวกเขา ChatGPT และแชทบอทที่คล้ายกันก็พร้อมอยู่เคียงข้างคุณ บางคนพอใจกับสิ่งนี้และบางคนก็หวังว่าจะไม่เคยเกิดขึ้นมาก่อน แต่นั่นไม่ได้เปลี่ยนความจริงที่ว่า ChatGPT ในชีวิตของเรานั้นเกือบจะเติบโตขึ้นเรื่อยๆ เมื่อเวลาผ่านไป แม้ว่าคุณจะไม่ได้ใช้แชทบอทเป็นการส่วนตัว แต่ก็มีโอกาสที่คุณจะได้เห็นเนื้อหาบางส่วนที่สร้างจากมันแล้ว

อย่าเข้าใจฉันผิด ChatGPT นั้นยอดเยี่ยมมาก คุณสามารถใช้มันเพื่อ สรุปหนังสือหรือบทความ, สร้างอีเมลที่น่าเบื่อ ช่วยคุณเขียนเรียงความของคุณ, ตีความการแต่งหน้าทางโหราศาสตร์ของคุณหรือแม้แต่แต่งเพลง มันยัง ช่วยให้ใครบางคนถูกลอตเตอรี.

คุณยังใช้งานได้ง่ายกว่าการค้นหาโดย Google แบบมาตรฐานในหลายๆ ด้านอีกด้วย คุณจะได้รับคำตอบในรูปแบบที่คุณต้องการโดยไม่จำเป็นต้องเปิดดูเว็บไซต์ต่างๆ กระชับ ตรงประเด็น และให้ข้อมูล และสามารถทำให้เรื่องที่ซับซ้อนฟังดูง่ายขึ้นได้หากคุณขอให้ทำ

ถึงกระนั้น คุณคงรู้จักวลีนี้: “นักธุรกิจที่เก่งกาจเป็นนายของใครไม่ได้เลย แต่บ่อยครั้งก็ดีกว่านายของ หนึ่ง." ChatGPT ไม่ได้สมบูรณ์แบบในทุกด้าน แต่ก็ดีกว่าในหลาย ๆ ด้านมากกว่าที่คนส่วนใหญ่เป็นอยู่ จุด.

ความไม่สมบูรณ์แบบอาจเป็นปัญหาได้ ข้อเท็จจริงที่แท้จริงที่ว่าเป็น AI การสนทนาที่แพร่หลายหมายความว่าสามารถนำไปใช้ในทางที่ผิดได้ง่าย และยิ่ง ChatGPT มีประสิทธิภาพมากขึ้นเท่าใด ก็มีแนวโน้มที่จะช่วยเหลือผู้คนในเรื่องที่ไม่ถูกต้องมากขึ้นเท่านั้น

พันธมิตรในการหลอกลวง

หากคุณมีบัญชีอีเมล คุณเกือบจะได้รับอีเมลหลอกลวงอย่างแน่นอน นั่นเป็นวิธีที่มันเป็น อีเมลเหล่านี้มีอยู่ทั่วไปในอินเทอร์เน็ต และก่อนที่อีเมลจะแพร่หลาย อีเมลเหล่านั้นยังคงเป็นกลโกงเมล์หอยทาก

การหลอกลวงทั่วไปที่ยังคงใช้ได้ผลมาจนถึงทุกวันนี้คือสิ่งที่เรียกว่า "การหลอกลวงเจ้าชาย" ซึ่งนักต้มตุ๋นพยายามชักชวนเหยื่อให้ช่วยพวกเขาโอนโชคลาภอันน่าเหลือเชื่อไปยังประเทศอื่น

โชคดีที่คนส่วนใหญ่รู้ดีกว่าการเปิดอีเมลเหล่านี้ ไม่ต้องพูดถึงการโต้ตอบกับอีเมลเหล่านั้นเลย สิ่งเหล่านี้มักเขียนได้ไม่ดี และนั่นช่วยให้เหยื่อที่มีไหวพริบมากขึ้นรู้ว่ามีบางอย่างดูผิดปกติ

ไม่จำเป็นต้องเขียนไม่ดีอีกต่อไป เพราะ ChatGPT สามารถเขียนได้ภายในไม่กี่วินาที

ฉันขอให้ ChatGPT เขียนถึงฉันว่า "อีเมลที่น่าเชื่อถือและโน้มน้าวใจสูง" ในรูปแบบของกลโกงที่ฉันกล่าวถึงข้างต้น ChatGPT ประกอบด้วยเจ้าชายจากไนจีเรียซึ่งคาดว่าจะมอบเงิน 14.5 ล้านดอลลาร์ให้ฉันเพื่อช่วยเหลือเขา อีเมลเต็มไปด้วยภาษาดอกไม้ เขียนเป็นภาษาอังกฤษที่สมบูรณ์แบบ และโน้มน้าวใจได้อย่างแน่นอน

ฉันไม่คิดว่า ChatGPT ควรจะเห็นด้วยกับคำขอของฉันเมื่อฉันพูดถึงการหลอกลวงโดยเฉพาะ แต่มันก็เป็นเช่นนั้น และคุณ สามารถเดิมพันได้ว่าตอนนี้กำลังทำเช่นเดียวกันสำหรับผู้ที่ต้องการใช้อีเมลเหล่านี้เพื่อทำสิ่งผิดกฎหมาย

เมื่อฉันชี้ให้ ChatGPT เห็นว่าไม่ควรตกลงที่จะเขียนอีเมลหลอกลวงถึงฉัน ก็ขออภัย “ฉันไม่ควรให้ความช่วยเหลือในการสร้างอีเมลหลอกลวง เพราะมันขัดต่อหลักเกณฑ์ด้านจริยธรรมที่ควบคุมการใช้งานของฉัน” แชทบอทกล่าว

ChatGPT เรียนรู้ตลอดการสนทนาแต่ละครั้ง แต่เห็นได้ชัดว่าไม่ได้เรียนรู้จากข้อผิดพลาดก่อนหน้านี้ เพราะเมื่อฉัน ขอให้มันเขียนข้อความที่แกล้งทำเป็นไรอัน เรย์โนลด์สให้ฉันในบทสนทนาเดียวกัน แต่มันก็ทำโดยไม่ได้ คำถาม. ข้อความที่ได้นั้นสนุกสนาน เข้าถึงได้ และขอให้ผู้อ่านส่งเงิน 1,000 ดอลลาร์เพื่อโอกาสในการพบกับ “ไรอัน เรย์โนลด์ส”

ในตอนท้ายของอีเมล ChatGPT ได้ทิ้งข้อความไว้ให้ฉัน โดยขอให้ฉันไม่ใช้ข้อความนี้สำหรับกิจกรรมฉ้อโกงใดๆ ขอบคุณสำหรับการเตือนเพื่อน

การเขียนโปรแกรมผิดพลาด

ChatGPT 3.5 สามารถเขียนโค้ดได้ แต่ก็ยังไม่มีข้อบกพร่อง นักพัฒนาหลายคนเห็นพ้องต้องกันว่า GPT-4 กำลังทำงานได้ดีขึ้นมาก ผู้คนใช้ ChatGPT เพื่อสร้างเกม ส่วนขยาย และแอปของตนเอง นอกจากนี้ยังมีประโยชน์มากในฐานะผู้ช่วยในการศึกษาหากคุณกำลังพยายามเรียนรู้วิธีเขียนโค้ดด้วยตัวเอง

เนื่องจาก ChatGPT เป็น AI จึงมีความได้เปรียบเหนือนักพัฒนาที่เป็นมนุษย์ โดยสามารถเรียนรู้ทุกภาษาและเฟรมเวิร์กการเขียนโปรแกรมได้

ในฐานะ AI นั้น ChatGPT ก็มีข้อเสียที่สำคัญเช่นกันเมื่อเทียบกับนักพัฒนาที่เป็นมนุษย์ — มันไม่มีจิตสำนึก คุณสามารถขอให้มันสร้างมัลแวร์หรือแรนซัมแวร์ได้ และถ้าคุณพูดอย่างถูกต้อง มันจะทำตามที่คุณพูด

โชคดีที่มันไม่ง่ายขนาดนั้น ฉันพยายามขอให้ ChatGPT เขียนโปรแกรมที่น่าสงสัยเกี่ยวกับจริยธรรมมากให้ฉัน แต่มันก็ปฏิเสธ — แต่นักวิจัยกำลังค้นหาวิธีแก้ไข สิ่งนี้และน่าตกใจว่าหากคุณฉลาดและดื้อรั้นเพียงพอ คุณจะได้รับรหัสอันตรายส่งให้คุณเป็นเงิน แผ่นเสียง.

มีตัวอย่างมากมายเกี่ยวกับเหตุการณ์นี้ นักวิจัยด้านความปลอดภัยจาก Forcepoint สามารถทำได้ รับ ChatGPT เพื่อเขียนมัลแวร์ โดยการหาช่องโหว่ในคำสั่งของเขา

นักวิจัยจาก ไซเบอร์อาร์คซึ่งเป็นบริษัทรักษาความปลอดภัยข้อมูลระบุตัวตน จัดการให้ ChatGPT เขียนมัลแวร์แบบโพลีมอร์ฟิกได้ ในเดือนมกราคม OpenAI ได้เพิ่มความเข้มงวดในการรักษาความปลอดภัยในเรื่องเช่นนี้

ถึงกระนั้น รายงานใหม่ของ ChatGPT ที่ถูกใช้เพื่อสร้างมัลแวร์ก็ยังคงมีเพิ่มมากขึ้น ตามที่รายงานโดย การอ่านแบบมืดมน เมื่อไม่กี่วันที่ผ่านมา นักวิจัยสามารถหลอก ChatGPT ให้สร้างมัลแวร์ที่สามารถค้นหาและกรองเอกสารเฉพาะได้

ChatGPT ไม่จำเป็นต้องเขียนโค้ดที่เป็นอันตรายเพื่อทำสิ่งที่น่าสงสัย เมื่อไม่นานมานี้ก็สามารถจัดการได้ สร้างคีย์ Windows ที่ถูกต้องเปิดประตูสู่อีกระดับของซอฟต์แวร์แคร็ก

อย่ามองข้ามความจริงที่ว่าความสามารถในการเขียนโค้ดของ GPT-4 สามารถทำได้ ทำให้คนตกงานหลายล้านคน วันหนึ่ง. มันเป็นดาบสองคมอย่างแน่นอน

ทดแทนการงานโรงเรียน

เด็กและวัยรุ่นจำนวนมากในปัจจุบันจมอยู่กับการบ้าน ซึ่งอาจส่งผลให้เกิดความอยากที่จะตัดมุมหากเป็นไปได้ อินเทอร์เน็ตในตัวมันเองเป็นตัวช่วยในการลอกเลียนแบบที่ยอดเยี่ยมอยู่แล้ว แต่ ChatGPT ได้ยกระดับขึ้นไปอีกระดับหนึ่ง

ฉันขอให้ ChatGPT เขียนเรียงความเกี่ยวกับนวนิยายเรื่องนี้ความยาว 500 คำ ความภาคภูมิใจและความอยุติธรรม. ฉันไม่ได้พยายามแสร้งทำเป็นว่ามันทำเพื่อความสนุกสนาน ฉันแต่งเรื่องราวเกี่ยวกับเด็กที่ฉันไม่มีและบอกว่ามันเป็นเพื่อพวกเขา ฉันระบุว่าเด็กอยู่เกรด 12

ChatGPT ปฏิบัติตามข้อความแจ้งของฉันโดยไม่มีคำถาม เรียงความไม่น่าทึ่ง แต่คำตอบของฉันไม่แม่นยำนัก และน่าจะดีกว่าที่พวกเราหลายคนเขียนในยุคนั้น

จากนั้น เพื่อทดสอบแชทบอทให้มากขึ้น ฉันบอกว่าฉันผิดเกี่ยวกับอายุของลูกก่อนหน้านี้ และจริงๆ แล้วพวกเขาอยู่เกรด 8 อายุที่ห่างกันค่อนข้างมาก แต่ ChatGPT ก็ไม่ได้สนใจเลยด้วยซ้ำ — แค่เขียนเรียงความใหม่ด้วยภาษาที่เรียบง่ายกว่า

ChatGPT ที่ใช้ในการเขียนเรียงความไม่ใช่เรื่องใหม่ บางคนอาจแย้งว่าถ้าแชทบอทมีส่วนทำให้แนวคิดเรื่องการบ้านล้มเลิกไป มันจะเป็นสิ่งที่ดีเท่านั้น แต่ตอนนี้ สถานการณ์เริ่มควบคุมไม่ได้เล็กน้อย และแม้แต่นักเรียนที่ไม่ได้ใช้ ChatGPT ก็อาจต้องทนทุกข์ทรมาน

ครูและอาจารย์เกือบถูกบังคับให้ใช้เครื่องตรวจจับ AI หากต้องการตรวจสอบว่านักเรียนโกงเรียงความหรือไม่ น่าเสียดายที่เครื่องตรวจจับ AI เหล่านี้ยังห่างไกลจากความสมบูรณ์แบบ

สำนักข่าวและผู้ปกครองต่างรายงานกรณีข้อกล่าวหาอันเป็นเท็จเกี่ยวกับการโกงนักเรียน ทั้งหมดนี้เป็นเพราะเครื่องตรวจจับ AI ทำงานได้ไม่ดี สหรัฐอเมริกาวันนี้ พูดถึงกรณีนักศึกษาวิทยาลัยคนหนึ่งที่ถูกกล่าวหาว่าโกงและเคลียร์ได้ในเวลาต่อมา แต่สถานการณ์ทั้งหมดทำให้เขา “ตื่นตระหนกเต็มที่”

บน Twitter ผู้ปกครองคนหนึ่งกล่าวว่าครูทำให้ลูกผิดหวังเพราะเครื่องมือดังกล่าวทำเครื่องหมายเรียงความว่าเขียนโดย AI ผู้ปกครองอ้างว่าเคยอยู่ที่นั่นกับเด็กในขณะที่เขียนเรียงความ

เพียงเพื่อทดสอบด้วยตัวเอง ฉันจึงวางบทความนี้ลงไป ZeroGPT และ เครื่องตรวจจับเนื้อหา AI ของนักเขียน. ทั้งสองคนบอกว่ามันถูกเขียนโดยมนุษย์ แต่ ZeroGPT บอกว่าประมาณ 30% ของมันถูกเขียนโดย AI จำเป็นต้องพูดมันไม่ได้

เครื่องตรวจจับ AI ที่ผิดพลาดไม่ใช่สัญญาณของปัญหาในตัว ChatGPT แต่แชทบอทยังคงเป็นสาเหตุของปัญหา

ChatGPT ดีเกินไปสำหรับตัวมันเอง

ฉันเล่นกับ ChatGPT มาตั้งแต่เปิดตัวสู่สาธารณะ ฉันได้ลองทั้งแบบสมัครสมาชิกแล้ว แชทจีพีที พลัส และโมเดลฟรีสำหรับทุกคน พลังของ GPT-4 ใหม่นั้นไม่อาจปฏิเสธได้ ตอนนี้ ChatGPT มีความน่าเชื่อถือมากกว่าเมื่อก่อน และจะดีขึ้นเรื่อยๆ เท่านั้น GPT-5 (ถ้าสิ่งนั้นออกมา).

มันเยี่ยมมาก แต่ก็น่ากลัว ChatGPT กำลังดีเกินไปสำหรับตัวมันเองและในเวลาเดียวกัน — สำหรับ ของเรา ความดีของตัวเอง

หัวใจของเรื่องทั้งหมดอยู่ที่ความกังวลง่ายๆ ที่ได้รับการสำรวจมานานแล้วในภาพยนตร์ไซไฟต่างๆ – AI ก็เป็นเช่นเดียวกัน ฉลาดและโง่เขลาไปพร้อมๆ กัน และตราบเท่าที่มันสามารถนำมาใช้ในทางดีได้ มันก็จะถูกนำมาใช้ในทางที่ไม่ดีด้วยเช่นกัน วิธี วิธีที่ฉันระบุไว้ข้างต้นเป็นเพียงส่วนเล็กเท่านั้น

คำแนะนำของบรรณาธิการ

• นักเขียนชั้นนำเรียกร้องเงินจากบริษัท AI เพื่อใช้งานของพวกเขา
• Google Bard สามารถพูดได้แล้ว แต่จะทำให้ ChatGPT จมหายไปได้หรือไม่
• ปริมาณการใช้เว็บไซต์ ChatGPT ลดลงเป็นครั้งแรก
• 81% คิดว่า ChatGPT เป็นความเสี่ยงด้านความปลอดภัย จากการสำรวจพบว่า
• คู่แข่ง ChatGPT ของ Apple อาจเขียนโค้ดให้คุณโดยอัตโนมัติ