Είναι το ChatGPT μια καταστροφή στον κυβερνοχώρο; Ρωτήσαμε τους ειδικούς

ChatGPT αισθάνεται αρκετά αναπόδραστο αυτή τη στιγμή, με ιστορίες θαυμάζοντας τις ικανότητές του φαινομενικά όπου κι αν κοιτάξεις. Είδαμε πώς μπορεί να γράφει μουσική, να αποδίδει τρισδιάστατα κινούμενα σχέδια και να συνθέτει μουσική. Εάν μπορείτε να το σκεφτείτε, το ChatGPT μπορεί πιθανώς να το δει.

Και αυτό ακριβώς είναι το πρόβλημα. Υπάρχει κάθε είδους χειραψία στην τεχνολογική κοινότητα αυτή τη στιγμή, με τους σχολιαστές να ανησυχούν συχνά ότι η τεχνητή νοημοσύνη αφορά να οδηγήσει σε μια αποκάλυψη κακόβουλου λογισμικού με ακόμη και τους πιο πράσινους χάκερ να δημιουργούν ασταμάτητους trojans και ransomware.

Είναι όμως αυτό στην πραγματικότητα αλήθεια; Για να το μάθω, μίλησα με αρκετούς εμπειρογνώμονες στον κυβερνοχώρο για να δω τι έκαναν για τις ικανότητες κακόβουλου λογισμικού του ChatGPT, αν ανησυχούσαν για την πιθανότητα κακής χρήσης του και τι μπορείτε να κάνετε για να προστατευτείτε σε αυτό το νέο που ανατέλλει κόσμος.

Αμφισβητούμενες ικανότητες

Ένα από τα κύρια αξιοθέατα του ChatGPT είναι η ικανότητά του να εκτελεί περίπλοκες εργασίες με λίγες μόνο απλές προτροπές, ειδικά στον κόσμο του προγραμματισμού. Ο φόβος είναι ότι αυτό θα μείωνε τα εμπόδια εισόδου για τη δημιουργία κακόβουλου λογισμικού, διακινδυνεύοντας ενδεχομένως τον πολλαπλασιασμό των συγγραφέων ιών που βασίζονται σε εργαλεία τεχνητής νοημοσύνης για να κάνουν τη βαρύτητα για αυτούς.

Ο Joshua Long, Chief Security Analyst στην εταιρεία ασφαλείας Intego, επεξηγεί αυτό το σημείο. «Όπως κάθε εργαλείο στον φυσικό ή εικονικό κόσμο, ο κώδικας του υπολογιστή μπορεί να χρησιμοποιηθεί για καλό ή για κακό», εξηγεί. «Αν ζητήσετε κώδικα που μπορεί να κρυπτογραφήσει ένα αρχείο, για παράδειγμα, ένα ρομπότ όπως το ChatGPT δεν μπορεί να γνωρίζει την πραγματική σας πρόθεση. Εάν ισχυρίζεστε ότι χρειάζεστε κωδικό κρυπτογράφησης για να προστατεύσετε τα δικά σας αρχεία, το bot θα σας πιστέψει — ακόμα κι αν ο πραγματικός σας στόχος είναι να δημιουργήσετε ransomware».

Το ChatGPT έχει διάφορες διασφαλίσεις για την καταπολέμηση αυτού του είδους των πραγμάτων και το κόλπο για τους δημιουργούς ιών είναι να παρακάμψουν αυτά τα προστατευτικά κιγκλιδώματα. Ζητήστε ευθέως από το ChatGPT να δημιουργήσει έναν αποτελεσματικό ιό και απλώς θα αρνηθεί, απαιτώντας από εσάς να γίνετε δημιουργικοί για να τον ξεγελάσετε και να τον κάνετε να κάνει τις προσφορές σας ενάντια στην καλύτερη κρίση του. Λαμβάνοντας υπόψη τι μπορούν να κάνουν οι άνθρωποι jailbreak στο ChatGPT, θεωρητικά η πιθανότητα δημιουργίας κακόβουλου λογισμικού με χρήση τεχνητής νοημοσύνης είναι δυνατή. Στην πραγματικότητα, έχει ήδη αποδειχθεί, ώστε να γνωρίζουμε ότι είναι δυνατό.

Δεν πανικοβάλλονται όμως όλοι. Ο Martin Zugec, ο Διευθυντής Τεχνικών Λύσεων της Bitdefender, πιστεύει ότι οι κίνδυνοι εξακολουθούν να είναι αρκετά μικροί. «Η πλειονότητα των αρχαρίων συντάξεων κακόβουλου λογισμικού δεν είναι πιθανό να διαθέτει τις δεξιότητες που απαιτούνται για να παρακάμψει αυτή την ασφάλεια μέτρα, και ως εκ τούτου ο κίνδυνος που δημιουργείται από κακόβουλο λογισμικό που δημιουργείται από chatbot παραμένει σχετικά χαμηλό αυτήν τη στιγμή. λέει.

«Το κακόβουλο λογισμικό που δημιουργείται από το Chatbot είναι ένα δημοφιλές θέμα συζήτησης τον τελευταίο καιρό», συνεχίζει ο Zugec, «αλλά προς το παρόν υπάρχει κανένα στοιχείο που να υποδηλώνει ότι αποτελεί σημαντική απειλή στο εγγύς μέλλον». Και υπάρχει ένας απλός λόγος για αυτό. Σύμφωνα με τον Zugec, «η ποιότητα του κώδικα κακόβουλου λογισμικού που παράγεται από chatbot τείνει να είναι χαμηλή, καθιστώντας τον λιγότερο ελκυστική επιλογή για έμπειρους συντάκτες κακόβουλου λογισμικού που μπορούν να βρουν καλύτερα παραδείγματα σε δημόσιο κώδικα αποθετήρια».

Έτσι, ενώ το ChatGPT είναι σίγουρα δυνατό να δημιουργήσει κακόβουλο κώδικα, όποιος έχει τις δεξιότητες που απαιτείται για τον χειρισμό του chatbot AI είναι πιθανό να μην εντυπωσιαστεί με τον κακό κώδικα που δημιουργεί, Zugec πιστεύει.

Αλλά όπως μπορείτε να μαντέψετε, η γενετική τεχνητή νοημοσύνη μόλις ξεκινάει. Και για Long, αυτό σημαίνει ότι οι κίνδυνοι hacking που εγκυμονεί το ChatGPT δεν έχουν αποσαφηνιστεί ακόμα.

«Είναι πιθανό η άνοδος των ρομπότ τεχνητής νοημοσύνης που βασίζονται σε LLM να οδηγήσει σε μικρή έως μέτρια αύξηση του νέου κακόβουλου λογισμικού ή σε βελτίωση του κακόβουλου λογισμικού δυνατότητες και αποφυγή προστασίας από ιούς», λέει ο Long, χρησιμοποιώντας ένα ακρωνύμιο για τα μεγάλα μοντέλα γλώσσας που χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης όπως το ChatGPT για τη δημιουργία τους. η γνώση. «Σε αυτό το σημείο, ωστόσο, δεν είναι σαφές πόσο άμεσο αντίκτυπο έχουν τα εργαλεία όπως το ChatGPT, ή θα έχουν, σε απειλές κακόβουλου λογισμικού στον πραγματικό κόσμο».

Ο φίλος ενός ψαρά

Εάν οι δεξιότητες σύνταξης κώδικα του ChatGPT δεν είναι ακόμη στο μηδέν, θα μπορούσε να αποτελέσει απειλή με άλλους τρόπους, όπως με τη σύνταξη πιο αποτελεσματικών καμπανιών ηλεκτρονικού ψαρέματος και κοινωνικής μηχανικής; Εδώ, οι αναλυτές συμφωνούν ότι υπάρχουν πολύ περισσότερες πιθανότητες για κακή χρήση.

Για πολλές εταιρείες, ένας πιθανός φορέας επίθεσης είναι οι υπάλληλοι της εταιρείας, οι οποίοι μπορούν να εξαπατηθούν ή να παραποιηθούν ώστε να παρέχουν ακούσια πρόσβαση εκεί που δεν θα έπρεπε. Οι χάκερ το γνωρίζουν αυτό και υπήρξαν πολλές επιθέσεις κοινωνικής μηχανικής υψηλού προφίλ που έχουν αποδειχθεί καταστροφικές. Για παράδειγμα, πιστεύεται ότι ο όμιλος Lazarus της Βόρειας Κορέας ξεκίνησε τη λειτουργία του Εισβολή 2014 στα συστήματα της Sony — με αποτέλεσμα τη διαρροή ακυκλοφόρητων ταινιών και προσωπικών πληροφοριών — πλαστοπροσωπώντας έναν υπεύθυνο πρόσληψης εργασίας και βάζοντας έναν υπάλληλο της Sony να ανοίξει ένα μολυσμένο αρχείο.

Αυτός είναι ένας τομέας όπου το ChatGPT θα μπορούσε να βοηθήσει δραματικά τους χάκερ και τους phishers να βελτιώσουν τη δουλειά τους. Εάν, για παράδειγμα, τα Αγγλικά δεν είναι η μητρική γλώσσα του παράγοντα απειλής, θα μπορούσαν να χρησιμοποιήσουν ένα chatbot AI για να γράψουν ένα πειστικό ηλεκτρονικό μήνυμα ηλεκτρονικού ψαρέματος για αυτούς που προορίζεται να στοχεύσει τους Αγγλόφωνους. Ή θα μπορούσε να χρησιμοποιηθεί για τη γρήγορη δημιουργία μεγάλου αριθμού πειστικών μηνυμάτων σε πολύ λιγότερο χρόνο από ό, τι θα χρειαζόταν οι παράγοντες ανθρώπινης απειλής για να κάνουν το ίδιο έργο.

Τα πράγματα θα μπορούσαν να γίνουν ακόμη χειρότερα όταν μπαίνουν και άλλα εργαλεία τεχνητής νοημοσύνης στο μείγμα. Όπως υπέθεσαν οι Karen Renaud, Merrill Warkentin και George Westerman Ανασκόπηση Sloan Management του MIT, ένας απατεώνας θα μπορούσε να δημιουργήσει ένα σενάριο χρησιμοποιώντας το ChatGPT και να το διαβάσει μέσω τηλεφώνου από μια βαθιά ψεύτικη φωνή που υποδύεται τον Διευθύνοντα Σύμβουλο μιας εταιρείας. Σε έναν υπάλληλο της εταιρείας που λαμβάνει την κλήση, η φωνή θα ακουγόταν - και θα ενεργούσε - ακριβώς όπως το αφεντικό του. Εάν αυτή η φωνή ζήτησε από τον υπάλληλο να μεταφέρει ένα χρηματικό ποσό σε έναν νέο τραπεζικό λογαριασμό, ο υπάλληλος μπορεί κάλλιστα να πέσει στο τέχνασμα λόγω της σεβασμού που πληρώνει το αφεντικό του.

Όπως το θέτει ο Λονγκ, «δεν χρειάζεται πλέον [οι απειλές] να βασίζονται στις δικές τους (συχνά ατελείς) δεξιότητες στα αγγλικά για να γράψουν ένα πειστικό ηλεκτρονικό μήνυμα απάτης. Ούτε πρέπει να βρουν τη δική τους έξυπνη διατύπωση και να την εκτελέσουν μέσω του Google Translate. Αντίθετα, το ChatGPT – που δεν έχει πλήρη επίγνωση της πιθανότητας κακόβουλης πρόθεσης πίσω από το αίτημα – θα γράψει ευχαρίστως ολόκληρο το κείμενο του ηλεκτρονικού μηνύματος απάτης σε οποιαδήποτε επιθυμητή γλώσσα».

Και το μόνο που απαιτείται για να κάνει το ChatGPT να το κάνει αυτό είναι κάποια έξυπνη προτροπή.

Μπορεί το ChatGPT να ενισχύσει την κυβερνοασφάλειά σας;

Ωστόσο, δεν είναι όλα άσχημα. Τα ίδια χαρακτηριστικά που καθιστούν το ChatGPT ελκυστικό εργαλείο για τους παράγοντες απειλών - η ταχύτητά του, η ικανότητά του να βρίσκει ελαττώματα στον κώδικα - το καθιστούν χρήσιμο πόρο για τους ερευνητές στον τομέα της ασφάλειας στον κυβερνοχώρο και τις εταιρείες προστασίας από ιούς.

Ο Long επισημαίνει ότι οι ερευνητές χρησιμοποιούν ήδη chatbots AI για να βρουν άγνωστα ακόμη («zero-day») τρωτά σημεία στον κώδικα, απλά ανεβάζοντας τον κώδικα και ζητώντας από το ChatGPT να δει αν μπορεί να εντοπίσει πιθανές αδυναμίες. Αυτό σημαίνει ότι η ίδια μεθοδολογία που θα μπορούσε να αποδυναμώσει τις άμυνες μπορεί να χρησιμοποιηθεί για τη στήριξή τους.

Και ενώ η κύρια έλξη του ChatGPT για τους παράγοντες απειλών μπορεί να βρίσκεται στην ικανότητά του να γράφει εύλογα μηνύματα ηλεκτρονικού ψαρέματος, Αυτά τα ίδια ταλέντα μπορούν να βοηθήσουν στην εκπαίδευση των εταιρειών και των χρηστών σχετικά με το τι πρέπει να προσέξουν, προκειμένου να αποφευχθεί η απάτη τους εαυτούς τους. Θα μπορούσε επίσης να χρησιμοποιηθεί για την αναστροφή της μηχανικής κακόβουλου λογισμικού, βοηθώντας τους ερευνητές και τις εταιρείες ασφαλείας να αναπτύξουν γρήγορα αντίμετρα.

Τελικά, το ChatGPT από μόνο του δεν είναι εγγενώς καλό ή κακό. Όπως επισημαίνει ο Zugec, «Το επιχείρημα ότι η τεχνητή νοημοσύνη μπορεί να διευκολύνει την ανάπτυξη κακόβουλου λογισμικού θα μπορούσε να ισχύει για οποιοδήποτε άλλο τεχνολογική πρόοδος που έχει ωφελήσει τους προγραμματιστές, όπως λογισμικό ανοιχτού κώδικα ή κοινή χρήση κώδικα πλατφόρμες."

Με άλλα λόγια, όσο οι διασφαλίσεις συνεχίζουν να βελτιώνονται, η απειλή που θέτουν ακόμη και οι τα καλύτερα chatbot AI μπορεί να μην γίνει ποτέ τόσο επικίνδυνο όσο έχει προβλεφθεί πρόσφατα.

Πώς να κρατήσετε τον εαυτό σας ασφαλή

Εάν ανησυχείτε για τις απειλές που δημιουργούνται από τα chatbot AI και το κακόβουλο λογισμικό που μπορεί να γίνει κατάχρηση για τη δημιουργία τους, υπάρχουν ορισμένα βήματα που μπορείτε να ακολουθήσετε για να προστατευθείτε. Ο Zugec λέει ότι είναι σημαντικό να υιοθετήσουμε μια "προσέγγιση άμυνας πολλαπλών επιπέδων" που περιλαμβάνει "εφαρμογή λύσεων ασφάλειας τελικού σημείου, διατήρηση λογισμικού και συστημάτων ενημερωμένο, και παραμένοντας σε επαγρύπνηση έναντι ύποπτων μηνυμάτων ή αιτημάτων."

Η Long, εν τω μεταξύ, συνιστά να αποφεύγετε τα αρχεία που σας ζητείται να εγκαταστήσετε αυτόματα όταν επισκέπτεστε έναν ιστότοπο. Όταν πρόκειται για ενημέρωση ή λήψη μιας εφαρμογής, αποκτήστε την από το επίσημο κατάστημα εφαρμογών ή τον ιστότοπο του προμηθευτή λογισμικού. Και να είστε προσεκτικοί όταν κάνετε κλικ στα αποτελέσματα αναζήτησης ή όταν συνδέεστε σε έναν ιστότοπο — οι χάκερ μπορούν απλώς να πληρώσουν για να τοποθετήσουν τους ιστότοπους απάτης στην κορυφή των αποτελεσμάτων αναζήτησης και να κλέψουν τα στοιχεία σύνδεσής σας με προσεκτικά δημιουργημένοι όμοιοι ιστότοποι.

Το ChatGPT δεν πάει πουθενά, ούτε και το κακόβουλο λογισμικό που προκαλεί τόση ζημιά σε όλο τον κόσμο. Ενώ η απειλή από την ικανότητα κωδικοποίησης του ChatGPT μπορεί να είναι υπερβολική προς το παρόν, η επάρκειά του στη δημιουργία email ηλεκτρονικού ψαρέματος θα μπορούσε να προκαλέσει κάθε είδους πονοκεφάλους. Ωστόσο, είναι πολύ πιθανό να προστατεύσετε τον εαυτό σας από την απειλή που θέτει και να διασφαλίσετε ότι δεν θα πέσετε θύμα. Αυτήν τη στιγμή, άφθονη προσοχή — και μια σταθερή εφαρμογή προστασίας από ιούς — μπορούν να σας βοηθήσουν να διατηρήσετε τις συσκευές σας ασφαλείς και υγιείς.

Συστάσεις των συντακτών

• Το Google Bard μπορεί τώρα να μιλήσει, αλλά μπορεί να πνίξει το ChatGPT;
• Η επισκεψιμότητα του ιστότοπου ChatGPT μειώθηκε για πρώτη φορά
• Ο αντίπαλος ChatGPT της Apple μπορεί να γράψει αυτόματα κώδικα για εσάς
• Οι δικηγόροι της Νέας Υόρκης επιβλήθηκαν πρόστιμο για χρήση ψεύτικων υποθέσεων ChatGPT σε νομική συνοπτική συντομία
• Αυτό το πρόγραμμα περιήγησης ιστού ενσωματώνει το ChatGPT με έναν συναρπαστικό νέο τρόπο