Η Anthropic ανακοινώνει κατάχρηση του Claude για ανάπτυξη πυραύλων στη Υεμένη
Η αμερικανική εταιρεία Anthropic αποκάλυψε σε μια έκθεση για απειλές ότι μια ομάδα δράσης στο βόρειο τμήμα της Υεμένης προσπάθησε να χρησιμοποιήσει τον chatbot ΚΙ Claude για την ανάπτυξη στρατιωτικού λογισμικού ελέγχου.
Ανάλυση των μέσων ενημέρωσης υποδεικνύει ότι πρόκειται για τους αντάρτες Χούθι, οι οποίοι υποστηρίζονται από το Ιράν, αν και η Anthropic δεν τους αναφέρει ονομαστικά.
Σύμφωνα με την έκθεση, η ομάδα χρησιμοποίησε ταυτόχρονα πολλές περιπτώσεις του Claude: η μία έγραφε κώδικα, η άλλη έκανε έρευνα και μια τρίτη ελέγχει τα αποτελέσματα - παρόμοια με μια πραγματική ομάδα προγραμματιστών. Στόχος ήταν η ανάπτυξη λογισμικού ελέγχου πυραύλων, μεταξύ των οποίων ένας βαλλιστικός πύραυλος με εμβέλεια άνω των 2.000 χιλιομέτρων.
Για να παρακάμψουν τα μέτρα ασφαλείας της Anthropic, οι χρήστες διένειμαν τις ερωτήσεις τους σε πολλές ξεχωριστές συνεδρίες, ώστε ο συνολικός σκοπός να μην είναι εμφανής. Η Anthropic δήλωσε ότι κατάφερε να αποκρούσει πολλές, αλλά όχι όλες τις ερωτήσεις.
Κατά τη διάρκεια μιας πραγματικής δοκιμαστικής εκτόξευσης πυραύλου, σημειώθηκε αποτυχία. Λίγες ώρες αργότερα, οι χρήστες ανέβασαν τα δεδομένα της συντριβής ξανά στον Claude για να διαπιστώσουν την αιτία.
Η Anthropic αποκλείστηκε οι λογαριασμοί που εμπλέκονταν και ενημέρωσε τις αρχές ασφαλείας. Ένας εκπρόσωπος των Χούθι, σύμφωνα με την έκθεση, απέρριψε ότι η ομάδα βασίζεται σε δημόσια προσβάσιμες πηγές για την ανάπτυξη όπλων. Ένας ειδικός σε θέματα όπλων αμφιβάλλει επίσης ότι η ομάδα μπορεί να κατασκευάσει λειτουργικά υπερηχητικά όπλα, ακόμη και με τη βοήθεια της ΚΙ.
Η Anthropic προειδοποιεί ότι οι χρήστες είχαν ήδη δημιουργήσει ένα αυτόνομο πακέτο προγραμμάτων εκτός σύνδεσης πριν από την αποκλεισμό, το οποίο μπορεί να συνεχίσει να χρησιμοποιείται χωρίς πρόσβαση στον Claude.
ΓΙΑΤΙ ΕΙΝΑΙ ΣΗΜΑΝΤΙΚΟ
Η περίπτωση δείχνει ότι τα συστήματα ΚΙ, παρά τα μέτρα ασφαλείας, μπορούν να καταχραστούν για την ανάπτυξη επικίνδυνων όπλων, δίνοντας έτσι ικανότητες σε λίγους δράστες που προηγουμένως απαιτούσαν μεγάλες ομάδες ειδικών.
ΤΙ ΜΠΟΡΕΙΣ ΝΑ ΚΑΝΕΙΣ ΤΩΡΑ
- Μείνε σκεπτικός στις υποσχέσεις ασφαλείας της ΚΙ Κανένα σύστημα ΚΙ δεν είναι 100% ασφαλές από κατάχρηση. Μην βασίζεσαι τυφλά στο ότι οι κατασκευαστές μπορούν να αποτρέψουν κάθε κατάχρηση.
- Ενημερώσου για αναφορές κατάχρησης Οι μεγάλες εταιρείες ΚΙ δημοσιεύουν τακτικά εκθέσεις για την ανίχνευση κατάχρησης των συστημάτων τους. Μια ματιά σε αξιόπιστες πηγές ειδήσεων σου βοηθά να αξιολογήσεις καλύτερα τους τρέχοντες κινδύνους.
- Έλεγξε προσεκτικά τις πηγές στις ειδήσεις για συγκρούσεις Οι αναφορές για ανάπτυξη όπλων και συγκρούσεις είναι συχνά πολύπλοκες και μερικές φορές αντιφατικές. Δώσε προσοχή αν πολλά ανεξάρτητα μέσα ενημέρωσης επιβεβαιώνουν τα ίδια γεγονότα.
- Αναφορά ύποπτης χρήσης ΚΙ Αν μάθεις για μια πιθανή κατάχρηση μιας υπηρεσίας ΚΙ, μπορείς να την αναφέρεις στον αντίστοιχο πάροχο μέσω της λειτουργίας αναφοράς του. Έτσι βοηθάς τις εταιρείες να κλείσουν κενά ασφαλείας.