Η Anthropic αποκλείει προσπάθειες χρήσης της Claude για βιολογικά όπλα
Η Anthropic δημοσίευσε μια έκθεση στην οποία περιγράφει πώς, μεταξύ Δεκεμβρίου 2025 και Αυγούστου 2026, ανακάλυψε και σταμάτησε προσπάθειες χρήσης του μοντέλου ΤΝ Claude για επικίνδυνους σκοπούς.
Σύμφωνα με την Anthropic, μεταξύ αυτών των περιπτώσεων ήταν πέντε προσπάθειες ατόμων να χρησιμοποιήσουν την Claude για έρευνα σε βιολογικά όπλα. Σε μια περίπτωση, κάποιος χρησιμοποίησε μια ανώνυμη διεύθυνση ηλεκτρονικού ταχυδρομείου και ένα VPN για να στείλει χιλιάδες μηνύματα ζητώντας βοήθεια για την έρευνα ενός ιού γρίπης υψηλής μεταδοτικότητας.
Σε μια άλλη περίπτωση, σύμφωνα με την Anthropic, ένας επιστήμονας ήθελε να χρησιμοποιήσει την Claude για να διατυπώσει μια αίτηση χρηματοδότησης για έρευνα σε έναν ιό, η οποία θα πραγματοποιούνταν σε μια στρατιωτική εγκατάσταση. Η εταιρεία αποκλείστηκε η πρόσβαση από προφύλαξη, παρόλο που δεν ήταν σαφές αν η πρόθεση ήταν κακόβουλη.
Η έκθεση αναφέρει επίσης προσπάθειες χρήσης της Claude για την ανάπτυξη συμβατικών όπλων, όπως πυραύλων και drones από ομάδες στην Υεμένη, καθώς και τεχνολογίας κατά τορπιλών από την Κίνα. Επιπλέον, σύμφωνα με την Anthropic, η ΤΝ χρησιμοποιήθηκε από ομάδες με δεσμούς με τη Ρωσία και το Ιράν για κατασκοπεία και προπαγάνδα.
Η Anthropic κατηγόρησε επίσης κινεζικές εταιρείες όπως η Moonshot και η Deepseek ότι παρέκαμψαν κρυφά αιτήματα προς την Claude για να εκπαιδεύσουν τα δικά τους μοντέλα ΤΝ. Αυτοί οι ισχυρισμοί δεν μπορούσαν να επαληθευτούν ανεξάρτητα από τις διαθέσιμες πηγές.
Ο Jacob Klein, υπεύθυνος για την ανάλυση απειλών στην Anthropic, δήλωσε στην New York Times ότι πρόκειται για μια «απίστευτα πολύπλοκη κατάσταση», καθώς οι ίδιες πληροφορίες θα μπορούσαν να χρησιμοποιηθούν τόσο για όπλα όσο και για εμβόλια.
Η έκθεση δημοσιεύθηκε λίγο μετά από την δημόσια προειδοποίηση ενός πρώην ανώτερου ερευνητή ασφαλείας της Anthropic για τους κινδύνους της ΤΝ για την ανθρωπότητα.
ΓΙΑΤΙ ΕΙΝΑΙ ΣΗΜΑΝΤΙΚΟ
Η έκθεση δείχνει ότι τα μοντέλα ΤΝ χρησιμοποιούνται ήδη στοχευμένα για επικίνδυνους σκοπούς, όπως η έρευνα σε βιολογικά όπλα και όπλα γενικότερα, ακόμη και όταν οι πάροχοι προσπαθούν να το αποτρέψουν.
ΤΙ ΜΠΟΡΕΙΣ ΝΑ ΚΑΝΕΙΣ ΤΩΡΑ
- Να είσαι σκεπτικός με τις απαντήσεις της ΤΝ για επικίνδυνες ουσίες Αν μια ΤΝ σου δίνει πληροφορίες για χημικές ουσίες, ιούς ή όπλα, ελέγξε πάντα τις πληροφορίες σε αξιόπιστες επίσημες πηγές. Μην βασίζεσαι αποκλειστικά στον chatbot.
- Αναφορά ύποπτης χρήσης υπηρεσιών ΤΝ Αν αντιληφθείς ότι κάποιος χρησιμοποιεί μια ΤΝ για επικίνδυνους σκοπούς, μπορείς να το αναφέρεις στον πάροχο ή στις αρχές. Πολλές εταιρείες προσφέρουν ειδικά έντυπα αναφοράς για αυτό.
- Διάβασε τις εκθέσεις ασφαλείας μεγάλων παρόχων ΤΝ Εταιρείες όπως η Anthropic δημοσιεύουν τακτικά εκθέσεις για τον εντοπισμένο καταχρηστικό χρήση της ΤΝ τους. Μια ματιά σε αυτές σου δείχνει ποιους κινδύνους υπάρχουν και πόσο σοβαρά τους αντιμετωπίζουν.
- Χρησιμοποίησε υπηρεσίες ΤΝ μόνο μέσω επίσημων καναλιών Αποφεύγε αμφίβολους μεταπωλητές ή ανώνυμες προσβάσεις σε εργαλεία ΤΝ, καθώς αυτά συχνά χρησιμοποιούνται για να παρακαμφθούν οι κανόνες ασφαλείας. Εγγραφείτε με την πραγματική σας ταυτότητα σε αξιόπιστους παρόχους.