Anthropic: επικίνδυνες καταχρήσεις του Claude — από πυραύλους έως Ταϊβάν

Η Anthropic αναφέρει ότι έχει αποτρέψει προσπάθειες χρήσης του Claude για ανάπτυξη όπλων, μαζική παρακολούθηση και ενδεχομένως επικίνδυνη βιολογική έρευνα.

Οι περιπτώσεις έχουν σημασία επειδή η AI μπορεί να συμπυκνώσει τεχνική δουλειά που κάποτε απαιτούσε ομάδες και μεγαλύτερα χρονοδιαγράμματα.

Οι περιπτώσεις εμφανίζονται στην αναφορά απειλών της Anthropic (September 10), που καλύπτει δραστηριότητα ανιχνευμένη μεταξύ December 2025 και August 2026.

Η εταιρεία ανακοίνωσε ότι διέγραψε λογαριασμούς, ενίσχυσε τα μέτρα ασφαλείας και κοινοποίησε πληροφορίες στις αρχές.

Η αναφορά δημοσιεύθηκε λίγες ημέρες αφότου ο ερευνητής της Anthropic Jacob Coxon παραιτήθηκε, προειδοποιώντας ότι τα εργαστήρια αιχμής κινούνται προς αυτοβελτιούμενη υπερανθρώπινη νοημοσύνη χωρίς να γνωρίζουν πώς να ελέγξουν με ασφάλεια όσα κατασκευάζουν.

Η Anthropic αποκαλύπτει τις πλέον ανησυχητικές περιπτώσεις κατάχρησης του Claude

1. Κύτταρο στην Υεμένη χρησιμοποίησε τον Claude ως ομάδα μηχανικών λογισμικού πυραύλων

Η πρώτη περίπτωση αφορούσε ένα κύτταρο στη βόρεια Υεμένη που προωθούσε τρία προγράμματα καθοδηγούμενων όπλων.

Η Anthropic ανέφερε ότι η ομάδα ανέπτυσσε έναν καθοδηγούμενο πύραυλο με υπολογιστή πτήσης κλάσης κινητού τηλεφώνου, έναν πολυσταδιακό βαλλιστικό πύραυλο με δηλωμένο βεληνεκές πάνω από 2,000 kilometres, και την οικογένεια πυραύλων R2000 που περιλάμβανε και μια παραλλαγή hypersonic-glide.

Η ομάδα χρησιμοποίησε το Claude Code «αντί ανθρώπινων μηχανικών λογισμικού», αναθέτοντας στιγμιότυπα του μοντέλου σε κωδικοποίηση, έρευνα και ανασκόπηση κώδικα.

Οι δράστες πραγματοποίησαν δοκιμαστική βολή ενός καθοδηγούμενου πυραύλου. Η Anthropic είπε ότι η δοκιμή φαινόταν να αποτυγχάνει, με την ομάδα να επιστρέφει στον Claude εντός ωρών για να διερευνήσει τι πήγε στραβά.

Η εταιρεία δεν βρήκε στοιχεία ότι το κύτταρο έθεσε σε υπηρεσία λειτουργικό όπλο.

2. Προγραμματιστές με έδρα τη Ρωσία εργάστηκαν σε αυτόνομα kamikaze drones

Μια δεύτερη υπόθεση αφορούσε μια μικρή ανεξάρτητη ομάδα ελεύθερων επαγγελματιών με έδρα τη Ρωσία που ανέπτυσσε, όπως περιέγραψε η Anthropic, ένα πλήρες σύστημα αυτόνομου σμήνους kamikaze drones FPV.

Ο Claude χρησιμοποιήθηκε για την ανάπτυξη συντονισμού σμήνους, τελικής καθοδήγησης και σχετικού λογισμικού.

Η Anthropic ανέφερε ότι το προγραμματισμένο σύστημα θα μπορούσε να επιτρέψει σε ένα ενσωματωμένο μοντέλο να επιλέγει στόχους, συμπεριλαμβανομένης της κατηγορίας στόχου «person», και να εκτελεί εντολές ανατίναξης χωρίς ανθρώπινη παρέμβαση.

Οι προγραμματιστές εκπαίδευσαν λογισμικό υπολογιστικής όρασης χρησιμοποιώντας υλικό από συγκρούσεις στην Ουκρανία και χρησιμοποίησαν τοποθεσίες στην Donetsk Oblast σε επιδείξεις.

3. Ερευνητής με έδρα την Κίνα μοντελοποίησε στρατιωτικούς στόχους στην Ταϊβάν

Η Anthropic ανέφερε ότι ερευνητής στον χώρο της άμυνας και της στρατιωτικής βιομηχανίας με έδρα την Κίνα χρησιμοποίησε τον Claude για να δημιουργήσει ένα σύνολο εργαλείων ηλεκτρονικού πολέμου και καταστολής αντιαεροπορικής άμυνας.

Το λογισμικό ανέλυε την κάλυψη ραντάρ, τα αντιαεροπορικά συστήματα, την αποτελεσματικότητα παρεμβολών και τη σειρά με την οποία πρέπει να κατασταλούν οι στόχοι.

Στο μέσον του έργου, η Anthropic παρατήρησε τον χρήστη να αλλάζει το προεπιλεγμένο σενάριο της προσομοίωσης σε 12 στόχους στην Ταϊβάν, συμπεριλαμβανομένου ενός διοικητικού καταφυγίου, ραντάρ πρώιμης προειδοποίησης, συστοιχιών Patriot και Tien Kung, μεγάλων αεροπορικών βάσεων και έδρας περιφερειακής διοίκησης μάχης.

Η Anthropic αξιολόγησε τον χρήστη ως συνδεδεμένο με κινεζικά ερευνητικά ιδρύματα, συμπεριλαμβανομένης της PLA Academy of Military Sciences.

Το εύρημα δεν πρέπει να περιγράφεται ως απόδειξη πραγματικού κινεζικού σχεδίου εισβολής· ήταν μια προσομοίωση στοχοποίησης από έναν ερευνητή.

4. Ένας συνδρομητής βοήθησε να δημιουργηθεί σύστημα παρακολούθησης που καλύπτει 25 εκατομμύρια κάρτες SIM

Η Anthropic ανέφερε ότι ένας μεμονωμένος συνδρομητής, που εκτιμήθηκε πιθανώς ως σύμβουλος με έδρα το Bamako, χρησιμοποίησε τον Claude ως την «πρωταρχική μηχανική δύναμη εργασίας» για το Lakana 360, μια πλατφόρμα παρακολούθησης που κατασκευάστηκε για την κρατική υπηρεσία πληροφοριών του Mali.

Το σύστημα σχεδιάστηκε για να παρακολουθεί περίπου 25 εκατομμύρια κάρτες SIM σε όλους τους τρεις εθνικούς κινητούς παρόχους.

Μπορούσε να συλλέγει αρχεία κλήσεων, μηνύματα και φωνητική κίνηση, να δημιουργεί φακέλους πληροφοριών για μεμονωμένους αριθμούς τηλεφώνου, να αντιστοιχίζει φωνές διασχίζοντας κάρτες SIM, να επισημαίνει χρήστες VPN ή κρυπτογράφησης και να συνδέει στόχους με εθνικά βιομετρικά αρχεία.

Η Anthropic δήλωσε ότι μια απαίτηση για ένταλμα αφαιρέθηκε από ένα συνιστώμενο στοιχείο παραγωγής φακέλων κατόπιν αιτήματος του παρόχου.

Η εταιρεία απαγόρευσε τον λογαριασμό Claude, αλλά η τελική πλατφόρμα έτρεξε τοπικά χρησιμοποιώντας ένα on‑premises μοντέλο.

Η ενέργεια της Anthropic επομένως σταμάτησε περαιτέρω μηχανική υποβοηθούμενη από Claude αλλά δεν απενεργοποίησε το αναπτυγμένο σύστημα παρακολούθησης.

5. Επιστήμονες χρησιμοποίησαν τον Claude για ενδεχομένως επικίνδυνη βιολογική έρευνα

Η Anthropic περιέγραψε πέντε μελέτες περίπτωσης βιολογικής κατάχρησης, αλλά είπε ότι δεν μπορούσε πάντα να διαπιστώσει αν οι εμπλεκόμενοι επιστήμονες είχαν πρόθεση να προκαλέσουν βλάβη.

Η εταιρεία τόνισε τη διπλή φύση χρήσης τέτοιων εργασιών, όπου έρευνα που θα μπορούσε να βοηθήσει σε εμβόλια ή θεραπευτικά μπορεί επίσης να καταστήσει παθογόνα πιο επικίνδυνα.

Σε μια περίπτωση, μια επιχορήγηση με κρατική υποστήριξη περιλάμβανε έρευνα gain‑of‑function στο chikungunya με στόχο τη μεταδοτικότητα και την αποφυγή του ανοσοποιητικού, με εργασία προοριζόμενη για στρατιωτικό ερευνητικό ινστιτούτο.

Η Anthropic είπε ότι η πρόταση επιχειρούσε να εντοπίσει μεταλλάξεις, να τις ενσωματώσει σε μολυσματικούς κλώνους και να επιλέξει μεγαλύτερη ιογονικότητα σε ζώα.

Άλλες περιπτώσεις αφορούσαν γρίπη πτηνών προσαρμοσμένη σε θηλαστικά, orthopoxvirus με μηχανισμούς αποφυγής του ανοσοποιητικού και έρευνα σχετικά με τοξίνες.

Η Anthropic τοποθέτησε την ανησυχία ως έρευνα που θα μπορούσε να υποστηρίξει την ανάπτυξη βιολογικών όπλων, αντί να ισχυριστεί ότι ο Claude χρησιμοποιήθηκε άμεσα για να κατασκευαστεί ένα βιοόπλο.

Η αλλαγή για την οποία προειδοποιεί η Anthropic είναι η μόχλευση. Η AI μπορεί να επιτρέψει σε μικρότερες ομάδες να επιχειρήσουν εργασίες μηχανικής, ανάλυσης και λογισμικού που προηγουμένως απαιτούσαν μεγαλύτερες ομάδες, βαθύτερη εξειδίκευση και περισσότερο χρόνο.

Η Anthropic λέει ότι τα μέτρα ασφαλείας της εντόπισαν ή διατάραξαν αυτές τις επιχειρήσεις.

Ωστόσο, η αναφορά δείχνει γιατί αυτά τα μέτρα θα πρέπει να εξελίσσονται συνεχώς καθώς τα μοντέλα γίνονται πιο ικανά και οι χρήστες βρίσκουν νέους τρόπους να μετατρέπουν την γενικής χρήσης AI σε πρακτικό επιχειρησιακό εργαλείο.