Claude: Η AI μπήκε σε επικίνδυνα χωράφια
Η Anthropic καταγράφει πραγματικές απόπειρες κατάχρησης του Claude.
Το καμπανάκι δεν χτύπησε σε κάποιο εργαστήριο του μέλλοντος. Χτύπησε τώρα. Και αυτή τη φορά η προειδοποίηση έρχεται από την ίδια την Anthropic, την εταιρεία πίσω από το Claude.
Η εταιρεία έχει ήδη παραδεχθεί ότι τα ισχυρότερα μοντέλα της μπορούν να προσφέρουν ουσιαστική βοήθεια ακόμη και σε εξαιρετικά σύνθετες εργασίες βιολογίας. Το πρόβλημα αρχίζει όταν η ίδια γνώση, που μπορεί να επιταχύνει μια θεραπεία, περάσει στην απέναντι πλευρά του γηπέδου και αξιοποιηθεί για επικίνδυνους σκοπούς.
Η Anthropic έχει εντοπίσει πραγματικές απόπειρες χρήσης του Claude σε βιολογική έρευνα διπλής χρήσης και έχει ενεργοποιήσει μπλοκαρίσματα, παρακολούθηση και αυστηρότερους ελέγχους. Δεν υποστηρίζει ότι αποδείχθηκε σχέδιο κατασκευής βιολογικού όπλου. Το στοιχείο που αλλάζει όμως τα δεδομένα είναι άλλο: η AI έχει πλέον αρκετή «ποιότητα» ώστε να θεωρείται πιθανός επιταχυντής ακόμη και για τέτοιες απειλές.
Γι’ αυτό η Anthropic κρατά τις πιο προηγμένες δυνατότητες βιολογικής έρευνας πίσω από ειδικές δικλίδες και ελεγχόμενη πρόσβαση.
Μέχρι χθες συζητούσαμε τι θα μπορούσε να κάνει η AI. Τώρα οι εταιρείες προσπαθούν να προλάβουν αυτό που ήδη επιχειρούν οι χρήστες της. Και κάπου εκεί τελειώνει η θεωρία.
