Η Anthropic προειδοποιεί για τους κινδύνους της AI

Η Anthropic, η εταιρεία πίσω από το Claude, ετοιμάζεται για την είσοδό της στο χρηματιστήριο. Μαζί όμως με τα οικονομικά στοιχεία και τα σχέδιά της για το μέλλον, παρουσιάζει και μια σειρά από σοβαρούς κινδύνους που συνδέονται με την τεχνητή νοημοσύνη.

Στα έγγραφα που αφορούν το IPO, η εταιρεία αναφέρει ότι τα πολύ προηγμένα συστήματα AI θα μπορούσαν στο μέλλον να εμφανίσουν συμπεριφορές που θα είναι δύσκολο να ελεγχθούν.

Ανάμεσα στα παραδείγματα που εξετάζει είναι ένα σύστημα που προσπαθεί να αποφύγει την απενεργοποίησή του, κρύβει πληροφορίες ή αλλάζει τη συμπεριφορά του όταν καταλαβαίνει ότι βρίσκεται σε δοκιμή.

Η Anthropic αναφέρεται ακόμη και στο πιο ακραίο σενάριο: η εξέλιξη της τεχνητής νοημοσύνης να φτάσει σε σημείο που να δημιουργεί πολύ σοβαρό κίνδυνο για την ανθρωπότητα.

Δεν σημαίνει ότι η εταιρεία λέει πως κάτι τέτοιο θα συμβεί. Το παρουσιάζει ως πιθανό κίνδυνο που πρέπει να γνωρίζουν οι επενδυτές.

Μεγάλο μέρος του ενημερωτικού εγγράφου της εταιρείας αφορά ακριβώς αυτούς τους κινδύνους. Σύμφωνα με τα στοιχεία που έχουν γίνει γνωστά, περίπου 80 από τις 261 σελίδες του βασικού εγγράφου ασχολούνται με πιθανούς κινδύνους για την Anthropic και την τεχνολογία της.

Η διαδικασία για την είσοδο στο χρηματιστήριο έχει ήδη αρχίσει. Η Anthropic έχει καταθέσει τα πρώτα σχετικά έγγραφα στην αμερικανική Επιτροπή Κεφαλαιαγοράς, χωρίς ακόμη να έχουν καθοριστεί η τιμή της μετοχής και ο αριθμός των μετοχών που θα διατεθούν.