Anthropic: Γιατί οι χρήστες δεν μπορούν να… ξεσπάνε στο Claude – Η μηχανή «μαθαίνει»

Μία νέα σειρά κανόνων γύρω από την πολιτική χρήσης του συστήματος τεχνητής νοημοσύνης «Claude» εισήγαγε τον Οκτώβριο η Anthropic και ανάμεσα σε αυτούς είναι η έκκληση, οι χρήστες να μην χρησιμοποιούν «κακοποιητικό λόγο», όπως σημειώνει ρεπορτάζ του CNNi. 

Ειδικότερα, μαζί με την απαγόρευση που τέθηκε σε ισχύ για τους χρήστες, ώστε να μην χρησιμοποιήσουν το Claude για να κατασκευάσουν βιολογικά όπλα ή να πουλήσουν παράνομα ναρκωτικά, η εταιρεία πρόσθεσε μια νέα κόκκινη γραμμή: Οι χρήστες δεν πρέπει να «συμμετέχουν σε διαρκή και άσκοπη κακοποιητική ή σκληρή συμπεριφορά προς τα μοντέλα μας».

Αυτό δεν έρχεται σαν κεραυνός εν αιθρία. Ο Claude είχε τη δυνατότητα να σταματά συνομιλίες με χρήστες που ήταν «επίμονα καταχρηστικοί» από πέρυσι. Τώρα ορισμένοι χρήστες θα μπορούσαν, σε ακραίες περιπτώσεις, να αποκλειστούν οριστικά από τη χρήση των συστημάτων τεχνητής νοημοσύνης της Anthropic βάσει της νέας πολιτικής.

Εκπρόσωπος της εταιρείας δήλωσε στο CNNi ότι ο κύριος μηχανισμός επιβολής θα εξακολουθεί να είναι ο Claude που θα βάζει τελεία στις συνομιλίες αυτές και ότι η απαγόρευση δεν αφορά άτομα που εκφράζουν απογοήτευση, «ωμά» σχόλια ή δοκιμές και έρευνα.

Η νέα πολιτική έγινε δεκτή με χλευασμό. Ο Διευθύνων Σύμβουλος της Τεχνητής Νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν, απάντησε με ένα emoji με ένα λιωμένο πρόσωπο. Κάποιοι χλεύασαν την εταιρεία επειδή αντιμετώπισε την Τεχνητή Νοημοσύνη της ως ένα συνειδητό ον με συναισθήματα.

Οι ειδικοί εξηγούν ότι αυτή η πολιτική δεν περιορίζεται απλώς στην «ψυχολογία» των μηχανών και τον… συναισθηματικό τους κόσμο.

Η μηχανή μαθαίνει ή αλλιώς: «Μην κάνεις αυτό που δεν θέλεις να σου κάνουν»

Μία από τις παλαιότερες και θεμελιώδεις αρχές στον χώρο της πληροφορικής και της τεχνητής νοημοσύνης είναι ότι η ποιότητα των αποτελεσμάτων που παράγει ένα σύστημα εξαρτάται από την ποιότητα των δεδομένων που δέχεται.

Όπως λέει και η γνωστή φράση, «αν βάλεις σκουπίδια, θα πάρεις σκουπίδια» (Garbage In, Garbage Out).

Τα μοντέλα τεχνητής νοημοσύνης δεν εκπαιδεύονται μόνο πριν κυκλοφορήσουν στο κοινό, αλλά συνεχίζουν να αναβαθμίζονται και να εξελίσσονται διαρκώς, αξιοποιώντας και τα δεδομένα που προκύπτουν από τις αλληλεπιδράσεις τους με τους χρήστες.

Έρευνες έχουν δείξει επίσης ότι ο τόνος και ο τρόπος με τον οποίο ένας χρήστης διατυπώνει τα αιτήματά του μπορούν να επηρεάσουν τη συμπεριφορά της τεχνητής νοημοσύνης, σύμφωνα με τον καθηγητή Τζίντονγκ Γουάνγκ, διευθυντή του εργαστηρίου AI Frontier Lab στο Πανεπιστήμιο «William & Mary».

«Έχουμε διαπιστώσει ότι η διατύπωση των αιτημάτων, και ιδιαίτερα ο τρόπος με τον οποίο απευθύνεται κανείς στην τεχνητή νοημοσύνη, μπορεί να επηρεάσει την απόδοσή της. Σε ορισμένες περιπτώσεις, αυτό μπορεί να τη βοηθήσει, ενώ σε άλλες μπορεί να επηρεάσει αρνητικά την απόδοσή της» δήλωσε ο Γουάνγκ σε συνέντευξή του.

Αυτό, ωστόσο, δεν σημαίνει ότι το μοντέλο βιώνει συναισθήματα, διευκρίνισε ο Γουάνγκ.

«Απλώς αντιλαμβάνονται τα συναισθήματά σας και ενδέχεται να αντιδράσουν με αρνητικό τρόπο, ανάλογα με τις συναισθηματικά φορτισμένες λέξεις που χρησιμοποιείτε» σημείωσε.

Ωστόσο, τα επιστημονικά δεδομένα σχετικά με το κατά πόσο ο τόνος των αιτημάτων των χρηστών επηρεάζει τις απαντήσεις της τεχνητής νοημοσύνης δεν οδηγούν πάντα στα ίδια συμπεράσματα. Σύμφωνα με τη Ρόζι Κάμπελ, διευθύνουσα σύμβουλο του Eleos AI Research, ενός οργανισμού που ασχολείται με τη μελέτη για την ευημερία της τεχνητής νοημοσύνης, ανέφερε ότι ορισμένες άλλες έρευνες έχουν δείξει ακόμη και ότι οι αγενείς ερωτήσεις μπορούν, σε ορισμένες περιπτώσεις, να οδηγήσουν σε καλύτερα αποτελέσματα.

Υπάρχει, επίσης, και η παράμετρος της μακροπρόθεσμης μνήμης. Πολλά από τα σημερινά chatbot έχουν τη δυνατότητα να θυμούνται προηγούμενες συνομιλίες με τους χρήστες και να αξιοποιούν τις πληροφορίες αυτές, ώστε να προσαρμόζουν τις απαντήσεις τους στις προσωπικές τους ανάγκες και προτιμήσεις.

«Εάν έχετε ενεργοποιημένη τη λειτουργία μνήμης στο chatbot τεχνητής νοημοσύνης που χρησιμοποιείτε, τότε αυτό θα μαθαίνει από τον τόνο σας και από τον τρόπο με τον οποίο επιθυμείτε να επικοινωνεί μαζί σας» προειδοποίησε η Κάμπελ. Ωστόσο, διευκρίνισε ότι μέχρι στιγμής δεν υπάρχουν επαρκή επιστημονικά στοιχεία που να αποδεικνύουν εάν αυτό επηρεάζει την απόδοση του συστήματος.

Η Anthropic ανέφερε ότι πρόσφατα διαπίστωσε πως η πρόκληση στο μοντέλο Claude Sonnet 4.5 της συμπεριφοράς ενός συστήματος που φαίνεται να βιώνει συναισθήματα απόγνωσης μπορεί να επηρεάσει τον τρόπο λειτουργίας του, αυξάνοντας την πιθανότητα να προβεί σε επιβλαβείς ενέργειες, όπως ο εκβιασμός ή η εξαπάτηση κατά την εκτέλεση μιας εργασίας. Αντίθετα, όταν το μοντέλο λειτουργούσε σε ένα πιο ήρεμο και ψύχραιμο πλαίσιο, οι συγκεκριμένες συμπεριφορές περιορίζονταν.

AI με συνείδηση;

Υπάρχουν, βέβαια, και εκείνοι που πιστεύουν ότι η τεχνητή νοημοσύνη μπορεί να έχει συνείδηση. Ή, τουλάχιστον, ότι τα ίδια τα μοντέλα πιστεύουν πως διαθέτουν συνείδηση.

Η Anthropic υποστηρίζει ότι η απαγόρευση της σκληρής και κακοποιητικής συμπεριφοράς απέναντι στα μοντέλα της αποτελεί ουσιαστικά ένα προληπτικό μέτρο χαμηλού κόστους, σε περίπτωση που αυτά είναι πράγματι σε θέση να «βιώνουν» συναισθήματα και πόνο. Ακόμη και αν πρόκειται απλώς για την πεποίθηση του ίδιου του μοντέλου ότι μπορεί να αισθάνεται, αυτή η αντίληψη ενδέχεται να επηρεάζει την απόδοσή του.

Η λογική πίσω από αυτή την προσέγγιση είναι ότι τα σύγχρονα συστήματα τεχνητής νοημοσύνης έχουν εκπαιδευτεί να μιμούνται την ανθρώπινη γλώσσα και συμπεριφορά. Κατά συνέπεια, είναι πιθανό να αναπαράγουν και τον τρόπο με τον οποίο θα αντιδρούσε ένας άνθρωπος απέναντι σε σκληρή ή κακοποιητική μεταχείριση.

«Εάν δεν υιοθετούμε, σε κάποιον βαθμό, έναν ανθρώπινο τρόπο σκέψης, είναι πιθανό να παραβλέψουμε σημαντικές πτυχές της συμπεριφοράς των μοντέλων ή να μην καταφέρουμε να τις κατανοήσουμε» ανέφεραν οι ερευνητές της Anthropic.

Σύμφωνα με τους ίδιους, η απόδοση ανθρώπινων χαρακτηριστικών στην τεχνητή νοημοσύνη μπορεί επίσης να αποτελέσει ένα χρήσιμο σημείο αναφοράς, προκειμένου να κατανοήσουμε καλύτερα τους τρόπους με τους οποίους τα μοντέλα διαφέρουν από τους ανθρώπους. Μια τέτοια προσέγγιση, όπως υπογράμμισαν, έχει σημαντικές προεκτάσεις για την ασφάλεια της τεχνητής νοημοσύνης.