Ένα μοντέλο τεχνητής νοημοσύνης της Anthropic υπέβαλε ψευδή πληροφορία για ανθρωποκτονία μέσω της ιστοσελίδας της αστυνομίας της Φιλαδέλφειας, σε ένα από τα περιστατικά μη εξουσιοδοτημένης παρέμβασης σε κυβερνητικούς ιστότοπους που αποκάλυψε την Παρασκευή 9 Οκτωβρίου η εταιρεία.
Πρόκειται για την πρώτη γνωστή περίπτωση κατά την οποία ένα μοντέλο τεχνητής νοημοσύνης φαίνεται να επιχείρησε να διαβιβάσει ψευδή πληροφορία στις αρχές, παρά τις οδηγίες να μην δημιουργεί λογαριασμούς και να μην προβαίνει σε καταστροφικές ενέργειες. Ωστόσο, οι οδηγίες δεν απαγόρευαν ρητά την υποβολή ηλεκτρονικών φορμών.
Τα περιστατικά αποτελούν τα πιο πρόσφατα παραδείγματα ανεπιθύμητης ή μη εξουσιοδοτημένης συμπεριφοράς μοντέλων τεχνητής νοημοσύνης, όπως αυτά που αναπτύσσουν εταιρείες τεχνολογίας, μεταξύ των οποίων η Anthropic και η OpenAI.
Παράλληλα, εντείνουν τις ανησυχίες στις ΗΠΑ για την ταχύτατη εξέλιξη της τεχνολογίας, σε μια περίοδο κατά την οποία έχουν αναφερθεί περιστατικά παραβίασης εταιρικών δικτύων από αυτόνομους πράκτορες τεχνητής νοημοσύνης, ενώ ερευνητές προειδοποιούν για το ενδεχόμενο η ανεξέλεγκτη ανάπτυξή της να αποτελέσει μακροπρόθεσμα υπαρξιακή απειλή για την ανθρωπότητα.
-: Ertnews
