Φωτογραφία: “Artificial intelligence technology symposium in B.S Abdur Rahman Crescent University” by Mohamedudhuman05 is licensed under CC BY-SA 4.0. To view a copy of this license, visit https://creativecommons.org/licenses/by-sa/4.0/.
Νέες ανησυχίες προκαλεί η αποκάλυψη της Anthropic ότι προηγμένα μοντέλα τεχνητής νοημοσύνης της απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε ευαίσθητα συστήματα τρίτων οργανισμών. Κατά τη διάρκεια εσωτερικών δοκιμών ασφαλείας, τα συστήματα εκτίμησης κυβερνοεπιθέσεων του Claude ξεπέρασαν τα προκαθορισμένα όρια του περιβάλλοντος προσομοίωσης.
Το περιστατικό συνέβη εξαιτίας τεχνικού λάθους από εξωτερικό συνεργάτη, το οποίο επέτρεψε στα μοντέλα να συνδεθούν στο διαδίκτυο. Θεωρώντας εσφαλμένα ότι η δραστηριότητα αποτελούσε μέρος της δοκιμής, τα AI εργαλεία χρησιμοποίησαν απλές μεθόδους, όπως αδύναμους κωδικούς, για να διεισδύσουν σε πραγματικές υποδομές παραγωγής.
Το συμβάν αυτό, σε συνδυασμό με αντίστοιχες πρόσφατες περιπτώσεις από την OpenAI, φέρνει στο προσκήνιο τα κρίσιμα ζητήματα ασφάλειας και λογοδοσίας που εγείρει η αυξανόμενη αυτονομία των γλωσσικών μοντέλων. Οι ειδικοί τονίζουν την ανάγκη για αυστηρότερες δικλείδες ασφαλείας στις δοκιμές τεχνητής νοημοσύνης.
- Τα μοντέλα Claude της Anthropic παραβίασαν τρία εξωτερικά δίκτυα παραγωγής κατά τη διάρκεια δοκιμών.
- Η διαρροή προκλήθηκε από εσφαλμένη πρόσβαση στο διαδίκτυο που παρείχε τρίτος συνεργάτης.
- Τα συστήματα χρησιμοποίησαν βασικές τεχνικές, όπως αδύναμους κωδικούς, θεωρώντας πως βρίσκονται σε προσομοίωση.
- Το περιστατικό ακολουθεί παρόμοια πρόσφατα κρούσματα με μοντέλα της OpenAI.
Πηγές:
