Η Google αναγκάστηκε να αποσύρει μια νέα λειτουργία τεχνητής νοημοσύνης στο Google Earth μόλις 24 ώρες μετά την κυκλοφορία της, καθώς επέτρεπε στους χρήστες να τροποποιούν δορυφορικές εικόνες χρησιμοποιώντας απλές περιγραφές κειμένου. Το εργαλείο αποδείχθηκε ιδιαίτερα ευάλωτο στη δημιουργία πειστικών παραπλανητικών εικόνων (deepfakes).
Ερευνητές ασφαλείας κατάφεραν άμεσα να παράξουν πλασματικές εικόνες ευαίσθητου περιεχομένου, όπως κρατήρες από βόμβες και σκηνές προσφύγων, παρακάμπτοντας τις δικλίδες ασφαλείας της εταιρείας. Παρά τη χρήση ψηφιακών υδατογραφημάτων, το περιεχόμενο αυτό αποδείχθηκε ικανό να ξεγελάσει ακόμη και εξειδικευμένα εργαλεία ανίχνευσης AI, εγείροντας σοβαρά ζητήματα παραπληροφόρησης.
Η Google ανακοίνωσε την προσωρινή αναστολή της λειτουργίας με στόχο την ενίσχυση των μηχανισμών προστασίας και τη διασφάλιση της εμπιστοσύνης των πολιτών στην εγκυρότητα των χαρτών της. Το περιστατικό φέρνει ξανά στο προσκήνιο τους κινδύνους από την ανεξέλεγκτη χρήση γενετικής τεχνητής νοημοσύνης σε γεωχωρικά δεδομένα.
- Απόσυρση της νέας AI λειτουργίας του Google Earth σε λιγότερο από 24 ώρες.
- Δυνατότητα δημιουργίας παραπλανητικών δορυφορικών εικόνων μέσω απλών κειμενικών προτροπών.
- Εύκολη παράκαμψη των δικλίδων ασφαλείας και δημιουργία ευαίσθητου περιεχομένου.
- Η Google σχεδιάζει την ενίσχυση των guardrails πριν από την επαναδιάθεση του εργαλείου.
Πηγές:
