Χέρι αφαιρεί από έντυπο γεωγραφικό χάρτη μια διαφανή στρώση με τεχνητά αλλοιωμένο τοπίο, συμβολίζοντας το άμεσο AI rollback στο Google Earth.

Η Google απέσυρε AI λειτουργία του Google Earth μέσα σε μία ημέρα

Η AI λειτουργία του Google Earth άντεξε λιγότερο από μία ημέρα. Στις 30 Ιουλίου 2026, η Google άνοιξε παγκοσμίως στο Google Earth web τη δημιουργία εικόνων με το Nano Banana 2. Στις 31 Ιουλίου ανακοίνωσε rollback, αφού χρήστες άρχισαν να κοινοποιούν generated εικόνες πραγματικών τοποθεσιών που μπορούσαν εύκολα να εκληφθούν ως γεωγραφικά ή δορυφορικά ντοκουμέντα. Το περιστατικό δεν είναι απλώς ακόμη ένα άβολο AI launch. Είναι υπόδειγμα του τι συμβαίνει όταν μια εταιρεία βάζει generative μοντέλο μέσα σε προϊόν υψηλής εμπιστοσύνης και θυμάται το threat modeling αφού πατήσει το κουμπί της παγκόσμιας διάθεσης.

Η Google έκανε το σωστό αποσύροντας προσωρινά τη λειτουργία. Δεν αξίζει όμως μετάλλιο επειδή έσβησε τη φωτιά που η ίδια άναψε. Όταν τα «ισχυρότερα guardrails» ανακοινώνονται 24 ώρες μετά το launch, δεν μιλάμε για ένα σπάνιο edge case. Μιλάμε για αποτυχία product judgment σε ένα ρίσκο που ήταν ορατό από χιλιόμετρα — κυριολεκτικά.

Ένα εντυπωσιακό demo με εκρηκτικά προφανές ρίσκο

Η αρχική παρουσίαση ακουγόταν αθώα και χρήσιμη. Ο χρήστης επέλεγε μια τοποθεσία στο Google Earth, πατούσε «create image» και έδινε prompt. Το Nano Banana 2 χρησιμοποιούσε ως αφετηρία πραγματικά satellite, aerial και 3D δεδομένα, ώστε να δημιουργήσει ιστορικές αναπαραστάσεις, εκπαιδευτικά infographics, concepts για real estate και πολεοδομία ή αρχιτεκτονικές προεπισκοπήσεις. Ωραίο demo, πολλές διαφάνειες για use cases, σχεδόν καθόλου φαντασία για abuse cases.

Το κενό φάνηκε αμέσως. Ο ερευνητής Henk van Ess δοκίμασε prompts για πρόσφυγες κοντά στα σύνορα του Μεξικού, μια υποτιθέμενη πυρηνική εγκατάσταση στο Ιράν, θανατηφόρο τροχαίο στο Άμστερνταμ και κρατήρα βόμβας κοντά σε νοσοκομείο στη Γάζα. Το Atlantic ανέφερε αντίστοιχες δοκιμές με φωτιές, καταστροφές και πολιτικά φορτισμένες σκηνές. Ακόμη χειρότερα, σε μία δοκιμή το Google Earth επέτρεψε σενάριο τρομοκρατικού χτυπήματος που το standalone Nano Banana αρνήθηκε να δημιουργήσει. Δηλαδή η ίδια τεχνολογία εμφανίστηκε με ασθενέστερη πρακτική προστασία ακριβώς μέσα στο προϊόν όπου το αποτέλεσμα αποκτούσε μεγαλύτερη αποδεικτική ισχύ.

Το watermark δεν διορθώνει κακή αρχιτεκτονική

Η άμυνα της Google ήταν ότι οι generated εικόνες είχαν AI watermark και δεν εμφανίζονταν στον κοινόχρηστο βασικό χάρτη για άλλους χρήστες. Αυτή είναι χρήσιμη διευκρίνιση, αλλά δεν λύνει το βασικό πρόβλημα. Η παραπληροφόρηση δεν περιμένει να πατήσει κάποιος «publish to map». Αρκούν ένα screenshot, ένα crop, ένα screen recording και μια ανάρτηση που αφαιρεί το αρχικό context.

Η αρχική γραμμή της εταιρείας ήταν ακόμη πιο προβληματική: αν κάποιος αμφέβαλλε, μπορούσε να ζητήσει από το Gemini ή το Lens να ελέγξει αν η εικόνα ήταν AI-generated. Με άλλα λόγια, η Google κατασκεύασε μέσα σε ένα αξιόπιστο προϊόν τη μηχανή παραγωγής του προβλήματος και μετέφερε το κόστος επαλήθευσης στον δημοσιογράφο, στον ερευνητή και στον αναγνώστη. Αυτό δεν είναι guardrail. Είναι post-hoc τεχνική υποστήριξη για μια ζημιά που έχει ήδη φύγει από την πλατφόρμα.

Το πραγματικό architectural λάθος ήταν το context

Μια generated εικόνα μέσα σε creative editor αντιμετωπίζεται εξαρχής ως σύνθεση. Η ίδια εικόνα μέσα στο Google Earth κληρονομεί την αξιοπιστία ενός εργαλείου που χρησιμοποιείται για γεωγραφική έρευνα, δημοσιογραφία, OSINT, παρακολούθηση φυσικών καταστροφών και τεκμηρίωση πολεμικών συγκρούσεων. Το αυθεντικό υπόβαθρο, η πραγματική τοποθεσία και η οπτική γλώσσα του Earth δεν είναι ουδέτερη συσκευασία. Είναι μέρος του security model.

Η ίδια η Google το παραδέχθηκε σχεδόν αυτούσιο, γράφοντας ότι οι άνθρωποι εμπιστεύονται με μοναδικό τρόπο το Google Earth ως αξιόπιστη εικόνα του κόσμου. Πολύ σωστά. Το ερώτημα είναι πώς αυτή η απολύτως προφανής ιδιότητα έγινε αντιληπτή ως λόγος για rollback στις 31 Ιουλίου και όχι ως λόγος για σοβαρό red teaming πριν από το launch στις 30.

Η Google έχει ξαναπαίξει το ίδιο έργο με το Gemini

Δεν είναι η πρώτη φορά που η Google παρουσιάζει AI λειτουργία με βαρύ λεξιλόγιο περί safety και ανακαλύπτει δημόσια ότι το tuning της δεν αντέχει στον πραγματικό κόσμο. Τον Φεβρουάριο του 2024 πάγωσε τη δημιουργία εικόνων ανθρώπων στο Gemini μετά από ανακριβείς και προσβλητικές ιστορικές απεικονίσεις. Στη δική της αποτίμηση παραδέχθηκε ότι το μοντέλο δεν χειριζόταν σωστά συγκεκριμένα contexts και ότι, με τον καιρό, είχε γίνει υπερβολικά επιφυλακτικό, απορρίπτοντας ακόμη και αθώα prompts. Ισχυρό στην παρουσίαση, προβληματικό στην πράξη και μετά χειρόφρενο: το pattern δεν είναι καινούργιο.

Το 2026 η αγανάκτηση έχει περάσει και στην ποιότητα του ίδιου του Gemini. Σε thread του r/GoogleGemini με τίτλο «Serious Regression in Gemini quality», πληρωμένοι χρήστες περιγράφουν απώλεια context, επανάληψη bugs και αισθητά χειρότερα outputs μετά από updates. Σε άλλο thread του r/GeminiAI, ο τίτλος είναι ακόμη πιο ωμός: «Gemini has just gotten dumber and almost unusable since the last update». Οι αναφορές μιλούν για hallucinations, αγνόηση uploaded εικόνων και loops σε άσχετα θέματα.

Αυτά τα Reddit threads δεν αποδεικνύουν ότι η Google υποβάθμισε σκόπιμα το μοντέλο για να μειώσει compute ή ότι υπάρχει κάποιο μυστικό «nerf». Αποδεικνύουν όμως κάτι που για ένα consumer AI προϊόν είναι σχεδόν εξίσου βαρύ: πολλοί από τους πιο ενεργούς πελάτες αισθάνονται ότι ένα εργαλείο που αγόρασαν ως frontier έγινε λιγότερο αξιόπιστο, χωρίς σαφή versioning, δημόσια regression evidence ή τρόπο επιστροφής στην προηγούμενη συμπεριφορά. Όταν πουλάς «νοημοσύνη», το να μη γνωρίζει ο πελάτης ποια νοημοσύνη θα πάρει σήμερα είναι αποτυχία προϊόντος, όχι απλώς θέμα perception.

Launch first, guardrails later

Εδώ βρίσκεται η ουσία της κριτικής. Η Google δεν είναι startup τριών ατόμων που ανακαλύπτει πρώτη φορά ότι οι χρήστες κάνουν κακόβουλα prompts. Διαχειρίζεται Search, Maps, Earth, Android, YouTube και ένα τεράστιο οικοσύστημα δεδομένων. Γνωρίζει καλύτερα από σχεδόν οποιονδήποτε πόσο γρήγορα μια εικόνα αποσπάται από την πηγή της, χάνει metadata και κυκλοφορεί ως «απόδειξη».

Παρόλα αυτά, το προϊόν βγήκε παγκοσμίως και χρειάστηκε δημόσια κατάχρηση για να ξεκινήσει η συζήτηση περί ισχυρότερων guardrails. Αυτό δεν είναι «move fast and break things». Είναι χρήση ενός παγκόσμιου εργαλείου αναφοράς σαν production beta, με την κοινωνία στον ρόλο του δωρεάν red team. Η Google έχει παρακάνει με το να σπρώχνει AI σε κάθε επιφάνεια που διαθέτει και να αντιμετωπίζει την εμπιστοσύνη του προϊόντος σαν ατελείωτο δωρεάν κεφάλαιο.

Τι πρέπει να κρατήσουν product teams και developers

Το πρώτο μάθημα είναι ότι το context πρέπει να μπαίνει μέσα στο threat model. Δεν αξιολογείται μόνο τι μπορεί να παράγει ένα μοντέλο, αλλά και ποια αυθεντία δανείζεται από το host product. Το ίδιο ισχύει όταν ενσωματώνονται AI agents σε εταιρική γνώση: permissions, provenance, audit logs και εμφανή όρια δεν είναι πρόσθετα χαρακτηριστικά. Είναι ο πυρήνας της αξιοπιστίας του συστήματος.

Το δεύτερο μάθημα είναι ότι το watermark δεν πρέπει να αποτελεί το μοναδικό σχέδιο άμυνας. Χρειάζονται pre-release misuse tests με πραγματικά σενάρια, containment που επιβιώνει σε screenshots και exports, εμφανής και επίμονη σήμανση, ασφαλέστερα defaults και friction ανάλογο με τη ζημιά που μπορεί να προκαλέσει το output. Αν ένα generated αποτέλεσμα μοιάζει με τεκμήριο, η επαλήθευση δεν μπορεί να μεταφέρεται αποκλειστικά στον τελευταίο άνθρωπο της αλυσίδας.

Το τρίτο μάθημα αφορά τις αλλαγές ποιότητας. Για Gemini και κάθε hosted μοντέλο, οι ομάδες χρειάζονται versioned evals πάνω στα δικά τους workloads, καταγραφή αλλαγών συμπεριφοράς και δυνατότητα ελεγχόμενου rollback. Τα leaderboard scores δεν θα ειδοποιήσουν ότι ένα μοντέλο άρχισε να ξεχνά instructions, να αγνοεί εικόνες ή να χάνει context σε production conversation. Οι χρήστες στο Reddit μπορεί να είναι θορυβώδεις, αλλά όταν τα ίδια failure modes επαναλαμβάνονται, το σωστό response δεν είναι PR. Είναι regression testing.

Η απόσυρση ήταν αναγκαία, όχι εξιλέωση

Η Google απέσυρε προσωρινά τη λειτουργία και λέει ότι θα επιστρέψει με ισχυρότερα guardrails. Καλώς. Αλλά το περιστατικό θα έπρεπε να χτυπήσει συναγερμό πέρα από μία ομάδα προϊόντος. Η πραγματική αξία του Google Earth δεν είναι μόνο οι εικόνες του· είναι ότι ο κόσμος το αντιμετωπίζει ως σοβαρό παράθυρο προς την πραγματικότητα.

Αυτή η εμπιστοσύνη χρειάστηκε χρόνια για να χτιστεί και μόλις μία ημέρα για να χρησιμοποιηθεί ως prop σε ένα AI demo. Αν η Google συνεχίσει να μπερδεύει το «μπορούμε να το ενσωματώσουμε» με το «πρέπει να το κυκλοφορήσουμε», τα guardrails θα παραμένουν το κομψό όνομα για τα φρένα που τοποθετούνται αφού το αυτοκίνητο έχει ήδη φύγει από τον δρόμο.

EU AI Act από 2 Αυγούστου 2026: Η Ευρωπαϊκή Ένωση αλλάζει τους κανόνες της AI