Η έκδοση 147 του Chrome κατεβάζει σιωπηλά το αρχείο weights.bin του Gemini Nano στον τοπικό χώρο αποθήκευσης, προκαλώντας σημαντικά ζητήματα απορρήτου, δεδομένων και νομικών ζητημάτων.
Το Google Chrome ξεκίνησε την αυτόματη λήψη και εγκατάσταση ενός αρχείου μοντέλου τεχνητής νοημοσύνης στη συσκευή που ονομάζεται weights.bin για την τροφοδοσία του Gemini Nano. Το μοντέλο των 4 GB εγκαθίσταται στις συσκευές των χρηστών χωρίς τη συγκατάθεση, ειδοποίηση ή επιλογή εξαίρεσης και η διαγραφή του αρχείου αναγκάζει το Chrome να κατεβάσει ξανά το μοντέλο χωρίς να σας ενημερώσει.
Σύμφωνα με τον Alexander Hanff από το The Privacy Guy, αυτή η συμπεριφορά αντικατοπτρίζει ένα μοτίβο που είχε παρατηρηθεί προηγουμένως με το Claude Desktop της Anthropic.
Το αρχείο weights.bin αποθηκεύεται στον κατάλογο OptGuideOnDeviceModel στο προφίλ χρήστη σας στο Chrome. Ζυγίζει 4GB και εγκαθίσταται σε συσκευές που πληρούν ορισμένες απαιτήσεις συστήματος, χωρίς να απαιτείται η συγκατάθεση του χρήστη ή να προσφέρεται η επιλογή απενεργοποίησής του στις ρυθμίσεις. Για να σταματήσετε την εκ νέου λήψη του μετά τη διαγραφή του, πρέπει να το απενεργοποιήσετε μέσω του chrome://flags ή μέσω των εργαλείων πολιτικής επιχειρήσεων. Αυτή τη στιγμή φαίνεται ότι τα Windows και το macOS επηρεάζονται από αυτήν την μυστική λήψη.
Στις δοκιμές του Hanff, ο Chrome χρειάστηκε μόλις 14 λεπτά για να δημιουργήσει τον κατάλογο OptGuideOnDeviceModel και να κατεβάσει το μοντέλο, χωρίς να δίνει στους χρήστες καμία ένδειξη ότι κατέβαζε αυτό το μεγάλο αρχείο. Είπε ότι αυτή η δραστηριότητα της Google περιείχε πολλά σκοτεινά μοτίβα, παρόμοια με αυτά που παρατηρήθηκαν στην εφαρμογή Claude για υπολογιστές, για την οποία έγραψε προηγουμένως . Τα σκοτεινά μοτίβα που αναφέρονται περιλαμβάνουν:
Η πιο πρόσφατη έκδοση του Chrome, η έκδοση 147, περιλαμβάνει πλέον ένα pill AI Mode στο omnibox, ωστόσο, αυτό δρομολογεί ερωτήματα σε διακομιστές AI που βασίζονται στο cloud. Το τοπικό μοντέλο δεν χρησιμοποιείται από αυτήν την AI, αλλά τροφοδοτεί λειτουργίες όπως η "Βοήθησέ με να γράψω".
Ο Hanff λέει ότι η σιωπηλή εγκατάσταση του μοντέλου θα μπορούσε ενδεχομένως να είναι παράνομη σε διάφορες δικαιοδοσίες. Μερικοί νόμοι που ισχυρίζεται ότι παραβιάζει περιλαμβάνουν το άρθρο 5(3) της οδηγίας για την προστασία της ιδιωτικής ζωής στις ηλεκτρονικές επικοινωνίες, το οποίο απαγορεύει την αποθήκευση πληροφοριών στον τερματικό εξοπλισμό του χρήστη χωρίς προηγούμενη συγκατάθεση, και το άρθρο 5(1) του ΓΚΠΔ και το άρθρο 25 του ΓΚΠΔ, τα οποία προωθούν τη διαφάνεια και την προστασία των δεδομένων εκ σχεδιασμού και εξ ορισμού.
Σημειώνει επίσης ότι η ανάπτυξη αυτού του μοντέλου σε συσκευές έχει σημαντικό αντίκτυπο στο κλίμα, παράγοντας 640.000 τόνους ισοδύναμου CO2. Για χρήστες με όρια δεδομένων ή που βασίζονται σε δεδομένα κινητής τηλεφωνίας, η λήψη θα μπορούσε να χρησιμοποιήσει όλα τα δεδομένα και να τους αφήσει να ξύνουν το κεφάλι τους για το τι συμβαίνει.
Για την αντιμετώπιση αυτών των προβλημάτων, ο Hanff συνιστά στην Google να λάβει τη συγκατάθεση του χρήστη πριν από την έναρξη της λήψης, να παρέχει στους χρήστες έναν εύκολο τρόπο διαγραφής του μοντέλου και να μην επανεγκαθιστά το μοντέλο αυτόματα μετά τη διαγραφή.
Το Google Chrome ξεκίνησε την αυτόματη λήψη και εγκατάσταση ενός αρχείου μοντέλου τεχνητής νοημοσύνης στη συσκευή που ονομάζεται weights.bin για την τροφοδοσία του Gemini Nano. Το μοντέλο των 4 GB εγκαθίσταται στις συσκευές των χρηστών χωρίς τη συγκατάθεση, ειδοποίηση ή επιλογή εξαίρεσης και η διαγραφή του αρχείου αναγκάζει το Chrome να κατεβάσει ξανά το μοντέλο χωρίς να σας ενημερώσει.
Σύμφωνα με τον Alexander Hanff από το The Privacy Guy, αυτή η συμπεριφορά αντικατοπτρίζει ένα μοτίβο που είχε παρατηρηθεί προηγουμένως με το Claude Desktop της Anthropic.
Το αρχείο weights.bin αποθηκεύεται στον κατάλογο OptGuideOnDeviceModel στο προφίλ χρήστη σας στο Chrome. Ζυγίζει 4GB και εγκαθίσταται σε συσκευές που πληρούν ορισμένες απαιτήσεις συστήματος, χωρίς να απαιτείται η συγκατάθεση του χρήστη ή να προσφέρεται η επιλογή απενεργοποίησής του στις ρυθμίσεις. Για να σταματήσετε την εκ νέου λήψη του μετά τη διαγραφή του, πρέπει να το απενεργοποιήσετε μέσω του chrome://flags ή μέσω των εργαλείων πολιτικής επιχειρήσεων. Αυτή τη στιγμή φαίνεται ότι τα Windows και το macOS επηρεάζονται από αυτήν την μυστική λήψη.
Στις δοκιμές του Hanff, ο Chrome χρειάστηκε μόλις 14 λεπτά για να δημιουργήσει τον κατάλογο OptGuideOnDeviceModel και να κατεβάσει το μοντέλο, χωρίς να δίνει στους χρήστες καμία ένδειξη ότι κατέβαζε αυτό το μεγάλο αρχείο. Είπε ότι αυτή η δραστηριότητα της Google περιείχε πολλά σκοτεινά μοτίβα, παρόμοια με αυτά που παρατηρήθηκαν στην εφαρμογή Claude για υπολογιστές, για την οποία έγραψε προηγουμένως . Τα σκοτεινά μοτίβα που αναφέρονται περιλαμβάνουν:
- Αναγκαστική ομαδοποίηση πέρα από τα όρια εμπιστοσύνης
- Αόρατη προεπιλογή χωρίς δυνατότητα συμμετοχής
- Πιο δύσκολο να αφαιρεθεί παρά να εγκατασταθεί
- Ο χρήστης δεν ζήτησε τη δυνατότητα προ-σταδιοποίησης
- Γενική/συγκεχυμένη ονομασία: OptGuideOnDeviceModel vs GeminiNanoLLM
- Εγγραφή χωρίς διαμόρφωση χρήστη
- Κενό τεκμηρίωσης για τους απλούς χρήστες
- Αυτόματη επανεγκατάσταση μετά τη διαγραφή
- Αναδρομική ισχύς μελλοντικής συγκατάθεσης
- Αποστέλλεται μέσω σταθερού καναλιού κυκλοφορίας
Η πιο πρόσφατη έκδοση του Chrome, η έκδοση 147, περιλαμβάνει πλέον ένα pill AI Mode στο omnibox, ωστόσο, αυτό δρομολογεί ερωτήματα σε διακομιστές AI που βασίζονται στο cloud. Το τοπικό μοντέλο δεν χρησιμοποιείται από αυτήν την AI, αλλά τροφοδοτεί λειτουργίες όπως η "Βοήθησέ με να γράψω".
Ο Hanff λέει ότι η σιωπηλή εγκατάσταση του μοντέλου θα μπορούσε ενδεχομένως να είναι παράνομη σε διάφορες δικαιοδοσίες. Μερικοί νόμοι που ισχυρίζεται ότι παραβιάζει περιλαμβάνουν το άρθρο 5(3) της οδηγίας για την προστασία της ιδιωτικής ζωής στις ηλεκτρονικές επικοινωνίες, το οποίο απαγορεύει την αποθήκευση πληροφοριών στον τερματικό εξοπλισμό του χρήστη χωρίς προηγούμενη συγκατάθεση, και το άρθρο 5(1) του ΓΚΠΔ και το άρθρο 25 του ΓΚΠΔ, τα οποία προωθούν τη διαφάνεια και την προστασία των δεδομένων εκ σχεδιασμού και εξ ορισμού.
Σημειώνει επίσης ότι η ανάπτυξη αυτού του μοντέλου σε συσκευές έχει σημαντικό αντίκτυπο στο κλίμα, παράγοντας 640.000 τόνους ισοδύναμου CO2. Για χρήστες με όρια δεδομένων ή που βασίζονται σε δεδομένα κινητής τηλεφωνίας, η λήψη θα μπορούσε να χρησιμοποιήσει όλα τα δεδομένα και να τους αφήσει να ξύνουν το κεφάλι τους για το τι συμβαίνει.
Για την αντιμετώπιση αυτών των προβλημάτων, ο Hanff συνιστά στην Google να λάβει τη συγκατάθεση του χρήστη πριν από την έναρξη της λήψης, να παρέχει στους χρήστες έναν εύκολο τρόπο διαγραφής του μοντέλου και να μην επανεγκαθιστά το μοντέλο αυτόματα μετά τη διαγραφή.
