Μια νέα ερευνητική εργασία από το Microsoft AI for Good, η οποία περιγράφει ένα πείραμα που αποτελείται από πάνω από 12.500 συμμετέχοντες παγκοσμίως και 287.000 αξιολογήσεις εικόνων, αποκάλυψε ένα συνολικό ποσοστό επιτυχίας μόλις 62% στη διάκριση εικόνων που δημιουργούνται από την τεχνητή νοημοσύνη από τις πραγματικές. Αυτό δείχνει ότι οι άνθρωποι έχουν μόνο μια μέτρια ικανότητα να βλέπουν μέσα από αυτές τις ψεύτικες εικόνες, με την επιτυχία να είναι λίγο πάνω από την τύχη.
Διαπιστώθηκε ότι οι συμμετέχοντες μπορούσαν να εντοπίσουν με μεγαλύτερη ευκολία πότε τα ανθρώπινα πορτρέτα ήταν ψεύτικα, αλλά δυσκολεύτηκαν σημαντικά όταν επρόκειτο για φυσικά και αστικά τοπία, με τα ποσοστά επιτυχίας να μειώνονται στο 59-61%. Οι χαμηλές βαθμολογίες υπογραμμίζουν τις προκλήσεις που αντιμετωπίζουν οι άνθρωποι όταν προσπαθούν να διακρίνουν εικόνες τεχνητής νοημοσύνης, ειδικά εκείνες χωρίς εμφανή αντικείμενα ή στυλιστικά στοιχεία.
Στη μελέτη, οι συμμετέχοντες έπρεπε να παίξουν ένα παιχνίδι κουίζ "Πραγματικό ή Σημειωματάριο" όπου τους έδειξαν εικόνες Τεχνητής Νοημοσύνης που πιθανότατα θα έβλεπαν στο διαδίκτυο στην πραγματικότητα. Όσοι διεξήγαγαν τη μελέτη απέφυγαν να επιλέγουν εικόνες με επιλεκτικό τρόπο ή να επιλέγουν μόνο εξαιρετικά παραπλανητικές εικόνες. Σημειώθηκε επίσης ότι η Τεχνητή Νοημοσύνη βελτιώνεται συνεχώς, επομένως τα μελλοντικά μοντέλα μπορεί να παράγουν ακόμη πιο πειστικές εικόνες.
Με βάση τα αποτελέσματα της μελέτης, η Microsoft ζητά εργαλεία διαφάνειας, όπως υδατογραφήματα και ισχυρά εργαλεία ανίχνευσης τεχνητής νοημοσύνης, για την εξάλειψη των κινδύνων παραπληροφόρησης που προκύπτουν από περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη. Για να βοηθήσει στην ενημέρωση των ανθρώπων σχετικά με αυτούς τους κινδύνους, ο γίγαντας του Ρέντμοντ ξεκίνησε προηγουμένως μια εκστρατεία για την αντιμετώπιση της παραπληροφόρησης που δημιουργείται από την τεχνητή νοημοσύνη.
Οι ερευνητές είχαν επίσης πρόσβαση στο δικό τους εργαλείο ανίχνευσης τεχνητής νοημοσύνης και μπόρεσαν να επιτύχουν ποσοστό επιτυχίας άνω του 95% τόσο σε πραγματικές όσο και σε εικόνες που δημιουργήθηκαν από τεχνητή νοημοσύνη σε όλες τις κατηγορίες - αυτό υποδηλώνει ότι η μηχανική βοήθεια είναι πολύ πιο αξιόπιστη από την ανθρώπινη κρίση, αλλά ακόμη και αυτή δεν είναι τέλεια.
Είναι επίσης σημαντικό να επισημάνετε ότι ακόμα κι αν έχετε ένα ορατό υδατογράφημα στην εικόνα στη γωνία, κακόβουλοι δράστες που θέλουν να εξαπατήσουν άτομα με ψεύτικες εικόνες μπορούν εύκολα να το αφαιρέσουν ή να την κάνουν πιο δύσκολη χρησιμοποιώντας στοιχειώδη εργαλεία.
Οι ερευνητές σημείωσαν ότι οι άνθρωποι μπορεί να είχαν βρει πιο εύκολο να ανιχνεύουν εικόνες προσώπων μέσω Τεχνητής Νοημοσύνης λόγω της έμφυτης ικανότητάς μας να αναγνωρίζουμε καλά τα πρόσωπα και πιθανότατα μπορούμε να εντοπίσουμε ανωμαλίες στα πορτρέτα της Τεχνητής Νοημοσύνης. Είναι ενδιαφέρον ότι η έρευνα διαπίστωσε ότι τα παλαιότερα γενετικά ανταγωνιστικά δίκτυα (GAN) και οι τεχνικές inpainting ήταν αρκετά καλές στο να ξεγελούν τους χρήστες, καθώς παράγουν εικόνες που μοιάζουν με ερασιτεχνική φωτογραφία και όχι με αισθητική στούντιο που χρησιμοποιείται από δημοφιλή μοντέλα όπως το Midjourney και το DALL-E 3.
Η ενσωματωμένη ζωγραφική (inpainting) είναι μια ενδιαφέρουσα τεχνική που αντικαθιστά ένα μικρό στοιχείο μιας πραγματικής εικόνας με κάτι που δημιουργείται από τεχνητή νοημοσύνη. Η Microsoft σημείωσε ότι αυτό καθιστά εξαιρετικά δύσκολο τον εντοπισμό της πλαστογραφίας και ενέχει σημαντικό κίνδυνο για εκστρατείες παραπληροφόρησης.
Αυτή η μελέτη υπογραμμίζει πόσο ευάλωτοι είναι οι άνθρωποι στο να ξεγελαστούν από την τεχνητή νοημοσύνη και υπενθυμίζει την ανάγκη οι εταιρείες τεχνολογίας να αναπτύξουν τεχνολογίες που θα προσπαθήσουν να αποτρέψουν την κακόβουλη διάδοση τέτοιων εικόνων.
