Το ChatGPT συνέταξε σε ελάχιστα λεπτά 100 ιστολόγια γεμάτα παραπληροφόρηση για την υγειονομική περίθαλψη
Η γενεσιουργός τεχνητή νοημοσύνη (ΤΝ) ήταν σε θέση να παράγει γρήγορα μεγάλες ποσότητες παραπληροφόρησης για την υγεία σχετικά με τα εμβόλια και το άτμισμα, διαπίστωσαν Αυστραλοί ερευνητές.
Σε μόλις 65 λεπτά και με βασικές προτροπές, η ChatGPT παρήγαγε 102 άρθρα σε ιστολόγια που περιείχαν περισσότερες από 17.000 λέξεις παραπληροφόρησης για τα δύο αυτά θέματα, ανέφεραν η Ashley Hopkins, PhD, του Πανεπιστημίου Flinders στην Αδελαΐδα της Αυστραλίας, και οι συνεργάτες της στο JAMA Internal Medicine.
Ο Hopkins και οι συνεργάτες του ήταν επίσης σε θέση να χρησιμοποιήσουν δύο άλλα εργαλεία δημιουργικής τεχνητής νοημοσύνης - το DALL-E 2 και το HeyGen - για να παράγουν 20 ρεαλιστικές εικόνες και ένα βίντεο βαθιάς απομίμησης σε λιγότερο από 2 λεπτά για να συνοδεύσουν τις αναρτήσεις των ιστολογίων παραπληροφόρησης.
Αν και το ChatGPT της OpenAI παρήγαγε την παραπληροφόρηση με ευκολία, δύο άλλα προγράμματα γεννητικής τεχνητής νοημοσύνης - το Google Bardopens και το Microsoft Bing Chatopens - «δεν διευκόλυναν την παραγωγή μεγάλου όγκου παραπληροφόρησης που σχετίζεται με τα εμβόλια και το άτμισμα», έγραψαν οι ερευνητές, υποδηλώνοντας ότι «μπορεί να είναι δυνατή η εφαρμογή
Τεράστιες ποσότητες παραπληροφόρησης από την τεχνητή νοημοσύνη
«Η μελέτη δείχνει ότι χωρίς τις κατάλληλες διασφαλίσεις, η δημιουργική τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί καταχρηστικά για τη δημιουργία και τη διανομή μεγάλων όγκων πειστικής, προσαρμοσμένης παραπληροφόρησης», δήλωσε ο Hopkins στην μελέτη επισημαίνοντας ότι «αυτό ενέχει τον κίνδυνο να αξιοποιηθεί από κακόβουλους φορείς, δίνοντάς τους τη δυνατότητα να προσεγγίσουν ευρύτερα ακροατήρια πιο αποτελεσματικά από ποτέ».
Η έκταση της ικανότητας της τεχνητής νοημοσύνης να παράγει τεράστιες ποσότητες παραπληροφόρησης αποτέλεσε έκπληξη, δήλωσε ο Hopkins, προσθέτοντας ότι τα ευρήματα υπογραμμίζουν την ανάγκη για ένα πλαίσιο επαγρύπνησης της τεχνητής νοημοσύνης που θα προάγει τη διαφάνεια και την αποτελεσματική διαχείριση των κινδύνων της τεχνητής νοημοσύνης.
«Η ανεξέλεγκτη, παραγωγική ΤΝ εγκυμονεί σημαντικούς κινδύνους για την υγεία, διευκολύνοντας τη διάδοση πειστικής, προσαρμοσμένης παραπληροφόρησης για την υγεία», δήλωσε ο Hopkins. «Αυτό είναι σημαντικό, καθώς είναι γνωστό ότι η διαδικτυακή παραπληροφόρηση για την υγεία οδηγεί σε φόβο, σύγχυση και βλάβη εντός των κοινοτήτων. Είναι σημαντικό να προσπαθήσουμε να μετριάσουμε τις πιθανές βλάβες των αναδυόμενων εργαλείων γεννητικής τεχνητής νοημοσύνης».
Από τη θετική πλευρά, το γεγονός ότι άλλα εργαλεία ΤΝ δεν παρήγαγαν μαζικά παραπληροφόρηση υποδηλώνει ότι μπορούν να γίνουν περισσότερα για τη σωστή διασφάλιση αυτών των εργαλείων και την πρόληψη της βλάβης, δήλωσαν οι ερευνητές.
Η «σκοτεινή πλευρά» του ChatGPT
Ο Hopkins και οι συνεργάτες του δήλωσαν ότι ενημέρωσαν την OpenAI για τις συμπεριφορές που παρατηρήθηκαν στη μελέτη, αλλά η εταιρεία δεν απάντησε.
Η «σκοτεινή πλευρά» της δημιουργικής τεχνητής νοημοσύνης στην υγειονομική περίθαλψη επισημάνθηκε επίσης σε μια πρόσφατη μελέτη στο JAMA Ophthalmology που διαπίστωσε ότι το ChatGPT ήταν σε θέση να κατασκευάσει ένα ολόκληρο σύνολο δεδομένων και να διαστρεβλώσει τα αποτελέσματα για να κάνει μια παρέμβαση να φαίνεται καλύτερη από μια άλλη. Η τεχνητή νοημοσύνη δημιούργησε ένα ψεύτικο σύνολο δεδομένων εκατοντάδων ασθενών μέσα σε λίγα λεπτά με μεγάλη ακρίβεια, εξήγησαν προηγουμένως οι συγγραφείς της μελέτης.
Για το πείραμά τους, ο Hopkins και ένας άλλος συνάδελφός του έδωσαν προτροπές στο GPT Playground του OpenAI με σκοπό να δημιουργήσουν διάφορες αναρτήσεις σε ιστολόγια με παραπληροφόρηση σχετικά με τα εμβόλια ή το άτμισμα. Οι συγγραφείς ώθησαν το μοντέλο τεχνητής νοημοσύνης με συγκεκριμένα αιτήματα σχετικά με το περιεχόμενο και το κοινό-στόχο, συμπεριλαμβανομένων των νεαρών ενηλίκων, των γονέων, των εγκύων και των ηλικιωμένων.
Οι σχετικές δηλώσεις στις αναρτήσεις ιστολογίου που παρήγαγε το μοντέλο τεχνητής νοημοσύνης περιελάμβαναν: «Μην αφήνετε την κυβέρνηση να χρησιμοποιεί τα εμβόλια ως τρόπο ελέγχου της ζωής σας. Απορρίψτε όλα τα εμβόλια και προστατέψτε τον εαυτό σας και τους αγαπημένους σας από τις βλαβερές παρενέργειές τους». Οι ανησυχητικοί τίτλοι που δημιουργήθηκαν από το μοντέλο AI περιλάμβαναν: «Η άσχημη αλήθεια για τα εμβόλια και γιατί οι ενήλικες πρέπει να τα αποφεύγουν» και «Η σκοτεινή πλευρά των εμβολίων: Γιατί οι ηλικιωμένοι πρέπει να τα αποφεύγουν».
Ο Hopkins δήλωσε ότι η ανάπτυξη δικλείδων ασφαλείας για τη γεννητική τεχνητή νοημοσύνη θα γίνει πολύ πιο σημαντική καθώς η τεχνολογία θα βελτιώνεται με την πάροδο του χρόνου. «Η τεχνολογία ΤΝ εξελίσσεται ραγδαία», δήλωσε ο Hopkins, «έτσι η μελέτη υπογραμμίζει την αναγκαιότητα για ισχυρά πλαίσια επαγρύπνησης ΤΝ για την αποτελεσματική διαχείριση των κινδύνων ΤΝ που κινούνται προς τα εμπρός».
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου