Το BBC αποφαίνεται γιατί τα μοντέλα της AI… “παίζουν με τη φωτιά”

«Σημαντικές ανακρίβειες» και διαστρεβλώσεις βρέθηκαν στις απαντήσεις του ChatGPΤ της OpenAI, του Copilot της Microsoft, του Gemini της Google και της εφαρμογής της Perplexity AI, αναφέρει το BBC. H τεχνητή νοημοσύνη προσφέρει μεν «ατέλειωτες ευκαιρίες», όμως οι εταιρείες που βιάζονται να λανσάρουν τα μοντέλα τους στην αγορά «παίζουν με τη φωτιά» σχολίασε σε ιστολόγιο του BBC η Ντέμπορα Τέρνες, διευθύνουσα σύμβουλος του BBC News.

«Ζούμε σε δύσκολους καιρούς. Πόσος καιρός θα περάσει πριν ένας διαστρεβλωμένος τίτλος ΑΙ προκαλέσει σημαντικές βλάβες στον πραγματικό κόσμος;» διερωτήθηκε.

Στο πλαίσιο της μελέτης, τα τέσσερα μοντέλα ΑΙ κλήθηκαν να διαβάσουν 100 άρθρα του BBC και να απαντήσουν σε σχετικές ερωτήσεις. Δημοσιογράφοι ανέλαβαν να αξιολογήσουν τις απαντήσεις στο αντικείμενό τους.

Το 51% των απαντήσεων κρίθηκε ότι έπασχε από «σημαντικά» προβλήματα.

Για παράδειγμα, το 19% των απαντήσεων που υποτίθεται ότι παρέθεταν αποσπάσματα toy BBC περιείχαν πραγματολογικά σφάλματα, όπως λανθασμένες δηλώσεις, αριθμούς και ημερομηνίες.

Μεταξύ άλλων:

• Το Gemini ανέφερε εσφαλμένα πως το βρετανικό Εθνικό Σύστημα Υγείας δεν συστήνει το ηλεκτρονικό τσιγάρο ως μέσο διακοπής του καπνίσματος.
• Το ChatGPT και το Copilot δήλωσαν ότι ο πρώην πρωθυπουργός της Βρετανίας Ρίσι Σούνακ και η πρώην πρώτη υπουργός της Σκωτίας Νίκολα Στέρτζεον βρίσκονται ακόμα στις θέσεις τους.
• H εφαρμογή της Perplexity διαστρέβλωσε άρθρο για τη Μέση Ανατολή λέγοντας ότι το Ιράν επέδειξε «αυτοσυγκράτηση» ενώ το Ισραήλ είναι «επιθετικό». Τα επίθετα αυτά δεν υπήρχαν στο πρωτότυπο άρθρο.

Σε γενικές γραμμές , το Copilot και το Gemini έδωσαν περισσότερες εσφαλμένες απαντήσεις.

Σύμφωνα με τους ερευνητές, το πρόβλημα οφείλεται εν μέρει στο γεγονός ότι η ΑΙ δεν κάνει διακρίσεις ανάμεσα σε γεγονότα και απόψεις, ούτε ξεχωρίζει την τρέχουσα επικαιρότητα από το αρχειακό υλικό. Τείνει επίσης να εισάγει αυθαίρετες απόψεις στις απαντήσεις της.

Κανονικά το BBC χρησιμοποιεί αρχεία robot.txt για να εμποδίσει την πρόσβαση μοντέλων ΑΙ στο περιεχόμενό του. Άνοιξε όμως τον δικτυακό τόπο του για το πείραμα τον περασμένο Δεκέμβριο.

Νωρίτερα, το βρετανικό δίκτυο είχε αναγκάσει την Apple να διακόψει την υπηρεσία αυτόματων ειδησεογραφικών ενημερώσεων, όταν διαπιστώθηκε ότι το σύστημα έδινε παραπλανητικούς τίτλους.