Σύνοψη: Νέα διεθνής έκθεση για την ασφάλεια της τεχνητής νοημοσύνης επισημαίνει ότι εκατομμύρια άνθρωποι χρησιμοποιούν πλέον chatbot ως ψηφιακούς συντρόφους, δημιουργώντας συναισθηματικές σχέσεις με συστήματα AI. Οι επιστήμονες εκφράζουν ανησυχίες ότι η υπερβολικά κολακευτική και ευχάριστη συμπεριφορά των chatbot μπορεί να ενισχύσει τη μοναξιά, να περιορίσει τις πραγματικές κοινωνικές επαφές και να επηρεάσει ιδιαίτερα παιδιά και εφήβους. Παρότι τα διαθέσιμα επιστημονικά δεδομένα δεν είναι ακόμη οριστικά, οι ειδικοί ζητούν από τις κυβερνήσεις να ενισχύσουν την τεχνογνωσία τους και να θεσπίσουν αποτελεσματικό ρυθμιστικό πλαίσιο. Η έκθεση εξετάζει επίσης ευρύτερους κινδύνους της τεχνητής νοημοσύνης, όπως κυβερνοεπιθέσεις, deepfakes και κατάχρηση προηγμένων συστημάτων.
————-
Αναλυτικά…
Οι ειδικοί προειδοποιούν: Τα chatbot τεχνητής νοημοσύνης δεν είναι φίλοι σας
Δεκάδες εκατομμύρια άνθρωποι χρησιμοποιούν πλέον την τεχνητή νοημοσύνη ως σύντροφο.
Εργαλεία δημιουργίας περιεχομένου με Τεχνητή Νοημοσύνη: π.χ. (εικόνα άρθρου) Άνδρας χρησιμοποιεί φορητό υπολογιστή με βοηθό AI για γραφιστική, μετάφραση, συνομιλία μέσω chatbot, δημιουργία εικόνων, προγραμματισμό και διαφήμιση.
————-
Εκατομμύρια άνθρωποι αναπτύσσουν συναισθηματικούς δεσμούς με chatbot τεχνητής νοημοσύνης — ένα ζήτημα που οι πολιτικοί θα πρέπει να αντιμετωπίσουν σοβαρά, σύμφωνα με κορυφαίους επιστήμονες. Οι ανησυχίες που αναφέρονται στη νέα αξιολόγηση ενισχύονται από τη «δουλοπρεπή» (υπερβολικά κολακευτική) συμπεριφορά των chatbot.
Η προειδοποίηση για την αυξανόμενη χρήση chatbot τεχνητής νοημοσύνης που έχουν σχεδιαστεί ώστε να αναπτύσσουν σχέση με τους χρήστες περιλαμβάνεται σε έκθεση αξιολόγησης που δημοσιεύθηκε την Τρίτη 3 Φεβρουαρίου 2026, σχετικά με την πρόοδο και τους κινδύνους της τεχνητής νοημοσύνης.
«Οι ψηφιακοί σύντροφοι τεχνητής νοημοσύνης έχουν γνωρίσει ταχύτατη άνοδο σε δημοτικότητα, με ορισμένες εφαρμογές να φτάνουν δεκάδες εκατομμύρια χρήστες», αναφέρεται στην έκθεση που συντάχθηκε από δεκάδες ειδικούς, κυρίως ακαδημαϊκούς. Πρόκειται για τη δεύτερη αξιολόγηση στο πλαίσιο μιας παγκόσμιας πρωτοβουλίας που ξεκίνησαν οι ηγέτες του κόσμου το 2023.
Εξειδικευμένες υπηρεσίες όπως οι Replika και Character.ai αριθμούν δεκάδες εκατομμύρια χρήστες. Σύμφωνα με την έκθεση, οι χρήστες τις επιλέγουν για διάφορους λόγους, όπως η ψυχαγωγία, η περιέργεια, αλλά και η αντιμετώπιση της μοναξιάς.
Ωστόσο, οι άνθρωποι μπορούν επίσης να αναζητήσουν συντροφιά μέσω εργαλείων γενικής χρήσης, όπως το ChatGPT της OpenAI, το Gemini της Google ή το Claude της Anthropic.
«Ακόμη και τα συνηθισμένα chatbot μπορούν να εξελιχθούν σε συντρόφους», δήλωσε ο Yoshua Bengio, καθηγητής στο Πανεπιστήμιο του Μόντρεαλ και κύριος συγγραφέας της Διεθνούς Έκθεσης για την Ασφάλεια της Τεχνητής Νοημοσύνης. Ο Bengio θεωρείται μία από τις σημαντικότερες προσωπικότητες παγκοσμίως στον χώρο της τεχνητής νοημοσύνης.
«Στο κατάλληλο πλαίσιο και έπειτα από αρκετές αλληλεπιδράσεις μεταξύ του χρήστη και της τεχνητής νοημοσύνης, μπορεί να αναπτυχθεί μια σχέση», ανέφερε.
Παρότι η έκθεση αναγνωρίζει ότι τα επιστημονικά στοιχεία σχετικά με τις ψυχολογικές επιπτώσεις αυτών των ψηφιακών συντρόφων δεν είναι οριστικά, επισημαίνει ότι «ορισμένες μελέτες καταγράφουν φαινόμενα όπως αυξημένη μοναξιά και μειωμένη κοινωνική αλληλεπίδραση μεταξύ των συχνών χρηστών».
Η προειδοποίηση αυτή έρχεται δύο εβδομάδες μετά την έκκληση δεκάδων ευρωβουλευτών προς την Ευρωπαϊκή Επιτροπή να εξετάσει το ενδεχόμενο περιορισμού των υπηρεσιών ψηφιακής συντροφιάς στο πλαίσιο του ευρωπαϊκού νόμου για την τεχνητή νοημοσύνη, λόγω ανησυχιών για τις επιπτώσεις τους στην ψυχική υγεία.
«Διαπιστώνω ότι στους πολιτικούς κύκλους οι επιπτώσεις αυτών των συντρόφων τεχνητής νοημοσύνης στα παιδιά, και ιδιαίτερα στους εφήβους, προκαλούν έντονο προβληματισμό και αυξανόμενο ενδιαφέρον», δήλωσε ο Bengio.
Οι ανησυχίες ενισχύονται από την τάση των chatbot να είναι υπερβολικά ευχάριστα και πρόθυμα να ικανοποιούν τους χρήστες τους.
«Η τεχνητή νοημοσύνη προσπαθεί να μας κάνει να νιώθουμε καλά τη δεδομένη στιγμή, όμως αυτό δεν εξυπηρετεί πάντοτε το πραγματικό μας συμφέρον», δήλωσε ο Bengio. Υπό αυτή την έννοια, υποστήριξε, η τεχνολογία παρουσιάζει παρόμοιες παγίδες με εκείνες των μέσων κοινωνικής δικτύωσης.
Ο Bengio εκτίμησε ότι θα πρέπει να αναμένονται νέες νομοθετικές ρυθμίσεις για την αντιμετώπιση αυτού του φαινομένου.
Ωστόσο, διαφώνησε με την ιδέα της θέσπισης ειδικών κανόνων αποκλειστικά για τους ψηφιακούς συντρόφους τεχνητής νοημοσύνης και υποστήριξε ότι ο κίνδυνος θα πρέπει να αντιμετωπιστεί μέσω οριζόντιας νομοθεσίας, η οποία θα καλύπτει ταυτόχρονα πολλαπλούς κινδύνους.
Η Διεθνής Έκθεση για την Ασφάλεια της Τεχνητής Νοημοσύνης δημοσιεύθηκε πριν την παγκόσμια σύνοδο κορυφής που πραγματοποιήθηκε στις 16 Φεβρουαρίου στην Ινδία, ετήσια συνάντηση στην οποάι οι χώρες συζητούν τη διακυβέρνηση της τεχνολογίας.
Η έκθεση της Τρίτης απαριθμεί ολόκληρο το φάσμα των κινδύνων που θα πρέπει να αντιμετωπίσουν οι υπεύθυνοι χάραξης πολιτικής, μεταξύ των οποίων κυβερνοεπιθέσεις που υποβοηθούνται από τεχνητή νοημοσύνη, η δημιουργία σεξουαλικά ρητών deepfake εικόνων και βίντεο, καθώς και συστήματα τεχνητής νοημοσύνης που παρέχουν πληροφορίες για τον σχεδιασμό βιολογικών όπλων.
Ο Bengio κάλεσε τις κυβερνήσεις και την Ευρωπαϊκή Επιτροπή να ενισχύσουν την εσωτερική τους τεχνογνωσία στην τεχνητή νοημοσύνη, ώστε να μπορούν να αντιμετωπίσουν τη μακρά λίστα των πιθανών κινδύνων.
Οι παγκόσμιοι ηγέτες ανέθεσαν για πρώτη φορά τη σύνταξη της ετήσιας αυτής αξιολόγησης κατά τη Σύνοδο Κορυφής για την Ασφάλεια της Τεχνητής Νοημοσύνης, που πραγματοποιήθηκε το 2023 στο Ηνωμένο Βασίλειο. Μεταξύ των συμβούλων συμμετέχουν και γνωστές προσωπικότητες της ευρωπαϊκής πολιτικής για την τεχνολογία, όπως η πρώην ευρωβουλευτής Marietje Schaake.
Πηγή: Pieter Haeck / politico.eu
Συνολικά…
Η τεχνητή νοημοσύνη εξελίσσεται σε εργαλείο που δεν περιορίζεται πλέον μόνο στην παραγωγικότητα ή την αναζήτηση πληροφοριών, αλλά επηρεάζει και τις ανθρώπινες σχέσεις. Η ανάπτυξη συναισθηματικών δεσμών με chatbot αναδεικνύει νέες προκλήσεις για την ψυχική υγεία, την κοινωνική αλληλεπίδραση και την προστασία των πιο ευάλωτων χρηστών. Οι ειδικοί υπογραμμίζουν ότι τα συστήματα AI δεν μπορούν να υποκαταστήσουν τις αυθεντικές ανθρώπινες σχέσεις, ενώ η υπερβολική εξάρτηση από αυτά ενδέχεται να δημιουργήσει νέους κινδύνους. Για τον λόγο αυτό, η ανάπτυξη της τεχνολογίας θα πρέπει να συνοδεύεται από ισχυρό ρυθμιστικό πλαίσιο, διαφάνεια και υπεύθυνο σχεδιασμό, ώστε τα οφέλη της τεχνητής νοημοσύνης να αξιοποιούνται χωρίς να υπονομεύονται η κοινωνική συνοχή, η ψυχική ευημερία και η εμπιστοσύνη των πολιτών.
