Σε μια από τις μεγαλύτερες προκλήσεις για την ανθρωπότητα εξελίσσεται η ραγδαία ανάπτυξη των συστημάτων AI, καθώς η τεχνητή νοημοσύνη μετατοπίζεται σταδιακά από ένα απλό εργαλείο επεξεργασίας δεδομένων σε ένα σύστημα ικανό να ερμηνεύει και να αλληλεπιδρά με την ανθρώπινη σκέψη. Στο πλαίσιο του ετήσιου συνεδρίου Kaspersky HORIZONS που πραγματοποιήθηκε στη Ρώμη, κορυφαίοι ειδικοί της κυβερνοασφάλειας έκρουσαν τον κώδωνα του κινδύνου για τη νοητική ιδιωτικότητα και τη γνωστική αυτονομία των χρηστών. Παρότι τα σημερινά συστήματα δεν μπορούν να αποκωδικοποιήσουν με ακρίβεια τις σκέψεις μας, διαθέτουν ήδη τη δύναμη να επηρεάζουν συμπεριφορές και αποφάσεις μέσω εξελιγμένων αλγορίθμων, δημιουργώντας έναν υπαρκτό κίνδυνο που αναμένεται να ενταθεί το επόμενο διάστημα.
Η εξειδικευμένη ομάδα Kaspersky GReAT ανέλυσε λεπτομερώς τις τέσσερις αναδυόμενες απειλές που φέρνει η γνωστική τεχνητή νοημοσύνη. Η πρώτη αφορά την κατακόρυφη αναβάθμιση της κοινωνικής μηχανικής, καθώς τα Μεγάλα Γλωσσικά Μοντέλα επιτρέπουν στους κυβερνοεγκληματίες να δημιουργούν εξαιρετικά πειστικές επιθέσεις phishing. Αξιοποιώντας ψυχολογικά προφίλ και συμπεριφορικά δεδομένα από τα κοινωνικά δίκτυα, οι δράστες μπορούν πλέον να προσαρμόζουν τις απάτες τους σε πραγματικό χρόνο. Το ζήτημα είναι ιδιαίτερα σοβαρό, καθώς το phishing αποτελεί ήδη το 15% των πιο συχνών μεθόδων επίθεσης παγκοσμίως, λειτουργώντας ως η κύρια πύλη εισόδου για εξελιγμένες απειλές που στοχεύουν επιχειρήσεις και κυβερνητικούς οργανισμούς.
Γνωστική χειραγώγηση και ο κίνδυνος της ψηφιακής κακοποίησης
Η δεύτερη μεγάλη απειλή εστιάζει στη μαζική γνωστική χειραγώγηση και τη διαμόρφωση της κοινής γνώμης από κακόβουλους παράγοντες, όπως hacktivists και οργανωμένες ομάδες APT. Αυτές οι ομάδες εκμεταλλεύονται τις ανθρώπινες προκαταλήψεις και τα συναισθηματικά ερεθίσματα μέσα από τα κοινωνικά δίκτυα, ενισχύοντας την πόλωση και τη δημιουργία απομονωμένων ψηφιακών κοινοτήτων. Με την εξέλιξη των αλγορίθμων, γίνεται πλέον εξαιρετικά δύσκολο να διακριθεί αν ένα σύστημα απλώς προβλέπει την ανθρώπινη συμπεριφορά ή αν την κατευθύνει ενεργά, γεγονός που πλήττει άμεσα την εμπιστοσύνη στον δημόσιο διάλογο και τη δημοκρατία.
Παράλληλα, η τρίτη απειλή σχετίζεται με την αυτοματοποιημένη δημιουργία λεπτομερών προφίλ χρηστών, η οποία ανοίγει τον δρόμο για νέες μορφές ψηφιακής κακοποίησης και doxxing. Η τεχνητή νοημοσύνη μπορεί να συσχετίσει άμεσα αποσπασματικές πληροφορίες από διαφορετικές πηγές, αποκαλύπτοντας ευαίσθητα προσωπικά δεδομένα. Αυτή η δυναμική επιτρέπει τη στοχευμένη παρενόχληση σε μεγάλη κλίμακα, καθώς τα προγνωστικά μοντέλα AI μπορούν να στοχοποιήσουν άτομα με βάση υποθέσεις για τη μελλοντική τους συμπεριφορά. Το αποτέλεσμα είναι οι χρήστες να χάνουν τον έλεγχο της ίδιας της ψηφιακής τους ταυτότητας.
Όταν οι διεπαφές εγκεφάλου συναντούν το Internet of Things
Η τέταρτη και πιο φουτουριστική απειλή προκύπτει από τη σύνδεση των διεπαφών εγκεφάλου-υπολογιστή με το οικοσύστημα του Internet of Things. Αν και η συγκεκριμένη τεχνολογία βρίσκεται σε πειραματικό στάδιο και προσφέρει σημαντική βοήθεια σε ασθενείς με κινητικά προβλήματα, η μετατροπή των νευρωνικών σημάτων σε ψηφιακές εντολές κρύβει σοβαρούς κινδύνους ασφάλειας. Σε περίπτωση που μια τέτοια νευρωνική διεπαφή παραβιαστεί, οι χάκερ θα μπορούσαν να προχωρήσουν σε υποκλοπή σημάτων ή σε μη εξουσιοδοτημένο έλεγχο έξυπνων συσκευών και ιατρικού εξοπλισμού, μεταφέροντας τους κινδύνους από τον ψηφιακό κόσμο απευθείας στο φυσικό πεδίο και την ανθρώπινη αυτονομία.
Η επικεφαλής ερευνήτρια ασφάλειας της Kaspersky, Noushin Shabab, υπογράμμισε ότι παρόλο που απέχουμε από τη μαζική υιοθέτηση αυτών των τεχνολογιών, η ταχύτητα της εξέλιξης επιβάλλει άμεση προετοιμασία. Στο ίδιο συνέδριο, η δημοσιογράφος και εκπαιδευτικός Teresa Potenza επεσήμανε ότι ο πραγματικός κίνδυνος κρύβεται στον σιωπηλό ανασχηματισμό της ανθρώπινης κρίσης από συστήματα που μειώνουν τη συνειδητή εμπλοκή του χρήστη. Για την αντιμετώπιση αυτής της κατάστασης, κρίνεται απαραίτητη η στενή συνεργασία μεταξύ επιστημόνων, προγραμματιστών και υπευθύνων χάραξης πολιτικής, ώστε να θεσπιστεί ένα αυστηρό ρυθμιστικό πλαίσιο που θα διασφαλίζει ότι η τεχνολογία θα παραμείνει στην υπηρεσία του ανθρώπου.
