Υφ. Έρευνας: Κοινή ευθύνη η προστασία δημοκρατίας στην εποχή ΑΙ

Η διασφάλιση της δημοκρατίας στην εποχή της Τεχνητής Νοημοσύνης θα πρέπει να αποτελεί κοινή ευθύνη μεταξύ των ειδικών και της κοινωνίας, δήλωσε ο Υφυπουργός Έρευνας, Καινοτομίας και Ψηφιακής Πολιτικής, Νικόδημος Δαμιανού, τονίζοντας τη σημασία της εκπαίδευσης για το συγκεκριμένο θέμα.

Ο κ. Δαμιανού μιλούσε σε διεθνές συνέδριο που διοργάνωσε το Πανεπιστήμιο Κύπρου, σε συνεργασία με το Πανεπιστήμιο της Νότιας Καλιφόρνιας, το CYENS, το KΟIOΣ και το DiGiNN, υπό την αιγίδα του Υφυπουργείου Έρευνας, Καινοτομίας και Ψηφιακής Πολιτικής, το πρωί της Τετάρτης, στο Πανεπιστήμιο Κύπρου.

Το συνέδριο άντλησε παραδείγματα από την εμπειρία των ΗΠΑ και συγκεκριμένα από την “Πρωτοβουλία για την κυβερνοασφάλεια στις εκλογές” (Elections Cybersecurity Initiative) του Πανεπιστημίου της Νότιας Καλιφόρνιας και συζήτησε το κατά πόσον η Τεχνητή Νοημοσύνη αποτελεί απειλή για τη δημοκρατία. Σε πάνελ συζητήθηκαν επίσης θέματα παραπληροφόρησης στην εποχή της ΤΝ, καθώς και υβριδικές απειλές σε κρίσιμες υποδομές.

Σε χαιρετισμό στο συνέδριο, τον οποίο διάβασε ο Πάνος Παναγιώτου, Υπεύθυνος Ασφάλειας Πληροφοριών στο Υφυπουργείο, ο κ. Δαμιανού ανέφερε ότι ο τίτλος του συνεδρίου, «κυβερνοασφάλεια της δημοκρατίας στην εποχή της τεχνητής νοημοσύνης» αναφέρεται στην κρίσιμη διασταύρωση τεχνολογίας και διακυβέρνησης που πρέπει να αξιοποιήσουμε για να διαμορφώσουμε το μέλλον.

Σημείωσε ότι τα τελευταία χρόνια η έλευση της Τεχνητής Νοημοσύνης έχει μεταμορφώσει πτυχές της ζωής μας, από τον τρόπο με τον οποίο επικοινωνούμε έως τον τρόπο με τον οποίο λαμβάνουμε αποφάσεις. «Όλοι γνωρίζουμε ότι η Τεχνητή Νοημοσύνη υπάρχει εδώ και 20 χρόνια. Ωστόσο, η άνοδος της παραγωγικής ΤΝ (Gen AI), που επιτρέπει τη δημιουργία και την επιμέλεια περιεχομένου σε κλίμακα, έχει ανοίξει μια νέα εποχή στην οποία η πρόσβαση σε δημιουργικές και αναλυτικές δυνατότητες δεν προορίζεται μόνο για τους ειδικούς της πληροφορικής ή του AI, αλλά βρίσκεται στα χέρια κυριολεκτικά οποιουδήποτε», ανέφερε.

Ο κ. Δαμιανού πρόσθεσε ότι σε αυτή τη νέα, συναρπαστική και απρόβλεπτη εποχή της Τεχνητής Νοημοσύνης, οι ανησυχίες για την ασφάλεια στον κυβερνοχώρο παίζουν κεντρικό ρόλο. «Κανείς δεν μπορεί να αρνηθεί τα οφέλη που μπορούν να έχουν τα μοντέλα ΤΝ για την ενίσχυση της ικανότητας κυβερνοασφάλειας. Είναι μια εξαιρετική στιγμή για να γείρει η ζυγαριά υπέρ της άμυνας. Επιπλέον, η διασταύρωση μεταξύ ΤΝ και κυβερνοασφάλειας μπορεί να ενισχύσει σημαντικά τη διαφάνεια, τη λογοδοσία και τη συμμετοχικότητα του παγκόσμιου δημοκρατικού συστήματος», δήλωσε.

Παράλληλα, ο Υφυπουργός δήλωσε ότι με αυτές τις εξελίξεις προκύπτουν σημαντικές προκλήσεις, ιδίως όσον αφορά τη διασφάλιση των δημοκρατικών αρχών. Η Τεχνητή Νοημοσύνη ενισχύει τις αμυντικές ικανότητες στον κυβερνοχώρο, αλλά αυξάνει επίσης την αποτελεσματικότητα των κυβερνοεπιθέσεων και της παραπληροφόρησης, είπε, προσθέτοντας ότι η άνοδος της Τεχνητής Νοημοσύνης έχει αυτοματοποιήσει και ενισχύσει τις δυνατότητες των παραδοσιακών κυβερνοεπιθέσεων, καθιστώντας τις επιθέσεις πιο εξελιγμένες, στοχευμένες και δύσκολες στον εντοπισμό και την αντιμετώπιση.

Η Παγκόσμια Έκθεση Κινδύνων 2024 του Παγκόσμιου Οικονομικού Φόρουμ υπογραμμίζει τον επείγοντα χαρακτήρα της παραπληροφόρησης που δημιουργείται από την Τεχνητή Νοημοσύνη ως τον δεύτερο πιο σοβαρό παγκόσμιο κίνδυνο που αναμένεται να προκύψει τα επόμενα δύο χρόνια, υπογράμμισε ο κ. Δαμιανού. Επικαλούμενος τον ΓΓ του ΟΗΕ, είπε ότι χωρίς κατάλληλους ελέγχους, η ΤΝ θα μπορούσε να αποσταθεροποιήσει τα δημοκρατικά συστήματα διαδίδοντας παραπληροφόρηση, τροφοδοτώντας ρητορική μίσους και διαστρεβλώνοντας την κοινή γνώμη μέσω deepfakes.

«Σε μια χρονιά όπου περισσότεροι από 2 δισεκατομμύρια άνθρωποι σε τουλάχιστον 64 χώρες προσέρχονται στις κάλπες, τα όρια μεταξύ πραγματικότητας, ψεύτικων και παραποιημένων πληροφοριών γίνονται όλο και πιο δυσδιάκριτα και οι συνέπειες για τη δημοκρατία όλο και πιο σοβαρές», σημείωσε.

Μια από τις σημαντικότερες επιπτώσεις που αξίζει να σημειωθεί, σύμφωνα με τον Υφυπουργό, είναι η διάβρωση της εμπιστοσύνης στους θεσμούς, στις αρχές και στα μέσα ενημέρωσης, καθώς και ο σκεπτικισμός σχετικά με τα οφέλη της ίδιας της τεχνολογίας. Σημείωσε ότι η επιτυχία έγκειται στην υπεύθυνη και αποτελεσματική πλοήγηση σε ηθικές εκτιμήσεις, στη θέσπιση ισχυρών και καινοτόμων πλαισίων, στην ενίσχυση της ανθεκτικότητας στον κυβερνοχώρο, στη διαφάνεια και στη λογοδοσία στον τομέα της τεχνητής νοημοσύνης.

Αυτό ακριβώς προσπαθεί να επιτύχει η ΕΕ με την Πράξη για την Τεχνητή Νοημοσύνη, είπε. Κατατάσσοντας τους κινδύνους σε αποδεκτά επίπεδα, η εν λόγω νομοθεσία θέτει σαφείς απαιτήσεις και υποχρεώσεις όσον αφορά την ανάπτυξη και τη χρήση της ΤΝ, ώστε να διασφαλίζεται ο σεβασμός των θεμελιωδών δικαιωμάτων, της ασφάλειας και των ηθικών αρχών, ανέφερε.

«Πρέπει όλοι να αναγνωρίσουμε ότι η κυβερνοασφάλεια της δημοκρατίας δεν είναι αποκλειστικά ευθύνη των Κυβερνήσεων ή των συνεργασιών. Είναι μια κοινή υποχρέωση που απαιτεί συνεργασία μεταξύ του ακαδημαϊκού κόσμου, της βιομηχανίας και της κοινωνίας των πολιτών», είπε.

Πρόσθεσε ότι έχουμε την ευθύνη να διασφαλίσουμε ότι η Τεχνητή Νοημοσύνη θα χρησιμεύσει ως εργαλείο για την ασφάλεια και όχι ως μέσο διαίρεσης. «Καθώς η Τεχνητή Νοημοσύνη εξοπλίζει τους κακόβουλους δράστες με εργαλεία και τεχνικές για να επηρεάσουν την κοινή γνώμη, ας θυμηθούμε επίσης τη σημασία της εκπαίδευσης στη σύγχρονη εποχή. Εξοπλίζοντας την επόμενη γενιά με τις δεξιότητες και τις γνώσεις για να περιηγηθεί σε αυτό το πολύπλοκο ψηφιακό τοπίο, μπορούμε να καλλιεργήσουμε μια κοινωνία που όχι μόνο θα είναι ενημερωμένη, αλλά και θα συμμετέχει ενεργά στη διαφύλαξη των δημοκρατικών της θεσμών», σημείωσε.

Ο κ. Δαμιανού πρόσθεσε ότι τα κράτη πρέπει να συνεργαστούν για να ενδυναμώσουν τους πολίτες τους και να προωθήσουν ένα ασφαλέστερο περιβάλλον. «Καθώς οι τεχνολογίες Τεχνητής Νοημοσύνης εξελίσσονται, πρέπει να εξελίσσονται και οι στρατηγικές και η αντίδρασή μας», ανέφερε.

Ο Υφυπουργός κατέληξε λέγοντας ότι η Τεχνητή Νοημοσύνη δεν πρέπει να καταδικαστεί, αλλά «είναι κάτι που πρέπει να αγκαλιάσουμε και να αξιοποιήσουμε προς όφελος της κοινωνίας. Μαζί μπορούμε να αλλάξουμε την πορεία προς το μέλλον, όπου η δημοκρατία ευδοκιμεί μέσω της τεχνητής νοημοσύνης, όπου η τεχνολογία ενισχύει τις δημοκρατικές μας διαδικασίες και προστατεύει τα θεμελιώδη δικαιώματά μας», σημείωσε.

Ο Τάσος Αναστασίου, Πρόεδρος του Διοικητικού Συμβουλίου του Πανεπιστημίου Κύπρου, είπε πως αυτή είναι «μια κρίσιμη και επίκαιρη συζήτηση» για την ασφάλεια στον κυβερνοχώρο, τη δημοκρατία στην εποχή της Τεχνητής Νοημοσύνης, διερευνώντας τις προκλήσεις και τις ευκαιρίες που η Τεχνητή Νοημοσύνη και η ασφάλεια στον κυβερνοχώρο παρουσιάζουν στα δημοκρατικά συστήματα.

«Ζούμε σε μια εποχή όπου η τεχνητή νοημοσύνη δεν είναι πλέον μια μακρινή έννοια. Έχει γίνει μια μετασχηματιστική δύναμη στις κοινωνίες μας, διαμορφώνοντας τα πάντα, από τις επιχειρήσεις και την υγειονομική περίθαλψη μέχρι την εκπαίδευση και τη διακυβέρνηση», δήλωσε. Όμως, μαζί με αυτόν τον μετασχηματισμό έρχεται και μεγάλη ευθύνη, ιδίως όταν πρόκειται για την προστασία των θεμελίων των δημοκρατιών μας, πρόσθεσε ο κ. Αναστασίου.

Όπως είπε, η Τεχνητή Νοημοσύνη μπορεί να φέρει επανάσταση στον τρόπο με τον οποίο οι Κυβερνήσεις συνεργάζονται με τους πολίτες τους, μπορεί να βελτιώσει τις δημόσιες υπηρεσίες, να ενισχύσει τη συμμετοχή των ψηφοφόρων, ακόμη και να βοηθήσει στη χάραξη πολιτικής. Ωστόσο, η ίδια τεχνολογία μπορεί επίσης να αξιοποιηθεί για εκστρατείες παραπληροφόρησης, χειραγώγησης, ακόμη και κυβερνοεπιθέσεις που απειλούν την ακεραιότητα των δημοκρατικών διαδικασιών, ανέφερε.

«Έχουμε δει από πρώτο χέρι πώς η παραπληροφόρηση που διαδίδεται μέσω της τεχνητής νοημοσύνης μπορεί να εξαπατήσει τους πολίτες, να εμβαθύνει τις διαιρέσεις και να διαβρώσει την εμπιστοσύνη στους δημοκρατικούς θεσμούς. Μία από τις πιο πιεστικές ανησυχίες που αντιμετωπίζουμε είναι η ασφάλεια των εκλογικών μας συστημάτων. Οι κυβερνοεπιθέσεις σε υποδομές ψηφοφορίας, πολιτικές εκστρατείες, ακόμη και η διάδοση ψευδών πληροφοριών γίνονται όλο και πιο συχνές, πιο εξελιγμένες και πιο δύσκολο να εντοπιστούν», δήλωσε.

Πρόσθεσε ότι αυτές οι επιθέσεις δεν είναι πλέον υποθετικές, συμβαίνουν τώρα. «Δεν πρόκειται απλώς για ένα τεχνικό πρόβλημα, αλλά για μια άμεση απειλή για την ίδια τη δημοκρατία. Χωρίς ισχυρές διασφαλίσεις, η εμπιστοσύνη που δείχνουν οι πολίτες στους θεσμούς μπορεί εύκολα να υπονομευθεί», ανέφερε.

Ο κ. Αναστασίου υπογράμμισε την επείγουσα ανάγκη να συνεργαστούν ακαδημαϊκοί, ερευνητές, υπεύθυνοι χάραξης πολιτικής και γενικά οι πολίτες για την ανάπτυξη πλαισίων που θα διασφαλίζουν την ηθική χρήση της τεχνητής νοημοσύνης στις δημοκρατικές διαδικασίες. «Χρειαζόμαστε ισχυρά μέτρα ασφάλειας στον κυβερνοχώρο για την άμυνα έναντι εσωτερικών και εξωτερικών απειλών και πρέπει να είμαστε προληπτικοί στις προσπάθειές μας να προστατεύσουμε τους θεσμούς του πλανήτη μας πριν τύχουν εκμετάλλευσης τα τρωτά σημεία», είπε, προσθέτοντας ότι ο ίδιος είναι αισιόδοξος. «Πιστεύω ότι οι ίδιες τεχνολογικές εξελίξεις που παράγουν κινδύνους έχουν επίσης τη δυνατότητα να διασφαλίσουν τις δημοκρατίες μας, αν αξιοποιηθούν με υπευθυνότητα», επεσήμανε.

«Ζούμε σε έναν γενναίο νέο κόσμο, με πολλές, πολλές εκπλήξεις», δήλωσε ο καθηγητής Χρυσόστομος (Max) Νικίας, του Πανεπιστημίου της Νότιας Καλιφόρνιας, υπογραμμίζοντας τη σημασία “της συλλογικής μας ευθύνης: να διασφαλίσουμε ότι οι δημοκρατικοί μας θεσμοί παραμένουν ισχυροί και ασφαλείς. Και μαζί μπορούμε να χαράξουμε δρόμους για καινοτόμες λύσεις, που θα προστατεύσουν αυτά τα θεμέλια της δημοκρατίας μας απέναντι στις εξελισσόμενες απειλές στον κυβερνοχώρο”, είπε.

Αναφέρθηκε στην πρωτοβουλία για την κυβερνοασφάλεια των εκλογών που δημιουργήθηκε από το Πανεπιστήμιο της Νότιας Καλιφόρνιας, σημειώνοντας ότι σκοπός της είναι η υπεράσπιση της δημοκρατίας. «Απ’ όσο γνωρίζω, είναι η πρώτη οργανωμένη ακαδημαϊκή πρωτοβουλία αφιερωμένη σε αυτόν τον σκοπό στις Ηνωμένες Πολιτείες», είπε, σημειώνοντας ότι τα τελευταία τέσσερα χρόνια, αυτή η πρωτοβουλία οργάνωσε και παρουσίασε εργαστήρια και στις 50 πολιτείες των Ηνωμένων Πολιτειών, στα οποία συμμετείχαν περισσότεροι από 5.000 αξιωματούχοι εκλογών, εργαζόμενοι σε προεκλογικές εκστρατείες, ηγέτες πολιτών και ακαδημαϊκοί. «Οι απειλές για τη δημοκρατία σήμερα είναι πολύ πραγματικές, μέσω των απειλών στον κυβερνοχώρο. Έχουμε αρχίσει να αναπτύσσουμε εργαλεία για την αντιμετώπιση αυτών των απειλών», δήλωσε.

Ο Γιώργος Χρυσάνθου, Γενικός Διευθυντής του Κέντρου Αριστείας CYENS, δήλωσε ότι σε έναν κόσμο όπου η Τεχνητή Νοημοσύνη συνεχίζει να διαμορφώνει την κοινωνία μας, η διασφάλιση των δημοκρατικών διαδικασιών είναι υψίστης σημασίας. «Γινόμαστε μάρτυρες μεγάλων εξελίξεων στις τεχνολογίες Τεχνητής Νοημοσύνης, οι οποίες προσφέρουν απίστευτες ευκαιρίες, αλλά εγείρουν επίσης κρίσιμες ανησυχίες σχετικά με την προστασία της ιδιωτικής ζωής, την ασφάλεια και την ανθεκτικότητα των δημοκρατικών μας θεσμών», είπε.

Ο Χρίστος Παναγιώτου, Αν. Διευθυντής του Κέντρου Αριστείας Έρευνας και Καινοτομίας ΚΟΙΟΣ, δήλωσε ότι σε αυτό το ταχύτατα εξελισσόμενο ψηφιακό τοπίο, οι πολίτες βασίζονται όλο και περισσότερο στις ψηφιακές υποδομές. «Ζούμε μια δεύτερη ζωή στον ψηφιακό χώρο. Αυτή η ζωή είναι ευάλωτη σε διάφορες απειλές στον κυβερνοχώρο, τις οποίες εμείς, ως άνθρωποι, δεν είμαστε εξοπλισμένοι να αντιμετωπίσουμε. Πρέπει να βασιστούμε σε μηχανές και ειδικούς για να μας προστατεύσουν», σημείωσε.

Ταυτόχρονα, τεχνολογίες όπως η Τεχνητή Νοημοσύνη αναδιαμορφώνουν τον τρόπο με τον οποίο αντιλαμβανόμαστε τον κόσμο και μπορούν να επηρεάσουν τη δημοκρατία και τους θεσμούς, είπε, προσθέτοντας ότι για να αμυνθούμε απέναντι σε αυτούς τους αόρατους εχθρούς, πρέπει να αποκτήσουμε μια πολύ καλή κατανόηση των σχετικών απειλών.

«Η Τεχνητή Νοημοσύνη μπορεί να φέρει θετικά αποτελέσματα, αλλά ταυτόχρονα μπορεί να παρουσιάσει σημαντικούς κινδύνους. Ως απάντηση σε αυτές τις προκλήσεις, η ΕΕ εξέδωσε την Πράξη για την Τεχνητή Νοημοσύνη, την πρώτη νομική ρύθμιση της τεχνητής νοημοσύνης», σημείωσε.