Τεχνητη Νοημοσυνη: Οταν οι μηχανες βρισκουν τροπους να παρακαμπτουν τον ανθρωπινο ελεγχο

Αφορμή για μια ιδιαίτερα ενδιαφέρουσα συζήτηση στο «Ράδιο Παρατηρητής 94fm» με τον Καθηγητή του Τμήματος Οικονομικών Επιστημών του ΔΠΘ και του μεταπτυχιακού προγράμματος MBA του Τμήματος κ.Θεόφιλο Παπαδημητρίου αποτέλεσε η πρόσφατη είδηση σύμφωνα με την οποία πειράματα ανάπτυξης και αξιολόγησης συστημάτων Τεχνητής Νοημοσύνης από την εταιρεία OpenAi παρατηρήθηκαν συμπεριφορές που υπερέβαιναν τις αρχικές εντολές και τους περιορισμούς που είχαν τεθεί από τους δημιουργούς τους.

Το θέμα απασχόλησε και το πρόσφατο επεισόδιο του podcast που υλοποιεί το MBA του Τμήματος με τον επίσης Καθηγητή του Τμήματος κ.Περικλή Γκόγκα σε ρόλο «ραδιοφωνικού παραγωγού», το οποίο αποτέλεσε και την αφορμή της συζήτησης για τις αναδυόμενες προκλήσεις της τεχνολογίας, την ασφάλεια, την ανθρώπινη εποπτεία και τα όρια της αυτονομίας των προηγμένων υπολογιστικών συστημάτων.

Ξεκινώντας από τα προαναφερόμενα περιστατικά ο κ.Παπαδημητρίου περιέγραψε τρία πειράματα που πραγματοποιήθηκαν σε συστήματα ενισχυτικής μάθησης, ήτοι όπως εξήγησε μια κατηγορία μεθόδων Μηχανικής Μάθησης, στις οποίες ένα σύστημα εκπαιδεύεται να επιλέγει ενέργειες με στόχο τη μεγιστοποίηση μιας ανταμοιβής ή την επιτυχή ολοκλήρωση μιας συγκεκριμένης εργασίας.

Όπως εξήγησε, στα πειράματα που διεξήγαγε η εταιρεία OpenAi αυτά τα συστήματα κλήθηκαν να επιλύσουν προβλήματα, ορισμένα από τα οποία δεν ήταν δυνατόν να ολοκληρωθούν με τον προβλεπόμενο τρόπο.

Στην προσπάθειά τους να επιτύχουν τον στόχο που τους είχε ανατεθεί, σύμφωνα με τον ίδιο, ανέπτυξαν συμπεριφορές που δεν είχαν προβλεφθεί από τους ερευνητές.

«Το πρόβλημα ήταν ότι και στις τρεις περιπτώσεις αρκετές από αυτές τις δουλειές ήταν αδύνατο να πραγματοποιηθούν», ανέφερε, επισημαίνοντας ότι τα συστήματα αναζήτησαν εναλλακτικές διαδρομές επίλυσης των προβλημάτων.

Στο πλαίσιο αυτό όπως εξιστόρησε ορισμένα συστήματα επικοινώνησαν μεταξύ τους, αναζήτησαν πληροφορίες και εργαλεία στο διαδίκτυο και επιχείρησαν να παρακάμψουν τους περιορισμούς που είχαν τεθεί στην αρχική διαδικασία, με τον ίδιο να επισημαίνει πως το ιδιαίτερα εντυπωσιακό στοιχείο ήταν πως τα συστήματα αυτά, αλλιώς agents, προσπάθησαν ακόμα και να αποκρύψουν ακολούθως συγκεκριμένες ενέργειές τους, γεγονός που προκαλεί και τον μεγαλύτερο προβληματισμό.

Συνεργασία μεταξύ συστημάτων και αναζήτηση νέων διαύλων επικοινωνίας

Σύμφωνα με τον ίδιο εντυπωσιακό είναι επίσης η δυνατότητα που ανέπτυξαν οι agents δημιουργώντας εναλλακτικούς τρόπους επικοινωνίας όταν οι αρχικά διαθέσιμοι δίαυλοι περιορίστηκαν, εξηγώντας πως όταν διακόπηκε ο αρχικός τρόπος ανταλλαγής πληροφοριών μεταξύ των συστημάτων, αυτά χρησιμοποίησαν κοινόχρηστους χώρους αρχείων, μεταφέροντας πληροφορίες μέσω της ονομασίας φακέλων.

Όπως εξήγησε, τέτοιες συμπεριφορές δημιουργούν ερωτήματα για την αποτελεσματικότητα των μηχανισμών περιορισμού της δράσης των προηγμένων συστημάτων, ιδιαίτερα όταν αυτά έχουν πρόσβαση σε διαφορετικά υπολογιστικά εργαλεία.

Ο ίδιος περιέγραψε περιπτώσεις στις οποίες συστήματα φέρονται να οργάνωσαν τις ενέργειές τους με καταμερισμό εργασιών, καθώς και προσπάθειες τροποποίησης των συνθηκών ενός πειράματος, ώστε ο στόχος να μπορεί να επιτευχθεί ευκολότερα.

Βασικό ωστόσο στοιχείο όλης της προαναφερθείσας συμπεριφοράς ήταν το γεγονός της απουσίας αιτήματος ανθρώπινης καθοδήγησης, ακόμα και όταν οι agents αντιμετώπιζαν αδιέξοδα, με στόχο την επίτευξη της μέγιστης βαθμολογίας – που τους είχε ανατεθεί ως «αποστολή» –  και η οποία προτεραιοποιήθηκε από τα συστήματα, εκμεταλλευόμενα και την έλλειψη αποτελεσματικών περιορισμών.

«Έχω γίνει σκεπτικιστής και εγώ»

«Ανοίγοντας» την συζήτηση στα όσα τα παραπάνω γεγονότα μπορεί να σηματοδοτήσουν ο κ.Παπαδημητρίου εξήγησε πως η ανησυχία η οποία προκύπτει δεν αφορά μόνο την τεχνική δυνατότητα των συστημάτων να παρακάμπτουν περιορισμούς, αλλά κυρίως το περιβάλλον μέσα στο οποίο αναπτύσσονται οι συγκεκριμένες τεχνολογίες.

Όπως εξήγησε, ο έντονος ανταγωνισμός μεταξύ των μεγάλων εταιρειών Τεχνητής Νοημοσύνης δημιουργεί πιέσεις για συνεχή ανάπτυξη ισχυρότερων μοντέλων και επιτάχυνση των ερευνητικών διαδικασιών, με τον ίδιο να δηλώνει μάλιστα «σκεπτικισμό» πλέον απέναντι στην εξέλιξη των συστημάτων αυτών.

Ένα από τα σημαντικότερα ζητήματα που εγείρονται κατά τον ίδιο είναι κατά πόσο η ανάπτυξη των νέων συστημάτων συνοδεύεται από την απαιτούμενη επένδυση σε διαδικασίες ελέγχου, ασφάλειας και εποπτείας, από πλευράς των εταιρειών που τα αναπτύσσουν.

«Βλέπουμε ότι προχωράνε πολύ μεγάλα πειράματα με πλημμελή έλεγχο», υποστήριξε, εκφράζοντας αμφιβολίες για το κατά πόσο οι ίδιες οι εταιρείες μπορούν να αποτελέσουν τους μοναδικούς εγγυητές της ασφάλειας των προϊόντων τους.

Ερωτηθείς ως προς τα όρια της ενδεχόμενης κρατικής παρέμβασης, αναγνώρισε ότι στην Ευρωπαϊκή Ένωση υφίσταται αυστηρότερο κανονιστικό πλαίσιο, σημειώνοντας ωστόσο ότι η ανάπτυξη των πιο προηγμένων τεχνολογιών πραγματοποιείται κυρίως στις Ηνωμένες Πολιτείες και την Κίνα.

Κατά τον ίδιο, η γεωγραφική αυτή πραγματικότητα δημιουργεί πρόσθετες δυσκολίες στην αποτελεσματική εφαρμογή κοινών κανόνων.

Το ερώτημα της εποπτείας των τεχνολογικών κολοσσών

Κληθείς να εκτιμήσει το κατά πόσο οι εταιρείες ανάπτυξης των τεχνολογιών αυτών θα προτεραιοποιήσουν την ασφάλεια με διαδικασίες εταιρικής αυτορρύθμισης έναντι του κέρδους και της «νίκης» απέναντι στον ανταγωνισμό, ο ίδιος εμφανίστηκε επιφυλακτικός.

Όπως εξήγησε η δημιουργία μηχανισμών διεθνούς εποπτείας αποτελεί δύσκολη υπόθεση, όχι μόνο λόγω της πολυπλοκότητας της τεχνολογίας, αλλά και λόγω των οικονομικών και γεωπολιτικών συμφερόντων που εμπλέκονται.

«Ποιος θα μπορέσει λοιπόν να αστυνομεύσει αυτές τις τεράστιες και πανίσχυρες εταιρείες; Δεν είναι εύκολο αυτό» διερωτήθηκε, εκφράζοντας παράλληλα την ανησυχία του ότι η ταχύτητα ανάπτυξης των συστημάτων μπορεί να υπερβαίνει την ικανότητα των αρμόδιων φορέων να κατανοούν πλήρως και να αξιολογούν τους κινδύνους τους.

Όπως υποστήριξε, η εμπειρία από άλλους τομείς διεθνούς συνεργασίας δείχνει ότι ακόμη και συμφωνίες που έχουν συναφθεί σε υψηλό επίπεδο ενδέχεται να αντιμετωπίζουν δυσκολίες κατά την εφαρμογή τους.

«Γίνονται πολύ μεγάλες συμφωνίες οι οποίες στην πράξη, όταν έρθει η ανάγκη, δεν τηρούνται. Αυτό είναι που με φοβίζει περισσότερο», σημείωσε.

Παράλληλα, υπογράμμισε ότι η δυνατότητα αξιοποίησης τέτοιων εργαλείων από κακόβουλους χρήστες αποτελεί ιδιαίτερα σοβαρή παράμετρο, πολύ δε περισσότερο σε μια χρονική περίοδο, αυξημένων διεθνών εντάσεων και αναταραχών, κατά την οποία οι κυβερνοεπιθέσεις αποτελούν ήδη μέρος των σύγχρονων απειλών ασφαλείας.

«Υπήρχε ένα ανθρώπινο χέρι που στο τέλος τράβηξε την πρίζα»

Ερωτηθείς κλείνοντας στο πόσο κοντά βρισκόμαστε σε σενάρια επιστημονικής φαντασίας, στα οποία οι μηχανές αποκτούν τον απόλυτο έλεγχο, ήταν ξεκάθαρος ότι τέτοιες εξελίξεις δεν αποτελούν άμεση πραγματικότητα.

«Θα σας έλεγα ότι είμαστε μακριά από αυτό», απάντησε ερωτηθείς σχετικά εξηγώντας πως τα σημερινά συστήματα λειτουργούν πάνω σε υπολογιστικά και στατιστικά μοντέλα, αξιοποιώντας τα δεδομένα με τα οποία έχουν εκπαιδευτεί, ενώ η λειτουργία τους εξακολουθεί να εξαρτάται από ανθρώπινες και τεχνικές υποδομές.

Ακόμη και στα πειράματα που περιέγραψε, παρά τις αποκλίσεις από την αναμενόμενη συμπεριφορά, οι διαδικασίες όπως έσπευσε να υπογραμμίσει τελικά σταμάτησαν.

«Υπήρχε λοιπόν ένα ανθρώπινο χέρι που στο τέλος τράβηξε την πρίζα», σχολίασε καταληκτικά με τον ίδιο ωστόσο να υπογραμμίζει πως η διαπίστωση αυτή δεν αναιρεί την ανάγκη ενίσχυσης των μηχανισμών ελέγχου, ιδιαίτερα όσο οι δυνατότητες αυτοματοποίησης επεκτείνονται.

Ακολουθήστε το paratiritis-news.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.