- Vladimír Šucha
Για μια δεκαετία, η συζήτηση γύρω από την τεχνητή νοημοσύνη οργανώνεται γύρω από ένα μόνο ερώτημα: είναι απειλή ή ευκαιρία; Το ερώτημα φαίνεται εξαντλητικό, σαν να πρόκειται για δύο διαφορετικούς δρόμους και το καθήκον μας να είναι να επιλέξουμε έναν από αυτούς. Δεν είναι έτσι. Το όφελος και η ζημιά παράγονται από τον ίδιο μηχανισμό, την ίδια στιγμή. Κάθε φορά που ένα σύστημα ΤΝ εκτελεί μια εργασία για εμάς, το αποτέλεσμα είναι συχνά καλύτερο από αυτό που θα καταφέρναμε μόνοι μας· όμως, στην ίδια ακριβώς πράξη, δεν ασκούμε την ικανότητα που θα απαιτούσε η εκτέλεση αυτής της εργασίας. Η βοήθεια είναι πραγματική. Το ίδιο και η διάβρωση. Πρόκειται για δύο περιγραφές του ίδιου γεγονότος. Γι’ αυτό ο μεγαλύτερος κίνδυνος της ΤΝ δεν είναι ό,τι κάνει άσχημα, αλλά ό,τι κάνει καλά.
Αυτό έχει τη μεγαλύτερη σημασία για τους θεσμούς, και μάλιστα με τρόπο που είναι εύκολο να περάσει απαρατήρητος. Συνήθως φανταζόμαστε ένα υπουργείο, ένα δικαστήριο, μια ρυθμιστική αρχή ή έναν εθνικό επιστημονικό οργανισμό ως μια δομή που χρησιμοποιεί ανθρώπινη κρίση. Είναι πιο ακριβές να πούμε ότι ένας θεσμός είναι ανθρώπινη κρίση, συσσωρευμένη και οργανωμένη: η γνώση του ποιο επιχείρημα πείθει ποιον υπουργό, ποιο προηγούμενο διέπει μια ασυνήθιστη υπόθεση, ποια γραμμή σε έναν προϋπολογισμό κρύβει ένα πραγματικό πρόβλημα. Αυτό είναι που ο φιλόσοφος Michael Polanyi ονόμασε «άρρητη γνώση» (tacit knowledge), τη γνώση που κατέχουμε αλλά δεν μπορούμε να διατυπώσουμε πλήρως, και αυτό που ο κοινωνιολόγος Harry Collins ονόμασε τη συλλογική της μορφή, η οποία δεν βρίσκεται σε ένα μόνο άτομο αλλά σε μια κοινότητα και στις σχέσεις της. Χτίζεται αργά, μέσα από δεκαετίες μαθητείας και επανάληψης· επιβιώνει στους ανθρώπους και όχι στα έγγραφα· και μπορεί να χαθεί μέσα σε έναν μόνο κύκλο περικοπών. Όταν χαθεί, δεν μπορεί να ανακτηθεί κατά παραγγελία.
Η ΤΝ διαβρώνει αυτή τη συσσωρευμένη κρίση ακολουθώντας μια προβλέψιμη πορεία. Εισέρχεται ως εργαλείο παραγωγικότητας και τα οφέλη είναι πραγματικά: μια βρετανική κυβερνητική δοκιμή με 20.000 δημόσιους υπαλλήλους διαπίστωσε ότι ένας βοηθός ΤΝ εξοικονομούσε περίπου 26 λεπτά την ημέρα για κάθε υπάλληλο, δηλαδή σχεδόν δύο εβδομάδες εργασίας τον χρόνο. Όμως αυτά τα κέρδη δημιουργούν τη δική τους πίεση. Αν το ίδιο έργο μπορεί να παραχθεί με λιγότερους ανθρώπους, τότε οι άνθρωποι γίνονται κόστος. Και οι πρώτες θέσεις που καταργούνται είναι οι πιο junior, των οποίων το έργο η ΤΝ μπορεί ευκολότερα να αναπαράγει. Πρόκειται ακριβώς για τις θέσεις στις οποίες η κρίση εξασκείται και μεταδίδεται.
Ο θεσμός δεν το αντιλαμβάνεται, επειδή η παραγωγή παραμένει σταθερή. Αυτό που έχει κάνει σιωπηλά είναι να σταματήσει να παράγει τη μελλοντική του κρίση. Με τον καιρό μπορεί ακόμη να εκδίδει ενημερωτικά σημειώματα ή αποφάσεις, αλλά μόνο μέσω του συστήματος. Δεν διαθέτει πλέον τους ανθρώπους που θα μπορούσαν να αναγνωρίσουν πότε ένα καλογραμμένο, πειστικό και σωστά μορφοποιημένο αποτέλεσμα είναι λανθασμένο. Όταν το σύστημα κάνει λάθος — όπως αργά ή γρήγορα συμβαίνει με κάθε σύστημα — απομένουν πολύ λίγοι που θα μπορούσαν να το εντοπίσουν, και όσοι απομένουν έχουν χάσει την ευχέρεια που απαιτείται για να το κάνουν.
Αυτή είναι η παλιά ειρωνεία της αυτοματοποίησης: όσο περισσότερο ένα σύστημα αναλαμβάνει τον έλεγχο, τόσο λιγότερο ικανός είναι ο άνθρωπος να παρέμβει στη σπάνια στιγμή που η παρέμβασή του είναι πιο απαραίτητη. Η αεροπορία το έμαθε αυτό και φροντίζει οι πιλότοι να συνεχίζουν να πετούν χειροκίνητα. Οι περισσότεροι θεσμοί που υιοθετούν την ΤΝ δεν έχουν αναπτύξει αντίστοιχη πειθαρχία.
Η παροχή επιστημονικών συμβουλών προς την πολιτική ηγεσία — η διαδικασία μέσω της οποίας τα επιστημονικά δεδομένα επηρεάζουν τη χάραξη πολιτικής — αποτελεί το πιο χαρακτηριστικό παράδειγμα και αφορά άμεσα την Ευρώπη. Η ΤΝ πλέον διατρέχει ολόκληρη την αλυσίδα από τα δεδομένα έως τη λήψη αποφάσεων, και αυτό που απειλεί είναι ακριβώς το είδος της κρίσης που δεν μπορεί να αποτυπωθεί σε έγγραφα: η γνώση του ποια διατύπωση θα γίνει αποδεκτή από έναν συγκεκριμένο υπουργό, ποια στοιχεία είναι σχετικά με το συγκεκριμένο πλαίσιο και όχι απλώς αληθή, ποιοι ενδιαφερόμενοι φορείς θα μπλοκάρουν αθόρυβα μια πρόταση ανεξάρτητα από το τι δείχνει η ανάλυση.
Η ΤΝ είναι πράγματι ασφαλής στα τμήματα αυτής της διαδικασίας που χαρακτηρίζονται από μεγάλο όγκο εργασίας και χαμηλή ανάγκη για κρίση — στην αξιολόγηση πηγών, στην προτεραιοποίηση θεμάτων, στη δημιουργία προβλέψεων που ελέγχονται καθημερινά έναντι της πραγματικότητας. Δεν είναι όμως ασφαλής όταν συντάσσει τις επιλογές σε ένα υπουργικό ενημερωτικό σημείωμα, όπου η διατύπωση επηρεάζει το τι θεωρείται πολιτικά εφικτό και όπου δεν υπάρχει κάποια αντικειμενική πραγματικότητα που θα διορθώσει τα λάθη της.
Οι ευρωπαϊκοί οργανισμοί που οικοδομήθηκαν επί δεκαετίες πάνω στην ανεξάρτητη αξιολόγηση — στην ασφάλεια τροφίμων, στον έλεγχο ασθενειών και στην επιστημονική έρευνα που στηρίζει τις πολιτικές της Ένωσης — αποτελούν συσσωρευμένο ανθρώπινο κεφάλαιο: ακριβό να δημιουργηθεί και εύκολο να διαλυθεί υπό την πίεση των περικοπών και την ψευδαίσθηση ότι η μηχανή είναι ισοδύναμη με τον άνθρωπο.
Οι θεσμοί διαβρώνονται ταχύτερα από τα άτομα για δύο δομικούς λόγους. Ένα άτομο που αντιλαμβάνεται ότι εξαρτάται υπερβολικά από ένα εργαλείο μπορεί να νιώσει τη δική του υποβάθμιση και να επιλέξει να σταματήσει. Ένας θεσμός αντιμετωπίζει την αντίθετη πίεση, επειδή η υποκατάσταση ανθρώπων από συστήματα εξοικονομεί χρήματα και ένας ισολογισμός δεν «νιώθει» ότι αποδυναμώνεται. Η εξοικονόμηση είναι άμεση και μετρήσιμη· το κόστος — η απώλεια ικανότητας — μετατίθεται στο μέλλον, το οποίο κανένας σημερινός υπεύθυνος λήψης αποφάσεων δεν καλείται να λογοδοτήσει.
Και η απώλεια αυτή δεν ανήκει σε κανέναν. Ο προϊστάμενος που αυτοματοποιεί μια ομάδα πετυχαίνει τον στόχο του προϋπολογισμού. Το στέλεχος που εγκρίνει την απόφαση βελτιώνει τα τριμηνιαία αποτελέσματα. Κανείς δεν είναι υπόλογος για το αν ο θεσμός θα μπορεί ακόμη να λειτουργεί χωρίς το σύστημα σε πέντε χρόνια, επειδή αυτό δεν περιλαμβάνεται στους στόχους ούτε στα εργαλεία αξιολόγησης που χρησιμοποιούνται.
Αυτό είναι το βαθύτερο μέρος του προβλήματος: η διάβρωση δεν εκπέμπει κανένα προειδοποιητικό σήμα. Σχεδόν κάθε μέτρο που εφαρμόζει ένας θεσμός στον εαυτό του — παραγωγικότητα, επίπεδα εξυπηρέτησης, παραγόμενο έργο — μετρά ακριβώς το ένα πράγμα που η ΤΝ διατηρεί αξιόπιστα: την παραγωγή αποτελεσμάτων. Οι δείκτες παραμένουν «πράσινοι» ακριβώς επειδή έχουν σχεδιαστεί για να παρακολουθούν το αποτέλεσμα, ενώ τα θεμέλια καταρρέουν από κάτω.
Το βασικό ευρωπαϊκό ρυθμιστικό εργαλείο, ο νόμος για την ΤΝ (AI Act), αξιολογεί τα συστήματα ένα προς ένα, με βάση τον ατομικό κίνδυνο. Αυτό είναι λογικό για τη ζημιά που μπορεί να προκαλέσει ένα μεμονωμένο σύστημα, αλλά είναι δομικά τυφλό απέναντι σε αυτή τη μορφή βλάβης, η οποία δεν προέρχεται από ένα σύστημα αλλά από το σωρευτικό βάρος δεκάδων φαινομενικά ασήμαντων συστημάτων που χρησιμοποιούνται καθημερινά μέσα σε έναν οργανισμό. Στην περιβαλλοντική πολιτική μάθαμε να μην αξιολογούμε έναν ρύπο εξετάζοντας κάθε πηγή ξεχωριστά, αλλά μετρώντας το συνολικό φορτίο. Αυτή η λογική δεν έχει ακόμη εφαρμοστεί στην ΤΝ.
Η λύση δεν είναι να χρησιμοποιούμε λιγότερη ΤΝ — κάτι που δεν είναι ούτε εφικτό ούτε επιθυμητό. Είναι να αντιμετωπίζουμε τη θεσμική ικανότητα ως κεφάλαιο που η ΤΝ καταναλώνει και το οποίο πρέπει συνειδητά να αναπληρώνεται.
Δύο μέτρα θα αρκούσαν για να αντιμετωπιστεί το μεγαλύτερο μέρος του προβλήματος.
Το πρώτο είναι να μετράμε την ικανότητα και όχι μόνο το αποτέλεσμα: να ελέγχουμε περιοδικά και συστηματικά τι μπορούν ακόμη να κάνουν οι άνθρωποι ενός οργανισμού χωρίς τη βοήθεια του συστήματος και να παρακολουθούμε το χάσμα μεταξύ της υποβοηθούμενης και της μη υποβοηθούμενης απόδοσής τους. Θα μπορούσαμε να το ονομάσουμε «δείκτη εξάρτησης». Παραδόξως, σχεδόν κανένας οργανισμός δεν καταγράφει αυτόν τον αριθμό, παρότι είναι ο μόνος που θα αποκάλυπτε την πορεία των πραγμάτων όσο υπάρχει ακόμη χρόνος για δράση.
Το δεύτερο είναι να καθοριστεί μια προστατευμένη γραμμή, εκ των προτέρων και συνειδητά, ανάμεσα στις εργασίες που η ΤΝ μπορεί να αναλάβει με ασφάλεια και στην κρίση που δεν πρέπει ποτέ να αντικαταστήσει αθόρυβα — αντί να αφήνουμε αυτή τη γραμμή να εξαφανίζεται σταδιακά, περίπτωση με την περίπτωση, μέχρι να μην υπάρχει πια και χωρίς κανείς να έχει επιλέξει συνειδητά να την καταργήσει.
Τίποτε από αυτά δεν είναι τεχνικά δύσκολο. Το δύσκολο είναι η βούληση να δράσουμε απέναντι σε μια δομική προειδοποίηση πριν η ζημιά γίνει αδιαμφισβήτητη. Αν περιμένουμε την απόδειξη, αυτή θα έρθει με τη μορφή θεσμών που αποτυγχάνουν στις δύσκολες περιπτώσεις και διαπιστώνουν ότι δεν έχει απομείνει κανείς που θα μπορούσε να είχε εντοπίσει το λάθος. Θα έρθει επίσης με μια γενιά δημόσιων οργανισμών τόσο εξαρτημένων από τα συστήματα ώστε να μην μπορούν πλέον να φανταστούν τον εαυτό τους να ασκεί τις κρίσεις που έχει παραχωρήσει στις μηχανές.
Θα ήταν μια πικρή ειρωνεία αν, στην επιδίωξη της αποδοτικότητας, η Ευρώπη κατανάλωνε ακριβώς την ικανότητα από την οποία εξαρτάται η δυνατότητά της να κυβερνά. Πηγή: www.socialeurope.eu
- Ο Vladimír Šucha είναι Επισκέπτης Ερευνητής στο European University Institute της Φλωρεντίας και ιδρυτής της πλατφόρμας γνώσης ResilientCore, η οποία ασχολείται με την ανθρώπινη αυτενέργεια στην εποχή της ΤΝ. Έχει υπηρετήσει σε διάφορες θέσεις στην European Commission, μεταξύ των οποίων ως Γενικός Διευθυντής του Joint Research Centre, και έχει συν-επιμεληθεί το Science for Policy Handbook. Η τρέχουσα έρευνά του, συμπεριλαμβανομένου ενός επερχόμενου βιβλίου, εξετάζει πώς η τεχνητή νοημοσύνη μετασχηματίζει τις ανθρώπινες και θεσμικές δυνατότητες.
