Δημήτρης Συνάπαλος
Αφιέρωμα: 4η Βιομηχανική Επανάσταση
Στο ξέφρενο κυνήγι για γρηγορότερα, υψηλότερα, δυνατότερα κέρδη είναι προφανές πως θα αξιοποιηθούν όλα τα διαθέσιμα εργαλεία. Ένα από τα βαθύτερα και ουσιαστικότερα εργαλεία της πληροφορικής να είναι ο αυτοματισμός, η ικανότητα οργάνωσης της λήψης αποφάσεων χωρίς ανθρώπινη παρέμβαση, ένα προκαθορισμένο σύστημα αξιών το οποίο επιτρέπει την κατηγοριοποίηση της εισόδου (δεδομένων) του συστήματος και της εξόδου (συμπεράσματα).
Ακριβώς αυτή την ικανότητα επαναστατικοποιεί η τεχνητή νοημοσύνη (ΤΝ) η οποία, χρησιμοποιώντας μεθόδους όπως η Βαθιά Μάθηση και η Ασαφής Λογική, δεν περιορίζεται πλέον σε μια a priori κωδικοποίηση της σχέσης εισόδου-εξόδου αλλά επιτρέπει στο πληροφορικό σύστημα να σχηματίσει «γνώμη», χρησιμοποιώντας τις εξισώσεις γραμμικής άλγεβρας που αναπτύχθηκαν κατά την εκπαίδευση του δικτύου, ώστε να διατυπώσει μια ικανή σχέση που δεν απαιτεί προκαθορισμό.
Η υψηλή διεισδυτικότητα των συγκεκριμένων συστημάτων στην καθημερινότητα, μέσω της ενσωμάτωσής τους τόσο σε νέες τεχνολογίες –όπως ευφυή αυτοκίνητα ή διαγνωστικά συστήματα ιατρικής υποβοήθησης– όσο και σε υφιστάμενες, όπως οι μηχανισμοί βιομηχανικού ελέγχου, εγείρει πολλαπλά ζητήματα ηθικής φύσεως, τα οποία δεν πρέπει να μπουν κάτω από το χαλί των πλεονασμάτων και της αναιμικής παγκόσμιας ανάπτυξης.
Ένα δυνητικά πανίσχυρο εργαλείο, το οποίο μπορεί να αξιοποιηθεί είτε για να εξυψώσει
είτε για να ισοπεδώσει τον άνθρωπο
Ένα από τα δημοφιλέστερα ζητήματα της περιόδου αφορά στη διαχείριση και εκμετάλλευση των προσωπικών δεδομένων. Η εκπαίδευση ενός Νευρωνικού Δικτύου απαιτεί δεκάδες έως εκατοντάδες χιλιάδες δείγματα-περιπτώσεις, τα οποία χρησιμεύουν στην γενίκευση των συμπερασμάτων σε μεγάλο εύρος. Πέραν των οικονομικών πλευρών που συνοδεύουν τη διαχείριση εκτεταμένων βάσεων δεδομένων, προκύπτει το ζήτημα της εξουσιοδότησης η οποία απαιτείται ώστε ο ερευνητικός φορέας να προχωρήσει σε συλλογή και διαχείριση. Πρόκειται, άλλωστε, για δεδομένα τα οποία σε ένα ποσοστό μπορούν να εξομοιωθούν, αλλά κυρίαρχα είναι πραγματικά καθώς έχουν προκύψει από ανθρώπινη δραστηριότητα. Η κατάσταση αυτή οδηγεί σε έντονη συζήτηση, καθώς προκύπτουν περιστατικά παραβίασης των υφιστάμενων νομοθεσιών (GDPR) ή ανάγκη εφαρμογής νομοθεσιών όπου δεν υπάρχουν (California Privacy Act). Δεν είναι τυχαίο πως ανάμεσα στις εταιρίες με την εντονότερη ενασχόληση με την έρευνα γύρω από την τεχνητή νοημοσύνη είναι και εκείνες που κατηγορούνται για τις πιο κατάφωρες παραβιάσεις προσωπικών δεδομένων πελατών τους — όπως η Microsoft, η Google και η Facebook. Η τάση αυτή οφείλεται και σε μια δευτερεύουσα συσχέτιση, καθώς η παγκόσμια παραγωγή δεδομένων αυξάνεται εκθετικά ανά έτος, γεγονός που οδηγεί σε ένα «σαφάρι» αξιοποίησης αυτού του, τεράστιου μεγέθους, δυναμικού εξόρυξης κέρδους.
Έντονο προβληματισμό προκαλεί και η ανάθεση ευθύνης από τον άνθρωπο στη μηχανή. Ένα σύστημα πληροφορικής μπορεί να είναι εξαιρετικό στην αντιληπτική του ικανότητα. Δύναται να εντοπίσει ένα σημάδι σε μια μαστογραφία και να προβλέψει πως θα εξελιχθεί σε κακοήθεια — ενδέχεται, όμως, να το παραβλέψει όταν το ποσοστό βεβαιότητας δεν είναι επαρκές, οδηγώντας σε λανθασμένες διαγνώσεις. Γενικώς, στα πρώιμα στάδια της ανάπτυξής τους, τα συστήματα αυτά χρησιμοποιούνται επικουρικά, χωρίς να αντικαθιστούν πλήρως τον ανθρώπινο παράγοντα. Ωστόσο, με την ωρίμανσή τους και τη διάχυση της χρήσης τους προκύπτουν ζητήματα λογοδοσίας. Ποιος αναλαμβάνει, για παράδειγμα, την ευθύνη για τις επιλογές του αλγόριθμου αναφορικά με τους στόχους υψηλής προτεραιότητας σε μια στρατιωτική επιχείρηση; Αρκεί η απόδοση ευθύνης και πιθανώς η τιμωρία ενός αποδιοπομπαίου τράγου για το ξέπλυμα «κατά λάθος» εγκλημάτων πολέμου;
Πρόσφατα (Οκτώβριος 2019), το Υπουργείο Άμυνας των ΗΠΑ εξέδωσε υπόμνημα σχετικά με την ηθική χρήση της τεχνητής νοημοσύνης στο πλαίσιο της ευθύνης του. Ως κεντρικό άξονα ορίζει την απαιτούμενη συστοιχία πέντε αρχών: Υπευθυνότητα-Ισοτιμία-Διαφάνεια-Εμπιστοσύνη-Διαχειρισιμότητα. Βάση αυτών, το άρθρο νομιμοποιεί την αυτοματοποιημένη βία, προσπαθώντας να προβλέψει ασύμμετρες απειλές, ακαριαίους πολέμους (flash wars) που μπορούν να προκληθούν από την αντιπαράθεση ευφυών αυτοματισμών, ενώ επενδύει και στην –κεφαλαιώδους σημασίας όπως αναφέρεται– ανάπτυξη ευφυών μεθόδων κυβερνοασφάλειας, ώστε να συστηματοποιηθεί η αντιπαράθεση στο τέταρτο πεδίο πολεμικών επιχειρήσεων (μετά την ξηρά, τη θάλασσα και τον αέρα), που είναι το Διαδίκτυο. Το σίγουρο είναι πως το ερώτημα περί της ηθικής χρήσης της ΤΝ από την παγκοσμίως επεμβατική αστική τάξη των ΗΠΑ είναι ιδιαιτέρως σοβαρό και δεν πρέπει να θεωρηθεί τετριμμένο καθώς θέτει παγκόσμιο τετελεσμένο.
Άλλωστε, η ΤΝ αποτελεί ένα δυνητικά πανίσχυρο εργαλείο, που μπορεί να αξιοποιηθεί είτε για να εξυψώσει είτε για να ισοπεδώσει τον άνθρωπο. Μπορεί να εφαρμοστεί στην ορθολογιστική διαχείριση πόρων, να αυτοματοποιήσει διαδικασίες απαραίτητες για τον περιορισμό της περιβαλλοντικής καταστροφής όπως ο έλεγχος δασικών περιοχών για εστίες πυρκαγιών, να επιτρέψει την αυξημένη διάρκεια και ποιότητα ζωής, αρχικά υποβοηθώντας διαγνωστικά και σε δεύτερο βαθμό επεμβαίνοντας θεραπευτικά. Μπορεί, εξίσου, να κάνει θαύματα στα πλαίσια της εντονότερης καταστολής και αστυνόμευσης και στη διεύρυνση των ταξικών διαφορών, ακόμη και να συμβάλλει στην αφαίρεση της ανθρώπινης ιδιότητας από τον άνθρωπο-υποκείμενο και τον υποβιβασμό του σε παθητικό αποδέκτη άνωθεν αποφάσεων.
Η πορεία που θα χαραχτεί δεν είναι δεδομένη. Η ιστορία δεν ρέει μόνη της, κατευθύνεται από την βούληση των δημιουργών της. Αν δεν θέλουμε να εγκαταλείψουμε την πρωτοβουλία των κινήσεων στους διώκτες μας, οφείλουμε να αναλάβουμε ενεργά ρόλο στον καθορισμό των ορίων μέσα στα οποία επιτρέπουμε να ωριμάσει η τεχνητή νοημοσύνη. Οι φοιτητικοί και ερευνητικοί σύλλογοι, τα εργατικά σωματεία των εμπλεκόμενων κλάδων, οι φορείς και οι συνελεύσεις των πολιτών πρέπει να απαιτήσουν τη σύμπλευση της ερευνητικής διαδικασίας με τις ανάγκες τους.
Ως ερευνητές, δε, χρειαζόμαστε ελεύθερη πρόσβαση σε ανωνυμοποιημένα δεδομένα και χρήση ανοιχτού κώδικα, αντί πνευματικής ιδιοκτησίας, για να σπάσουν τα μονοπώλια στην πληροφορία και την έρευνα. Όλοι έχουμε ανάγκη από την απαραίτητη, βελτιστοποιημένη παραγωγή και όχι από την άναρχη, ανεξέλεγκτη κατανάλωση φυσικών και μη πόρων. Έχουμε ανάγκη την ποιότητα ζωής που επιτρέπει η πανίσχυρη αυτή τεχνολογία, αλλά δεν μπορούμε να δεχθούμε τη χρήση της από δυνάμεις πειθάρχησης, καταστολής, κατοχής και σκοταδισμού.
4η Βιομηχανική Επανάσταση: Ευλογία ή κατάρα για τον άνθρωπο;
Τέταρτη Βιομηχανική Επανάσταση: Η αυτοκρατορία αντεπιτίθεται
Από τον Τεϊλορισμό-Φορντισμό στην εποχή των ρομπότ και της τεχνητής νοημοσύνης
