45
ΓΙΩΡΓΟΣ ΣΚΙΑΝΗΣ
Η ειλικρινής απάντηση της Τεχνητής Νοημοσύνης Gemini
ΕΡΩΤΗΣΗ:
Οι πλατφόρμες της ΑΙ δεν έχουν προκατάληψη βάσει της κουλτούρας από την οποία καθορίζονται; Μια “ορθή πολιτικά”αμερικανική πλατφόρμα δεν θα δίνει διαφορετικές απαντήσεις από μια κινέζικη;
ΑΠΑΝΤΗΣΗ:
Αυτό είναι μια πολύ ενδιαφέρουσα ερώτηση που αγγίζει την καρδιά της συζήτησης για την τεχνητή νοημοσύνη και τις προκαταλήψεις.
Ναι, οι πλατφόρμες AI έχουν προκατάληψη.
Οι πλατφόρμες τεχνητής νοημοσύνης, συμπεριλαμβανομένων των γλωσσικών μοντέλων όπως αυτό που χρησιμοποιώ, εκπαιδεύονται σε τεράστιες ποσότητες δεδομένων. Αυτά τα δεδομένα, όμως, συλλέγονται από τον πραγματικό κόσμο, ο οποίος είναι γεμάτος προκαταλήψεις και στερεότυπα.
Αυτό σημαίνει ότι οι πλατφόρμες AI “μαθαίνουν” και αναπαράγουν αυτές τις προκαταλήψεις. Για παράδειγμα, μια πλατφόρμα που έχει εκπαιδευτεί σε δεδομένα όπου οι περισσότεροι γιατροί είναι άνδρες, μπορεί να είναι πιο πιθανό να συνδέσει τη λέξη “γιατρός” με έναν άνδρα παρά με μια γυναίκα.
Η κουλτούρα παίζει ρόλο
Η κουλτούρα από την οποία προέρχονται τα δεδομένα εκπαίδευσης παίζει σημαντικό ρόλο στη διαμόρφωση των προκαταλήψεων μιας πλατφόρμας AI.
Αμερικανική πλατφόρμα: Μια πλατφόρμα που έχει εκπαιδευτεί σε αμερικανικά δεδομένα, θα έχει πιθανώς τις δικές της προκαταλήψεις, οι οποίες μπορεί να σχετίζονται με φυλή, φύλο, θρησκεία ή πολιτικές πεποιθήσεις που είναι πιο συχνές στην αμερικανική κοινωνία.
Κινεζική πλατφόρμα: Αντίστοιχα, μια πλατφόρμα που έχει εκπαιδευτεί σε κινεζικά δεδομένα, θα έχει διαφορετικές προκαταλήψεις, οι οποίες μπορεί να σχετίζονται με την κινεζική κουλτούρα και τις αξίες της.
“Ορθή πολιτικά” πλατφόρμα
Η έννοια της “ορθής πολιτικά” πλατφόρμας είναι περίπλοκη. Αυτό που θεωρείται “ορθό πολιτικά” σε μια κουλτούρα, μπορεί να μην είναι σε μια άλλη.
Για παράδειγμα, κάποιες απόψεις που θεωρούνται “ορθές πολιτικά” στην Αμερική, όπως η υποστήριξη των δικαιωμάτων της ΛΟΑΤΚΙ κοινότητας, μπορεί να μην είναι το ίδιο δημοφιλείς στην Κίνα.
Διαφορετικές απαντήσεις
Είναι πολύ πιθανό ότι μια αμερικανική και μια κινεζική πλατφόρμα AI θα δώσουν διαφορετικές απαντήσεις σε ορισμένες ερωτήσεις, ειδικά σε αυτές που αφορούν κοινωνικά ή πολιτικά ζητήματα.
Αυτό συμβαίνει επειδή οι δύο πλατφόρμες έχουν εκπαιδευτεί σε διαφορετικά δεδομένα και έχουν “μάθει” διαφορετικές “αλήθειες”.
Τι μπορούμε να κάνουμε
Είναι σημαντικό να αναγνωρίσουμε ότι οι πλατφόρμες AI έχουν προκαταλήψεις και να είμαστε προσεκτικοί όταν τις χρησιμοποιούμε.
Οι ερευνητές εργάζονται για να μειώσουν τις προκαταλήψεις στα δεδομένα εκπαίδευσης και να δημιουργήσουν πιο “δίκαιες” πλατφόρμες AI.
Ωστόσο, είναι σημαντικό να θυμόμαστε ότι η τεχνητή νοημοσύνη είναι ένα εργαλείο και ότι η τελική ευθύνη για τη χρήση της ανήκει στον άνθρωπο.
