Αναζήτηση
  • Κωνσταντίνος Μουτσιάνας

Τα προσωπικά δεδομένα, η Τεχνητή Νοημοσύνη και το τίμημα για την ΕΕ


Το νέο κανονιστικό πλαίσιο για την Τεχνητή Νοημοσύνη που ανακοινώθηκε την Τετάρτη 21 Απριλίου από το Ευρωπαϊκό κοινοβούλιο και το Συμβούλιο της ΕΕ, είναι ένα σημαντικό εργαλείο που θα μπορούσε να χαρακτηριστεί και ως «ευαγγέλιο» για την ανάπτυξη εφαρμογών τεχνητής νοημοσύνης.


Η ιδιαιτερότητα αυτών των εφαρμογών σε σχέση με τις άλλες εφαρμογές πληροφορικής, είναι ότι η πλειοψηφία τους στηρίζεται σε δεδομένα που προέκυψαν από ανθρώπινη δραστηριότητα και τα αποτελέσματα τους αφορούν την ποιότητα ζωής των πολιτών. Ένα άλλο χαρακτηριστικό είναι ότι τα δεδομένα που παράγονται καθημερινά είναι τεράστια σε μέγεθος και άλλα παράγονται εν γνώσει μας (π.χ. κοινωνικά δίκτυα) και άλλα, όχι (κάμερες, αισθητήρες, κλπ). Επίσης υπάρχουν και προσωπικά δεδομένα (π.χ. ιατρικά, οικονομικά, κλπ), τα οποία χρησιμοποιούνται χωρίς τη συναίνεση μας.


Η ΕΕ δε θα μπορούσε να αγνοήσει την προστασία των πολιτών της από εφαρμογές ΤΝ


Η ΕΕ και η Ευρώπη, έχοντας μακρά παράδοση στα δημοκρατικά, πολιτιστικά και ανθρωποκεντρικά ιδεώδη, δεν θα μπορούσε να αγνοήσει την προστασία των πολιτών της από τη χρήση αυτών των εφαρμογών και ειδικά των κρίσιμων.

Ήδη ένα έργο που ξεκίνησε το 2018 στα πλαίσια του Horizon 2020, το AI4EU, στοχεύει και έχει προχωρήσει αρκετά στην ανάπτυξη εφαρμογών τεχνητής νοημοσύνης (ΤΝ) που ικανοποιούν σχεδόν στο σύνολο τους το κανονιστικό πλαίσιο, όπως για παράδειγμα ότι οι εφαρμογές πρέπει να είναι αξιόπιστες (trustworthy) και να μπορούν φυσικά να το αποδείξουν. Θα πρέπει να είναι αμερόληπτες (unbiased) αποδεικνύοντας ότι έχουν αναπτυχθεί (εκπαιδευτεί) με δεδομένα που δεν περιλαμβάνουν διακρίσεις φύλου, εθνικότητας, θρησκείας και άλλα παρόμοια χαρακτηριστικά. Θα πρέπει να διαθέτουν επεξηγηματικότητα (explainability) δηλαδή να είναι σε θέση να εξηγήσουν τις αποφάσεις που παράγουν. Αυτό είναι μια δύσκολη τεχνική απαίτηση, ειδικότερα στις όλο και συχνότερα χρησιμοποιούμενες τεχνικές, τα νευρωνικά δίκτυα και ακόμη περισσότερο στα βαθιά νευρωνικά δίκτυα.


Η Ευρώπη θέτει προτεραιότητες, γνωρίζοντας ότι αυτό της στοιχίζει στην «κούρσα» του ανταγωνισμού


Ειδικά για τα προσωπικά δεδομένα, στο νέο κανονιστικό πλαίσιο γίνεται αναφορά σε αρκετά σημεία παρόλο που υπάρχει ήδη αυστηρή νομοθεσία της ΕΕ ήδη από το 2016 (εν αντιθέσει με άλλες χώρες) υπενθυμίζοντας την ανώνυμη χρήση τέτοιων δεδομένων από οποιαδήποτε πηγή, τη διαφάνεια και την απαγόρευση χρήσης για αθέμιτους σκοπούς.


Κάποιες άλλες απαιτήσεις, όπως για παράδειγμα ότι τα δεδομένα δοκιμής δεν πρέπει να επικαλύπτονται με τα δεδομένα εκπαίδευσης, είναι θεμελιώδεις απαιτήσεις στην ανάπτυξη εφαρμογών ΤΝ και αυτονόητες παρόλα αυτά είναι καλό που επισημαίνονται καθώς αυξάνει την αξιοπιστία των εφαρμογών.


Το πρόβλημα βέβαια με όλα αυτά που βάζουν στο κέντρο τον άνθρωπο (human centric approach) είναι η δυσκολία στη συλλογή δεδομένων και η σημαντική καθυστέρηση στην ανάπτυξη εφαρμογών που αυξάνουν το κόστος και δυσχεραίνει τον ανταγωνισμό ειδικά με τις εταιρείες κολοσσούς της Αμερικής και της Κίνας, που δεν εφαρμόζουν σχεδόν κανένα πλαίσιο. Όπως φαίνεται από το νέο κανονιστικό πλαίσιο η Ευρώπη θέτει άλλες προτεραιότητες, γνωρίζοντας ότι αυτό της στοιχίζει στην κούρσα του ανταγωνισμού.


* Ο Δρ. Ιωάννης Βλαχάβας είναι Καθηγητής Τεχνητής Νοημοσύνης στο Τμήμα Πληροφορικής του ΑΠΘ

Το άρθρο δημοσιεύτηκε στο www.liberal.gr στις 24.04.2021