Ένας νέος κλάδος λύσεων έρχεται να δώσει καίριες απαντήσεις σε κρίσιμα ερωτήματα που προκύπτουν στην εποχή της αυτοματοποίησης.
Με τις ψηφιακές τεχνολογίες να έχουν αλλάξει τα πάντα στην καθημερινότητα μας, υπάρχει ένα βασικό ερώτημα που θέτουν πολλοί άνθρωποι: μπορούμε να εμπιστευτούμε την τεχνολογία; Όπως η αξιολόγηση μιας τεχνολογικής λύσης έτσι και η εμπιστοσύνη για αυτή δεν είναι ένα θεωρητικό ερώτημα. Μάλιστα, η απάντηση στα παραπάνω είναι ακόμη πιο επιτακτική από τη στιγμή που στην εξίσωση εισέρχονται και οι εφαρμογές και οι υπηρεσίες που αξιοποιούν τις δυνατότητες της τεχνητής νοημοσύνης. Πώς μπορούν λοιπόν οι άνθρωποι και οι επιχειρήσεις να κατανοήσουν, να αξιολογήσουν και στη συνέχεια να εμπιστευτούν μία εφαρμογή ή μία μηχανή που στο πλαίσιο της αυτοματοποίησης και της επιτάχυνσης διαδικασιών παίρνει μόνη της αποφάσεις; Ιδίως, μάλιστα, από τη στιγμή που όλο και πιο συχνά παρατηρούνται φαινόμενα διακρίσεων από την πλευρά των εφαρμογών ΑΙ.
Σε αυτό το σημείο έρχεται να κάνει την εμφάνιση του ένας νέος κλάδος λύσεων, ο οποίος αφορά τόσο την ποιότητα συστημάτων λογισμικών (software quality) όσο και την αξιοπιστία τους, ειδικά των συστημάτων ΑΙ (Trustworthy AI). Ένας κλάδος, ο οποίος ασχολείται μεν με τον έλεγχο της ποιότητας μίας εφαρμογής (σ.σ. ήτοι πόσα bugs έχει και αν δουλεύει σωστά), αλλά επεκτείνεται πλέον και στον τομέα της αξιολόγησης της διαφάνειας και της ορθής -από πλευράς ηθικών αξιών λειτουργίας- μίας εφαρμογής. Άλλωστε, ειδικά στον τομέα του ΑΙ, η αξιολόγηση και ο έλεγχος των αλγοριθμικών συστημάτων και μοντέλων έχει αποκτήσει πλέον μία παραπάνω σημασία.
«Το ζητούμενό μας είναι να καταστήσουμε την τεχνολογία «σκεπτόμενη», τόσο με την έννοια της ορθής, εμπεριστατωμένης και τεκμηριωμένης σκέψης, όσο και με την έννοια της σκέψης , του ενδιαφέροντος και της εστίασης στους ανθρώπους, ώστε να δημιουργήσουμε αίσθημα εμπιστοσύνης και ασφάλειας » σημειώνει ο Γιάννης Κανελλόπουλος, ο άνθρωπος που βρίσκεται πίσω από τη δημιουργία της Code4Thought. H τελευταία είναι μία ελληνική εταιρεία που έχει δημιουργήσει την Pythia, μία λύση που αναλαμβάνει να ελέγξει κατά πόσον ένα σύστημα τεχνητής νοημοσύνης ή μηχανικής εκμάθησης (machine learning) είναι αξιόπιστο, λειτουργεί ορθά και επιπλέον δεν κάνει διακρίσεις.
Πώς το πετυχαίνει αυτό; Η Pythia ξεκινά καταρχάς από τον εντοπισμό πιθανών περιπτώσεων που γίνονται διακρίσεις όσον αφορά στη λήψη αποφάσεως (bias testing). Επιπλέον, προσφέρει τη δυνατότητα σε όσους τη χρησιμοποιούν να ελέγξουν αν γίνονται διακρίσεις τόσο σε micro επίπεδο (π.χ. έναν συγκεκριμένο άτομο ή υποκείμενο) ή σε macro, ήτοι τα συνολικά δεδομένα που διαχειρίζεται ένα σύστημα ΑΙ. «Υπάρχουν συγκεκριμένοι μέθοδοι και τρόποι προκειμένου να μετρήσεις πόσο αμερόληπτο είναι ένα σύστημα ΑΙ» τονίζει ο κ. Κανελλόπουλος.
Παράλληλα, όμως, ψάχνει και κάτι ακόμη που είναι πολύ σημαντικό: το πως ένα σύστημα ΑΙ καταλήγει σε κάποιο συμπέρασμα (explainability analysis). Μάλιστα, παρέχει εξηγήσεις τόσο για το πως το σύστημα σκέφτεται σε συνολικό επίπεδο όσο και ειδικά για μία συγκεκριμένη περίπτωση.
“Με αυτόν τον τρόπο ένα ΑΙ σύστημα μετατρέπεται από ένα «μαύρο κουτί» για τους χρήστες, σε ένα διαφανές και κατανοητό σύστημα και επομένως, ελέγξιμο και βελτιώσιμο.”
Η αξιοποίηση των δυνατοτήτων της Pythia προσφέρει σημαντικά πλεονεκτήματα σε όποια επιχείρηση τη χρησιμοποιεί. Ένα ΑΙ σύστημα που θεωρείται αξιόπιστο και έχει αποδειχθεί ότι μπορεί να το εμπιστευτούν οι χρήστες του λειτουργεί θετικά σε δύο επίπεδα: σε πρώτο ενισχύει την εμπιστοσύνη των χρηστών και σε δεύτερο επιταχύνει τον βαθμό υιοθέτησης λύσεων και εφαρμογών τεχνητής νοημοσύνης. Παράλληλα, όμως, βελτιώνει σημαντικά τη διαδικασία λήψεως αποφάσεων αυτοματοποιώντας διαδικασίες, ενώ την ίδια στιγμή συντελεί ώστε τα αποτελέσματα από τη χρήση ενός συστήματος ΑΙ να μετουσιωθούν σε πραγματικές καινοτομίες για μία επιχείρηση, τους πελάτες της αλλά τελικώς την ίδια την κοινωνία.
Η ιστορία πίσω από την ιδέα
Η ιδέα για τη δημιουργία της Code4Thought προέκυψε τη δεκαετία του ’00 όταν ο κ. Κανελλόπουλος συνειδητοποίησε ότι υπάρχει τεράστιο έλλειμμα σχετικά με τον έλεγχο της ποιότητας του παραγόμενου λογισμικού. Η πρώτη συνεργασία του ήταν με την SIG (Software Improvement Group), έναν όμιλο που ασχολείται με το συγκεκριμένο αντικείμενο και έχει ως πελάτες μεγάλες αλλά και μικρές εταιρείες που δημιουργούν ή αξιοποιούν εφαρμογές λογισμικού και θέλουν να ελέγχουν την ποιότητα αυτών. Η Code4Thought, η οποία δημιουργήθηκε το 2017, αποτελεί τη συνέχεια της συνεργασίας που είχε ξεκινήσει ο κ. Κανελλόπουλος με την SIG. Μία συνεργασία που συνεχίζει να υφίσταται και αποτελεί έναν από τους δύο πυλώνες δραστηριοποίησης της Code4Thought.
Αξίζει να επισημάνουμε ότι ο έλεγχος ποιότητας λογισμικού έχει πολύπλευρα, θετικά, οφέλη στη λειτουργία μιας επιχείρησης, συντελώντας στη μείωση:
– της ανάγκης για «συντήρηση» των εφαρμογών
– των λειτουργικών δαπανών μίας επιχείρησης
– του συνολικού κόστους χρήσης και αξιοποίησης
Από την άλλη πλευρά, βελτιώνεται η ποιότητα των παρεχόμενων υπηρεσιών και των παραγόμενων προϊόντων (από την εταιρεία που χρησιμοποιεί το συγκεκριμένο λογισμικό), αυξάνοντας ταυτόχρονα και το επίπεδο ασφάλειας των εφαρμογών.
Η συνεργασία με την SIG ήταν ένα πρώτο, μεγάλο βήμα για τον κ. Κανελλόπουλο και την ομάδα που είχε αρχίσει να δημιουργεί γύρω του. Όμως, πολύ γρήγορα έγινε εμφανές ότι το ΑΙ και το machine learning ήταν οι τομείς εκείνοι που θα μας απασχολούσαν στο προσεχές μέλλον και ο έλεγχος της ποιότητας των αλγοριθμικών μοντέλων ήταν απαραίτητος, προκειμένου οι χρήστες να αισθανθούν πιο «άνετα» όσον αφορά την αξιοποίηση της τεχνητής νοημοσύνης.
Ένα startup αυτοχρηματοδοτούμενο
Η Code4Thought ξεκίνησε ως ένα startup, αλλά η πορεία της εξελίχθηκε αρκετά διαφορετικά σε σχέση με άλλα παραδείγματα νεοφυών επιχειρήσεων. Και αυτό γιατί ακόμη και τώρα -4 χρόνια μετά την ίδρυση της- δεν έχει χρειαστεί να αναζητήσει κάποιας μορφής χρηματοδότηση!
Ένας λόγος είναι πως πολύ γρήγορα απέκτησε ένα σημαντικό πελατολόγιο, αρχής γενομένης από μία μεγάλη ασφαλιστική εταιρεία. Στην Ελλάδα η Code4Thought ως μέλος του Ομίλου SIG έχει ως πελάτες μερικές από τις μεγαλύτερες εταιρίες από τον Τραπεζικό χώρο (τρεις από τις τέσσερις συστημικές τράπεζες), την Ασφαλιστική αγορά, τις Τηλεπικοινωνίες και την Τεχνολογία. Επιπλέον, η PyThia, ήδη χρησιμοποιείται από εταιρείες σε χώρες όπως η Ολλανδία και η Γερμανία.
Επόμενο βήμα είναι η επέκταση στην άλλη πλευρά του Ατλαντικού: «εστιάζουμε σε εταιρείες που η χρήση, η λειτουργία και η ανάπτυξη τεχνολογίας είναι στρατηγικής σημασίας για αυτές και επενδύουν εκατομμύρια ευρώ προς αυτή την κατεύθυνση. Στα άμεσα πλάνα μας είναι να προσεγγίσουμε και τους οργανισμούς του Δημοσίου διαφόρων χωρών προκειμένου να κατανοήσουν την ανάγκη που υπάρχει για τέτοιου είδους λύσεις. Δεν είμαστε μακριά από τη στιγμή που δημόσιοι οργανισμοί θα κληθούν να αποτυπώσουν και να ελέγξουν την αξιοπιστία, διαφάνεια και αμεροληψία συστημάτων ΑΙ του ιδιωτικού τομέα για λόγους διασφάλισης του κοινωνικού συνόλου. Τότε θα πρέπει να είναι σε θέση να το κάνουν » επισημαίνει ο κ. Κανελλόπουλος.
Σε παγκόσμιο επίπεδο, οι εταιρείες που ασχολούνται με τον έλεγχο των εφαρμογών ΑΙ και machine learning είναι πολύ λίγες. Αυτός είναι και ένας λόγος που η Code4Thοught έχει φθάσει στο σημείο να προσελκύει Έλληνες επιστήμονες από το εξωτερικό που θέλουν να επιστρέψουν στη χώρα τους και να εργασθούν σε μία εταιρεία που βρίσκεται στην αιχμή της τεχνολογίας. Επιστήμονες, που θέλουν να ασχοληθούν με ένα αντικείμενο που έχει ιδιαίτερο ενδιαφέρον καθώς ο στόχος της Code4Thought είναι να βελτιώσει τη σχέση των ανθρώπων με την τεχνολογία. «Εργαζόμαστε προκειμένου να προσελκύσουμε ταλέντο για την εταιρεία μας ανεξαρτήτως που αυτό βρίσκεται» σημειώνουν τα στελέχη της Code4Thought, η οποία αυτή τη στιγμή απασχολεί 10 άτομα με την εταιρεία να έχει γραφεία σε Πάτρα, όπου και ιδρύθηκε, και στην Αθήνα.
Όσον αφορά τα υπόλοιπα πλάνα, ο βασικός στόχος είναι η περαιτέρω ανάπτυξη της Pythia, η οποία αυτή τη στιγμή θεωρείται μία από τις κορυφαίες πλατφόρμες του είδους της σε παγκόσμιο επίπεδο. Ενδεικτικά, έχει συμπεριληφθεί στη λίστα των προτιμώμενων προμηθευτών της Κυβέρνησης του Καναδά, ενώ ξεκινά συνεργασία με διεθνή φορέα πιστοποίησης, με σκοπό τη χρήση της Pythia ως εργαλείο πιστοποίησης συστημάτων ΑΙ σε όρους διαφάνειας, αξιοπιστίας και αμεροληψίας. «Η τεχνολογία είναι ο καθρέφτης της κοινωνίας μας. Αυτό που θέλουμε είναι να προσπαθήσουμε να βελτιώσουμε τον κόσμο μας, καθιστώντας την τεχνολογία πιο αξιόπιστη και «άξια» της εμπιστοσύνης των ανθρώπων. Αν βάλουμε έστω και ένα λιθαράκι σε αυτή την προσπάθεια, τότε θα είμαστε πολύ ικανοποιημένοι με το αποτέλεσμα» επισημαίνει ο κ. Κανελλόπουλος.
