Βελτίωση της ασφάλειας και αξιοπιστίας νευρωνικών δικτύων βαθιάς μάθησης ταξινόμησης

Τα νευρωνικά δίκτυα βαθιάς μάθησης χρησιμοποιούνται ολοένα και περισσότερο σήμερα σε ένα μεγάλο εύρος εφαρμογών. Παρόλα αυτά, η επιδόσεις και αξιοπιστία τους μπορεί να αμφισβητηθεί, ιδιαίτερα σε περιπτώσεις που γίνεται προσπάθεια παραπλάνησης του μηχανισμού μάθησης, μέσα από την τροποποίηση του διανύσματος εισόδου.

Η συγκεκριμένη εργασία θα επικεντρωθεί στο πρόβλημα της βελτίωσης της αξιοπιστίας μοντέλων που εξάγονται από νευρωνικά δίκτυα βαθιάς μάθησης, τα οποία δέχονται ως είσοδο εικόνες και αποφασίζουν την ταξινόμησή τους σε κάποια κατηγορία.

Συγκεκριμένα, η εργασία θα εστιάσει στη βελτίωση μιας εφαρμογής αναγνώρισης προσώπου (face recognition), η οποία ως γνωστόν χρησιμοποιείται ευρέως ως μέσο ταυτοποίησης στα κινητά τηλέφωνα. Στόχος είναι η αναζήτηση και εφαρμογή τεχνικών που μπορούν να αποτρέψουν την παραπλάνηση του μοντέλου από τροποποιημένα διανύσματα εισόδου (η παραπλάνηση του face recognition μπορεί να γίνει δίνοντας ως είσοδο μία εικόνα, με ένα διαφορετικό πρόσωπο, στην οποία έχουν υποστεί επεξεργασία συγκεκριμένα pixels).

Κωδικός: Autumn19-Softeng-9

Εμπλεκόμενες Τεχνολογίες – Γνώσεις που θα αποκτηθούν:

• Μηχανική μάθηση/Αλγόριθμοι και τεχνικές ανάλυσης δεδομένων
• Ασφάλεια και αξιοπιστία συστημάτων
• Τεχνολογίες/Γλώσσες προγραμματισμού: Πλαίσια ανάπτυξης βαθιών νευρωνικών δικτύων/Python ή Java

Εκτιμώμενος Χρόνος Περάτωσης:

9 Μήνες

Συνεργαζόμενος Ερευνητής:

Αν. Καθηγητής Παναγιώτης Κατσαρός, Τμήμα ΠΛηροφορικής ΑΠΘ