Παρακαλώ χρησιμοποιήστε αυτό το αναγνωριστικό για να παραπέμψετε ή να δημιουργήσετε σύνδεσμο προς αυτό το τεκμήριο:
https://hdl.handle.net/123456789/1718| Τύπος: | Ανακοίνωση σε συνέδριο; Πρακτικά συνεδρίου |
| Τίτλος: | Multilayer probabilistic knowledge transfer for learning image representations |
| Συγγραφέας: | [EL] Πασσαλής, Νικόλαος[EN] Passalis, Nikolaos [EL] Τζελέπη, Μαρία[EN] Tzelepi, Maria [EL] Τέφας, Αναστάσιος[EN] Tefas, Anastasios |
| Ημερομηνία: | Οκτ-2020 |
| Περίληψη: | Probabilistic Knowledge Transfer (PKT) aims to transfer the knowledge encoded in the representations extracted from a layer of a large and complex neural network (teacher) into a smaller and faster one (student). However, PKT only transfers the knowledge between two layers of the networks, ignoring the potentially useful information encoded by the previous ones, reducing in this way the efficiency of PKT and the performance of the student model. In this paper, we propose a novel efficient multilayer PKT method that is capable of transferring the knowledge between the student and teacher networks by employing the representations extracted from multiple layers. The ability of the proposed multilayer PKT method to improve the knowledge transfer and increase the performance of the student model over other state-of-the-art methods is demonstrated using two image datasets. |
| Γλώσσα: | Αγγλικά |
| Τόπος δημοσίευσης: | Seville, Spain |
| Σελίδες: | 5 |
| DOI: | 10.1109/ISCAS45731.2020.9180824 |
| ISBN: | 978-1-7281-3320-1 |
| Θεματική κατηγορία: | [EL] Τεχνητή νοημοσύνη[EN] Artificial Intelligence |
| Λέξεις-κλειδιά: | Lightweight Deep Learning; Knowledge Transfer |
| Κάτοχος πνευματικών δικαιωμάτων: | ©2020 IEEE |
| Ηλεκτρονική διεύθυνση του τεκμηρίου στον εκδότη: | https://ieeexplore.ieee.org/document/9180824 |
| Ηλεκτρονική διεύθυνση περιοδικού: | https://ieeexplore.ieee.org/xpl/conhome/9179985/proceeding |
| Τίτλος πηγής δημοσίευσης: | 2020 IEEE International Symposium on Circuits and Systems (ISCAS) Proc |
| Τεύχος: | - |
| Όνομα εκδήλωσης: | 2020 IEEE International Symposium on Circuits and Systems (ISCAS) |
| Τοποθεσία εκδήλωσης: | Seville, Spain |
| Ημ/νία έναρξης εκδήλωσης: | 12/10/2020 |
| Ημ/νία λήξης εκδήλωσης: | 14/10/2020 |
| Σημειώσεις: | This project is implemented through the Operational Program ”Human Resources Development, Education and Lifelong Learning” and is cofinanced by the European Union (European Social Fund) and Greek national funds (MIS Code: 5047925). |
| Εμφανίζεται στις συλλογές: | Ερευνητικές ομάδες |
Αρχεία σε αυτό το τεκμήριο:
| Αρχείο | Περιγραφή | Σελίδες | Μέγεθος | Μορφότυπος | Έκδοση | Άδεια | |
|---|---|---|---|---|---|---|---|
| paper1.pdf | Authors version | 5 pages σελίδες | 297.71 kB | Adobe PDF | Του συγγραφέα (post-refereeing) |  | Δείτε/ανοίξτε |