Παρακαλώ χρησιμοποιήστε αυτό το αναγνωριστικό για να παραπέμψετε ή να δημιουργήσετε σύνδεσμο προς αυτό το τεκμήριο:
https://ruomo.lib.uom.gr/handle/7000/720
Τίτλος: | LEARNAE: Distributed and Resilient Deep Neural Network Training for Heterogeneous Peer to Peer Topologies |
Συγγραφείς: | Nikolaidis, Spyridon Refanidis, Ioannis |
Τύπος: | Conference Paper |
Θέματα: | FRASCATI::Natural sciences::Computer and information sciences |
Λέξεις-Κλειδιά: | Decentralized neural network training Distributed asynchronous stochastic gradient decent Model averaging Peer-to-Peer topologies Distributed Ledger Technology IPFS IOTA |
Ημερομηνία Έκδοσης: | 15-Μαΐ-2019 |
Εκδότης: | Springer Nature Switzerland AG 2019 |
Πηγή: | Proceedings of the 20th International Conference on Engineering Applications of Neural Networks (EANN-2019) |
Πρώτη Σελίδα: | 286 |
Τελευταία Σελίδα: | 298 |
Μέρος Σειράς: | Communications in Computer and Information Science book series (CCIS, volume 1000) |
Μέρος Σειράς: | Communications in Computer and Information Science book series (CCIS, volume 1000) |
Επιτομή: | Learnae is a framework proposal for decentralized training of Deep Neural Networks (DNN). The main priority of Learnae is to maintain a fully distributed architecture, where no participant has any kind of coordinating role. This solid peer-to-peer concept covers all aspects: Underlying network protocols, data acquiring/distribution and model training. The result is a resilient DNN training system with no single point of failure. Learnae focuses on use cases where infrastructure heterogeneity and network unreliability result to an always changing environment of commodity-hardware nodes. In order to achieve this level of decentralization, new technologies had to be utilized. The main pillars of this implementation are the ongoing projects of IPFS and IOTA. IPFS is a platform for a purely decentralized filesystem, where each node contributes local data storage. IOTA aims to be the networking infrastructure of the upcoming IoT reality. On top of these, we propose a management algorithm for training a DNN model collaboratively, by optimal exchange of data and model weights, always using distribution-friendly gossip protocols. |
URI: | https://doi.org/10.1007/978-3-030-20257-6_24 https://ruomo.lib.uom.gr/handle/7000/720 |
ISBN: | 978-3-030-20256-9 |
Ηλεκτρονικό ISBN: | 978-3-030-20257-6 |
Αλλοι Προσδιοριστές: | 10.1007/978-3-030-20257-6_24 |
Εμφανίζεται στις Συλλογές: | Τμήμα Εφαρμοσμένης Πληροφορικής |
Αρχεία σε αυτό το Τεκμήριο:
Αρχείο | Περιγραφή | Μέγεθος | Μορφότυπος | |
---|---|---|---|---|
LEARNAE_FirstPaper.pdf | CAMERA READY | 514,15 kB | Adobe PDF | Προβολή/Ανοιγμα |
Τα τεκμήρια στο Αποθετήριο προστατεύονται από πνευματικά δικαιώματα, εκτός αν αναφέρεται κάτι διαφορετικό.