公开(公告)号：DE112019004076T5

公开(公告)日：2021-05-06

申请号：DE112019004076

申请日：2019-11-05

Applicant: IBM

Inventor： ZHANG WEI ,  ZHANG LI ,  FINKLER ULRICH ,  CHO MINSIK ,  KUNG DAVID

IPC: G06N3/08

Abstract: Verschiedene Ausführungsformen werden für dezentralisiertes verteiltes Deep Learning durch einen oder mehrere Prozessoren in einem Datenverarbeitungssystem bereitgestellt. Asynchrones verteiltes Schulen von einem oder mehreren Maschinenlernmodellen kann durch Generieren einer Liste von Nachbarknoten für jeden Knoten in einer Mehrzahl von Knoten und Erstellen eines ersten Threads für kontinuierliche Datenübertragung gemäß einer Operation zum Gewichtungsmanagement und eines zweiten Threads für kontinuierliche Berechnung eines Gradienten für jeden Knoten ausgeführt werden. Eine oder mehrere Variablen werden zwischen dem ersten Thread und dem zweiten Thread gemeinsam genutzt.