DNN-TRAINING MIT ASYMMETRISCHEN RPU-EINHEITEN

    公开(公告)号:DE112020002186T5

    公开(公告)日:2022-04-07

    申请号:DE112020002186

    申请日:2020-04-15

    Applicant: IBM

    Inventor: GOKMEN TAYFUN

    Abstract: Gemäß einem Aspekt umfasst ein Verfahren zum Trainieren eines DNN: Bereitstellen einer Gewichtungsmatrix (W) in Form einer Linearkombination von Matrizen/Arrays A und C; Übertragen eines Eingangsvektors x in einem Vorwärtszyklus durch die Arrays A und C und Lesen eines Ausgangsvektors y; Übertragen eines Fehlersignals δ in einem Rückwärtszyklus durch die Arrays A und C und Lesen eines Ausgangsvektors z; Aktualisieren des Arrays A durch Übertragen des Eingangsvektors x und des Fehlersignals δ durch das Array A; Übertragen eines Eingangsvektors eiin einem Vorwärtszyklus durch das Array A und Lesen eines Ausgangsvektors y'; Berechnen von ƒ(y') unter Verwendung von y'; und Aktualisieren des Arrays C durch Übertragen des Eingangsvektors eiund von ƒ(y') durch das Array C. Auch ein DNN wird bereitgestellt.

    ARCHITEKTUR EINER RESISTIVEN VERARBEITUNGSEINHEIT MIT VONEINANDER GETRENNTER GEWICHTUNGSAKTUALISIERUNGS- UND INFERENZSCHALTUNG

    公开(公告)号:DE112019000437T5

    公开(公告)日:2020-10-01

    申请号:DE112019000437

    申请日:2019-04-01

    Applicant: IBM

    Abstract: Systeme und Verfahren werden bereitgestellt, um Gewichtungsaktualisierungsoperationen in einem System einer resistiven Verarbeitungseinheit (RPU) auszuführen, um Gewichtungswerte von RPU-Einheiten zu aktualisieren, die eine einstellbare resistive Einheit aufweisen. Eine Gewichtungsaktualisierungsoperation für eine bestimmte RPU-Einheit umfasst ein Verwalten eines Gewichtungsaktualisierungs-Akkumulationswerts für die RPU-Einheit, ein Anpassen des Gewichtungsaktualisierungs-Akkumulationswerts um eine Einheit eines Aktualisierungswerts in Reaktion auf eine erkannte Übereinstimmung von stochastischen Bitströmen von Eingangsvektoren, die an eine Aktualisierungszeilen- und eine Aktualisierungsspalten-Steuerleitung angelegt wurden, die mit der RPU-Einheit verbunden sind, ein Generieren eines Gewichtungsaktualisierungs-Steuersignals in Reaktion auf den akkumulierten Gewichtungswert, der einen vordefinierten Schwellenwert erreicht, und ein Anpassen eines Leitfähigkeitspegels der einstellbaren resistiven Einheit um eine Einheit eines Leitfähigkeitswerts in Reaktion auf das Gewichtungsaktualisierungs-Steuersignal, wobei die eine Einheit des Leitfähigkeitswerts einer Einheit des Gewichtungswerts der RPU-Einheit entspricht.

    Resistive Verarbeitungseinheit
    13.
    发明专利

    公开(公告)号:DE112016003245T5

    公开(公告)日:2018-04-12

    申请号:DE112016003245

    申请日:2016-09-19

    Applicant: IBM

    Abstract: Ausführungsformen sind auf eine resistive Verarbeitungseinheit (RPU) mit zwei Anschlüssen gerichtet, die einen ersten Anschluss, einen zweiten Anschluss und einen aktiven Bereich hat. Der aktive Bereich bewirkt eine nichtlineare Änderung an einem Leitungszustand des aktiven Bereichs aufgrund von mindestens einem an den ersten Anschluss angelegten ersten codierten Signal und mindestens einem an den zweiten Anschluss angelegten zweiten codierten Signal. Der aktive Bereich ist so konfiguriert, dass er einen Datenspeichervorgang einer Trainingsmethodik, der zumindest teilweise auf der nichtlinearen Änderung am Leitungszustand beruht, lokal ausführt. Der aktive Bereich ist außerdem so konfiguriert, dass er einen Datenverarbeitungsvorgang der Trainingsmethodik, der zumindest teilweise auf der nichtlinearen Änderung am Leitungszustand beruht, lokal ausführt.

Patent Agency Ranking