公开(公告)号：DE112020004348T5

公开(公告)日：2022-05-25

申请号：DE112020004348

申请日：2020-09-10

Applicant: IBM

Inventor： THOMAS SAMUEL ,  AUDHKHASI KARTIK ,  TUESKE ZOLTAN ,  HUANG YINGHUI ,  PICHENY MICHAEL ALAN

IPC: G06F40/232 ,  G10L15/26 ,  G10L15/183

Abstract: Aspekte der vorliegenden Offenbarung beschreiben Methoden zum Identifizieren und Wiederherstellen von außerhalb des Wortschatzes liegenden Wörtern in Transkripten einer Sprachdatenaufzeichnung unter Verwendung von Spracherkennungsmodellen und Wortteileinheiten-Erkennungsmodellen. Ein Beispielverfahren enthält im Allgemeinen ein Empfangen einer Sprachdatenaufzeichnung für eine Transkription in eine Textdarstellung der Sprachdatenaufzeichnung. Die Sprachdatenaufzeichnung wird unter Verwendung eines Worterkennungsmodells in die Textdarstellung transkribiert. Ein unbekanntes Wort wird in der Textdarstellung identifiziert, und das unbekannte Wort wird auf Grundlage einer Erkennung von Teileinheiten des unbekannten Wortes rekonstruiert, die durch ein Teileinheiten-Erkennungsmodell erzeugt werden. Die Textdarstellung der Sprachdatenaufzeichnung wird modifiziert, indem das unbekannte Wort durch die Rekonstruktion des unbekannten Wortes ersetzt wird, und die modifizierte Textdarstellung wird ausgegeben.

公开(公告)号：AU2021246985A1

公开(公告)日：2022-08-18

申请号：AU2021246985

申请日：2021-03-19

Applicant: IBM

Inventor： KURATA GAKUTO ,  AUDHKHASI KARTIK

IPC: G10L15/02 ,  G10L15/06

Abstract: A technique for training a model is disclosed. A training sample including an input sequence of observations and a target sequence of symbols having length different from the input sequence of observations is obtained. The input sequence of observations is fed into the model to obtain a sequence of predictions. The sequence of predictions is shifted by an amount with respect to the input sequence of observations. The model is updated based on a loss using a shifted sequence of predictions and the target sequence of the symbols.

公开(公告)号：DE112020003449T5

公开(公告)日：2022-04-07

申请号：DE112020003449

申请日：2020-08-17

Applicant: IBM

Inventor： AUDHKHASI KARTIK ,  SAON GEORGE ANDREI ,  TUESKE ZOLTAN ,  KINGSBURY BRIAN ,  PICHENY MICHAEL ALAN

IPC: G06N3/08 ,  G10L15/16

Abstract: In einem Ansatz zum Soft-Forgetting-Training trainieren ein oder mehrere Computerprozessoren ein erstes Modell unter Verwendung eines oder mehrerer Trainingsstapel, wobei jeder Trainingsstapel des einen oder mehrerer Trainingsstapel einen oder mehrere Informationsblöcke aufweist. Der eine oder mehrere Computerprozessoren lösen als Reaktion auf ein erfolgtes Ausführen des Trainierens des ersten Modells ein Trainieren eines zweiten Modells aus unter Verwendung des einen oder mehrerer Trainingsstapel. Der eine oder mehrere Computerprozessoren jittern eine zufällige Blockgröße für jeden Informationsblock für jeden der ein oder mehreren Trainingsstapel für das zweite Modell. Der eine oder mehrere Computerprozessoren rollen das zweite Modell über einen oder mehrere sich nicht überlappende, zusammenhängende, gejitterte Informationsblöcke aus. Der eine oder mehrere Computerprozessoren reduzieren als Reaktion auf das Ausrollen des zweiten Modells eine Überanpassung des zweiten Modells durch Durchführen einer Zwillingsregularisierung.