电子装置和用于推断的方法
    1.
    发明公开

    公开(公告)号:CN116090507A

    公开(公告)日:2023-05-09

    申请号:CN202210985760.7

    申请日:2022-08-17

    Abstract: 提供了电子装置和用于推断的方法。所述电子装置包括:处理器,被配置为:通过实现包括多个编码器和多个解码器的转换模型来执行推断;以及存储器,被配置为:存储将由处理器执行的指令。编码器和解码器中的每个包括注意力块,注意力块确定注意力值。处理器被配置为:在注意力块中逐区块执行第一子柔性最大操作;基于第一子柔性最大操作的结果值来执行缩减操作以确定调整因子;并且基于缩减操作的结果值来逐区块执行第二子柔性最大操作。

Patent Agency Ranking