Skip to content

FP8 训练与 量化 #597

@chumingqian

Description

@chumingqian

想问一下, 现在 NVidia 的新的硬件, 已经支持 FP8 训练, 那么 如果 在使用 FP8 进行量化,

那么这样带来的影响是否会导致, 以后训练框架和推理框架的 统一。

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions