Skip to content

llama.cpp 缺失算子补全 #1

Closed
Closed
@noemotiovon

Description

@noemotiovon
状态 名称 责任人 备注
已完成 ABS @hipudding
已完成 ADD @hipudding
已完成 ARGMAX @noemotiovon
已完成 CONT @noemotiovon bf16暂不支持
已完成 CONV_TRANSPOSE_1D @noemotiovon
已完成 COS @noemotiovon
已完成 COUNT_EQUAL @noemotiovon 需要多个算子拼接,SUM和EqTensor
不涉及 CPY @noemotiovon 部分类型不支持
CROSS_ENTROPY_LOSS 需要多个算子拼接,logsoftmax, argmax, sub, BinaryCrossEntropy
CROSS_ENTROPY_LOSS_BACK
已完成 DUP @noemotiovon
已完成 ELU @noemotiovon
已完成 EXP @hipudding
FLASH_ATTN_EXT
GATED_LINEAR_ATTN
不涉及 GET_ROWS @noemotiovon 部分类型不支持
GET_ROWS_BACK indexAdd算子但不支持,需要再找
L2_NORM
已完成 LOG @noemotiovon
已完成 MEAN @noemotiovon
MUL_MAT
MUL_MAT_ID
已完成 NEG @hipudding
OPT_STEP_ADAMW
OUT_PROD
已完成 PAD_REFLECT_1D @noemotiovon
REPEAT_BACK
RMS_NORM_BACK
已完成 ROPE @noemotiovon 部分高级特性不支持,不影响Qwen和llama
ROPE_BACK
RWKV_WKV6
RWKV_WKV7
SET
已完成 SGN @noemotiovon
已完成 SIGMOID @hipudding
SILU_BACK
已完成 SIN @noemotiovon
SOFT_MAX_BACK
已完成 SQRT @hipudding
SSM_CONV
SSM_SCAN
已完成 STEP @noemotiovon
已完成 SUB
已完成 SUM @hipudding
不涉及 UPSCALE 部分类型不支持
已完成 GELU_QUICK @hipudding

Metadata

Metadata

Assignees

Labels

No labels
No labels

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests

Issue actions