Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

是否可以提供iOS metal相关的预编译库 #10445

Closed
zhanghuicuc opened this issue Feb 20, 2024 · 8 comments
Closed

是否可以提供iOS metal相关的预编译库 #10445

zhanghuicuc opened this issue Feb 20, 2024 · 8 comments
Assignees

Comments

@zhanghuicuc
Copy link

尽管从2.10开始就已经宣称支持metal,但是在paddle官网https://www.paddlepaddle.org.cn/lite/v2.12/quick_start/release_lib.html 没有找到任何metal相关的预编译库,仅在github release页面下找到一个相关的库:https://github.com/PaddlePaddle/Paddle-Lite/releases/download/v2.12/inference_lite_lib.ios64.armv8.with_metal.tiny_publish.tar.gz
但是也没有开启with_extra的版本,希望官方能够提供各个版本的metal相关预编译库。让metal真正的用起来。

Copy link

paddle-bot bot commented Feb 20, 2024

您好,我们已经收到了您的问题,会安排技术人员尽快解答您的问题,请耐心等待。请您再次检查是否提供了清晰的问题描述、复现代码、环境&版本、报错信息等。同时,您也可以通过查看官网文档常见问题历史Issue来寻求解答。祝您生活愉快~

Hi! We've received your issue and please be patient to get responded. We will arrange technicians to answer your questions as soon as possible. Please make sure that you have posted enough message to demo your request. You may also check out the APIFAQ and Github Issue to get the answer.Have a nice day!

@engineer1109
Copy link
Contributor

应该已经结项了。
Metal有很多粗心错误。
例如 void Tensor::CopyToCpu(T *data) const
代码却写

#ifdef LITE_WITH_METAL
    lite::TargetWrapperMetal::MemcpySync(
        data, src_data, num * sizeof(T), lite::IoDirection::HtoD);
#else

拷贝到CPU的功能函数,却写拷贝到设备内存。
显然这样的代码是不正确

@zhoutianzi666
Copy link
Collaborator

应该已经结项了。 Metal有很多粗心错误。 例如 void Tensor::CopyToCpu(T *data) const 代码却写

#ifdef LITE_WITH_METAL
    lite::TargetWrapperMetal::MemcpySync(
        data, src_data, num * sizeof(T), lite::IoDirection::HtoD);
#else

拷贝到CPU的功能函数,却写拷贝到设备内存。 显然这样的代码是不正确

欢迎向Paddle-Lite 提交 pr修复此类问题,一起让Paddle-Lite更好更易用~

@engineer1109
Copy link
Contributor

@zhoutianzi666 我可是一直提PR的,可是没有人管啊。
#10353

但是看你们几乎没有任何积极性,维护代码的意图。
我都懒得提PR了。

目前PaddleLite比较大的BUG

  1. 你们之前离职的员工sprouteer
    有很多明显的致命错误代码。导致OpenCL FP16模式很多模型不能使用 (例如yolov5s 和 yolov7)
    修复方案我是有的。

  2. 自从Paddle更新0 dim的Tensor格式支持之后,
    导致PaddleLite目前已经不支持最新的Paddle。
    原因: https://github.com/PaddlePaddle/Paddle-Lite/blob/develop/lite/operators/fill_constant_op.cc
    遇到fill_constant没有处理0 dim的逻辑
    我也不知道你们在干什么?

要人提PR,先得证明自己愿意配合。
除了XPU以外,其他backend已经大半年没更新了。
这个IOS端我感觉应该没人跑通过。

@hong19860320
Copy link
Collaborator

hong19860320 commented Feb 26, 2024

@zhoutianzi666 我可是一直提PR的,可是没有人管啊。 #10353

但是看你们几乎没有任何积极性,维护代码的意图。 我都懒得提PR了。

目前PaddleLite比较大的BUG

  1. 你们之前离职的员工sprouteer
    有很多明显的致命错误代码。导致OpenCL FP16模式很多模型不能使用 (例如yolov5s 和 yolov7)
    修复方案我是有的。
  2. 自从Paddle更新0 dim的Tensor格式支持之后,
    导致PaddleLite目前已经不支持最新的Paddle。
    原因: https://github.com/PaddlePaddle/Paddle-Lite/blob/develop/lite/operators/fill_constant_op.cc
    遇到fill_constant没有处理0 dim的逻辑
    我也不知道你们在干什么?

要人提PR,先得证明自己愿意配合。 除了XPU以外,其他backend已经大半年没更新了。 这个IOS端我感觉应该没人跑通过。

问题 2 的0 维 tensor 在 develop 分支是修过的,#10279 #10254 ,可以基于 develop 分支编译试试 ,如果仍然有问题,你可以开启这个 pass #10147 .

@hong19860320
Copy link
Collaborator

hong19860320 commented Feb 26, 2024

@zhoutianzi666 我可是一直提PR的,可是没有人管啊。 #10353

但是看你们几乎没有任何积极性,维护代码的意图。 我都懒得提PR了。

目前PaddleLite比较大的BUG

  1. 你们之前离职的员工sprouteer
    有很多明显的致命错误代码。导致OpenCL FP16模式很多模型不能使用 (例如yolov5s 和 yolov7)
    修复方案我是有的。
  2. 自从Paddle更新0 dim的Tensor格式支持之后,
    导致PaddleLite目前已经不支持最新的Paddle。
    原因: https://github.com/PaddlePaddle/Paddle-Lite/blob/develop/lite/operators/fill_constant_op.cc
    遇到fill_constant没有处理0 dim的逻辑
    我也不知道你们在干什么?

要人提PR,先得证明自己愿意配合。 除了XPU以外,其他backend已经大半年没更新了。 这个IOS端我感觉应该没人跑通过。

抱歉,如果有 PR 提交,可以在 reviewer 里加上我,如果 review 不够及时,XDX 作为飞桨的硬件合作厂商,可以通过内部的微信群 push 我们哈~ #10353 这个 PR 我合入了。

@jzhang533
Copy link
Collaborator

cc: @terrysha

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

5 participants