在 Intel NPU 上运行自定义 C 内核以实现官方未支持的推理任务
问题概述
开发者希望在 Intel NPU 上执行官方未提供的自定义推理 workload,但现有工具链(如 OpenVINO、llama.cpp)支持有限,导致需要自行编写内核并面临平台兼容性与支持问题。
痛点标签
- 缺乏官方支持的自定义 NPU 推理任务的能力
- 在 OpenVINO 与 llama.cpp 上使用 NPU 遇到困难
- 对更广泛的 DSP(如 Hexagon)支持的需求
待验证问题
- 是否有特定的推理任务需要在 NPU 上运行?
- 是否愿意在 Linux 环境下尝试使用并贡献代码?
- 对 Hexagon 或其他 DSP 的支持程度有多感兴趣?
证据
原话 · @Anonymous
Finally, bare-metal NPU programming! Immediately thought of those custom, weird inference tasks Intel won't ever officially support.
事实
Requires Windows x64plonk.
免责声明:本卡片由 AI 从社区讨论中提炼,属于「痛点证据」,是需求分析与验证的起点,不等同于「已验证的市场需求」。AI 存在分析局限,关键决策前请打开上方原始讨论人工复核。