工作层面上,全是我一个人干。
1,有几个项目是直接用 rust 实现的ai推理服务:有用li***orch,也有用onnx,还有用candle的。
2,某个 aigc 项目,不过是多语言多架构,rust 只是提供 web 服务层的功能,ai部分还是python,不用 rust 实现的原因是,虽然rust 也能推理,但是我发现生成的图片效果不如python 版本,哪怕所有参数一致,说明底层的推理框架有一些差异。
还有一个是aigc 都有大量的插件配套,这个如果全rust化,我估计…。
上一篇:黄仁勋发表重磅演讲!称2027营收至少万亿美元,“龙虾”就是新操作系统!英伟达宣布:七款新芯片全面投产_Rubin_Token_Vera
下一篇:“养龙虾”榨干了大家的 Token,结果电网成了最大赢家?_模型_电力_国产