全程使用iflow cli在魔搭社区创空间部署一个大模型(小钢炮哈哈哈MiniCPM)

嘿嘿 :nerd_face:

这款模型的介绍在这里
网络称之为逼近Gemini 2.5的多模态,全能模型,哈哈哈,视觉到视频,声音tts也没问题 :nerd_face:

创空间的位置

位置在这里啦;

为什么想弄?
哈哈哈,当然是想试试iflow cli在进行搭建一个Demo的容器部署,虽然只能用Gradio,哈哈哈,不过使用刚好了,(哈哈哈,实际上就是想试试用部署而不是api的方式搭建一个bot试试)

由于纯小白模式,第一次发现,啊呀,居然还有日志这玩意,上次刚尝试了llama.cpp命令行部署这个模型进行运行。

模型采用的是:glm -4.7和Kimi k2.5,因为最近后者容易断,所以常常用前者。

image

哈哈哈,41次提交是真的一绝,因为每次都要配合上日志进行分析解释和解决。哈哈哈可以看这下面的一个截图示例


三板斧:图片+图片描述+日志信息

哈哈哈;使用的是快速部署的方式,用时的话用了三天吧

好啦,开始讲一下主要部署吧

** 找到创空间创建,但请加入xGPU,
组织:ModelScope 魔搭社区
点一下加入就行啦,然后等待一下 :hugs:


点击编程式创建

快速创建并部署


填一下你的基本信息;哈哈哈,大致上介绍一下,有问题找iflow cli :innocent:


这里的ms_deploy.json文件可以推荐直接去其他的demo里面直接下载


导出配置文件就可以啦。

或者用官方的提示词:

通过 AI 生成部署配置文件#

本例使用 Visual Studio Code中安装的 Cline 插件 作为 Coding Copilot,模型 API 设置为阿里云百炼提供的qwen3-coder-plus,启用 Cline 默认的 Act 模式。

步骤1:向 AI 输入部署提示词#

现在我需要在生产环境部署这个项目,目标环境是魔搭创空间。请完整阅读整个项目,并根据魔搭创空间部署schema要求,帮我制定部署方案,并生成ms_deploy.json及其他必要的部署配置文件。
schema参见:"https://modelscope.cn/api/v1/studios/deploy_schema.json"
注意事项:
- 当前项目已经能在本地运行,请务必尽量不改动或少改动项目代码文件本身,以避免引入更多问题。
- 如需选择Docker类型部署,请尽量直接从Docker官方拉取已经安装好必要依赖的Docker镜像文件,减少构建时安装,以免引入更多问题


项目其实看上去很简单

核心就在于app.py中哈哈哈

结果由于我的小白属性使得它的困难程度加大。


在这里查看日志

日志开始跑啦

但是每一次重新上传部署文件后

记得要重启创空间喔!

哈哈哈,我想我可以把我的问题集成一下:


哈哈哈,我看到一个流程,哈哈哈,我看到一个总结错误和修复错误

艾玛,那股记忆涌上心头,第一个是skills或者workflow,第二个可以是一个subagent进行整理整个修复过程

哈哈哈,非常感谢iflow cli还有魔搭社区

牛!

1 个赞

iflow 和 魔搭的力量,哈哈哈