当前位置: 首页 > news >正文

[ComfyUI] 最新控制模型EasyControl,吉卜力风格一键转绘

一、EasyControl介绍

玩ComfyUI的都知道Controlnet的重要性,可以根据约束来引导图片的生成,这也是ComfyUI商业化里面很重要的一环。

不过之前我们用的Controlnet都是基于Unet技术框架下的。
最近出的这个EasyControl有点不一样,是基于DiT( Diffusion Transformer)的创新框架。

EasyControl 是一个基于 Diffusion Transformer 的创新框架,通过轻量级条件注入模块位置感知训练范式因果注意机制实现高效灵活的多条件控制图像生成。

EasyControl提供的模型提供多,可以实现如下几个功能:

  • Canny线稿
  • depth深度
  • pose姿势
  • inpainting局部重绘
  • subject主体参考
  • Ghibli吉卜力风格

项目主页:https://easycontrolproj.github.io/

GitHub:https://github.com/Xiaojiu-z/EasyControl

在线体验:https://huggingface.co/spaces/jamesliu1217/EasyControl

二、相关安装

插件地址:https://github.com/jax-explorer/ComfyUI-easycontrol

不过我看了下,这个插件想玩需要40G的显存,开启了CPU offload选项后也要24G显存才能用, flux模型自动下载后也需要50G的空间。

有点得不偿失本地,大部分也玩不来,大家这次主要用线上环境去玩玩就好。

lora模型下载地址:https://huggingface.co/Xiaojiu-Z/EasyControl/tree/main/models

存放路径:/ComfyUI/models/loras

三、使用说明

工作流下载:https://www.runninghub.cn/post/1911711182053670913?inviteCode=kol01-rh024

单CN控制

我们来试试单个的控制效果

工作流如下:

吉卜力风格控制

最近比较火的吉卜力风格转绘的,在EasyControl中也有一个对应的模型。

Ghibli Studio style, charming hand drawn anime style illustration

感觉不错,就是出图很慢,要3-5分钟才出一张图。

线稿控制

这里只是把lora替换成了canny模型,然后把图片使用canny预处理一下即可,提示词的话通过反推一张图片得出。

其他比如open和depth的都类似,就不一一演示了。

多CN控制

我们来看看多CN如何组合的,比如想迁移一个物体到另外一张图上

这里一共需要用到 inpaint和subjecet这2个模型。

工作流如下:

多主体的话核心就是 lora选择多个,改成用下面这个节点就行

A SKS on the car

四、在线使用

云端镜像

大家如果没有本地 ComfyUI 环境,或者本地显卡配置低于 16G 的,可以使用嘟嘟部署的仙宫云镜像,可直接加载使用。后续分享的工作流都会更像到镜像中,一周更新一次,方便大学学习。

目前整合了2个镜像,一个是Flux绘图用的,另外一个是针对视频模型的,之所以分开是一些模型兼容问题,分开比较好处理。

镜像名称:嘟嘟AI绘画趣味学


云平台镜像地址:

https://www.xiangongyun.com/image/detail/d961a7dc-ade3-4bd5-a7c6-92ac49ff5e4b?r=37BCLY

https://www.xiangongyun.com/image/detail/81716d29-4461-4b0b-ba4b-7b9b7dd569d3?r=37BCLY

新用户通过邀请码注册,总共可获得 8 元奖励,体验 4 个小时的 4090 作图时长

RH平台

推荐不想本地自己折腾的同学一个可在线使用Runninghub平台可在线体验AI应用和工作流(注册即送1000积分可用)。

https://www.runninghub.cn/?inviteCode=kol01-rh024

主页更多精彩工作流可在线体验: https://www.runninghub.cn/user-center/1865434314359058434?inviteCode=kol01-rh024

五、总结

以上就是最新的控制器EasyControl使用测评了,效果还不错,但是目前对配置要求太高了,还是期待后期能把要求降低,不然再好的东西也没法用。

AI时代,值得我们去投入时间研究。

技术的迭代是飞快的,要关注最新的消息才不会掉队。​

嘟嘟每天分享最新的ComfyUI技术前沿。​

我是嘟嘟,专注于 AI 绘画以及 AI 工具分享,欢迎来一起交流。​

如果觉得文章有帮助,请帮忙点赞收藏关注一下呦~​

相关文章:

  • 08【基础学习】串口通信(三):收发数据包+数据校验
  • 某公司网络OSPF单区域配置
  • 作业帮前端面试题及参考答案 (100道面试题-上)
  • 交易所开发全流程解析:KYC与U盾在安全合规中的战略价值
  • 基于Ubuntu系统搭建51单片机开发环境的详细教程
  • Auto-Encoder --李宏毅机器学习笔记
  • 视觉算法+雾炮联动:开创智能降尘新时代
  • 基于unsloth微调大模型并上传到huggingface
  • zephyr RTOS 中 bt_le_adv_start函数的功能应用
  • 基础知识:离线安装docker、docker compose
  • Docker 代理配置全攻略:从入门到企业级实践
  • iOS设备文件管理实践
  • 【数据分享】1981-2024年全国各城市逐日、逐月、逐年平均气温(Shp格式)
  • 高性能内存kv数据库Redis
  • 个人博客系统
  • 【转载翻译】Open3D和PCL的一些比较
  • 如何协调跨部门资源争夺
  • 【KWDB 创作者计划】_产品技术解读_1
  • 谈谈 typescript 中 namespace 的理解
  • AQchat
  • 山西一国道发生塌陷,造成4车追尾2人死亡
  • 从6家试点扩展至全行业,券商并表监管有何看点?
  • 美伊就核问题在罗马开展第二轮间接谈判
  • 江苏银行去年净赚超318亿增超10%,不良贷款率持平
  • 守护体面的保洁员,何时能获得体面?|离题
  • 谁在地铁里阅读?——对话上海地铁上的读书人