InternGPT视觉交互系统
InternGPT(简称 iGPT) / InternChat(简称 iChat) 是一种基于指向语言驱动的视觉交互系统,允许你使用指向设备通过点击、拖动和绘制与 ChatGPT 进行互动。
InternGPT 的名称代表了 interaction(交互)、nonverbal(非语言)和 ChatGPT。与依赖纯语言的现有交互系统不同,通过整合指向指令,iGPT 显著提高了用户与聊天机器人之间的沟通效率,以及聊天机器人在视觉为中心任务中的准确性,特别是在复杂的视觉场景中。
此外,在 iGPT 中,采用辅助控制机制来提高 LLM 的控制能力,并对一个大型视觉 - 语言模型 Husky 进行微调,以实现高质量的多模态对话(在 ChatGPT-3.5-turbo 评测中达到 93.89% GPT-4 质量)。
主要功能使用:
在图片上传成功后,你可以发送如下消息与 iGPT 进行多模态相关的对话:"what is it in the image?" or "what is the background color of image?".
你同样也可以交互式地操作、编辑或者生成图片,具体如下:
点击图片上的任意位置,然后按下 Pick 按钮,预览分割区域。你也可以按下 OCR 按钮,识别具体位置处存在的所有单词;
要在图像中 删除掩码区域,你可以发送如下消息:“remove the masked region”;
要在图像中 替换掩码区域的物体为其他物体,你可以发送如下消息:“replace the masked region with {your prompt}”;
想 生成新图像,你可以发送如下消息:“generate a new image based on its segmentation describing {your prompt}”;
想通过 涂鸦创建新图像,你应该按下 Whiteboard 按钮并在白板上绘制。绘制完成后,你需要按下 保存 按钮并发送如下消息:“generate a new image based on this scribble describing {your prompt}”。
系统概览:
主要功能
A) 移除遮盖的对象
B) 交互式图像编辑
C) 图像生成
D) 交互式视觉问答
E) 交互式图像生成
F) 视频高光解说
安装
基本要求
Linux
Python 3.8+
PyTorch 1.12+
CUDA 11.6+
GCC & G++ 5.4+
GPU Memory > 17G 用于加载基本工具 (HuskyVQA, SegmentAnything, ImageOCRRecognition)
安装 Python 的依赖项
pip install -r requirements.txt
[超站]友情链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
随时掌握互联网精彩
- 1 习近平向2024世界中文大会致贺信 7954691
- 2 外卖员吐槽尽量不要点黄焖鸡 7982005
- 3 教师指认猥亵现场坠亡 民警免予刑罚 7885509
- 4 中国对亚太经济增长贡献率达64.2% 7725803
- 5 德国连环强奸案告破 嫌犯系中国公民 7689599
- 6 俄媒:苏-57比中国歼-35更强 7598376
- 7 专家:本轮房价拐点全方位到来 7418499
- 8 上戏课堂偶遇林更新 7358009
- 9 俄罗斯开出停战先决条件 7278059
- 10 小行业潜藏“大能量” 7196501