Logo
Project Icon

ScreenAgent

由视觉语言大模型驱动的电脑控制工具

ScreenAgentVLM AgentIJCAI 2024自动控制数据集Github开源项目

ScreenAgent项目创建了一个由视觉语言模型驱动的电脑控制环境，允许代理通过截图与真实屏幕互动并操作GUI。自动控制流程分为规划、执行和反思三个阶段，使代理能够完成多步骤任务。项目包含丰富的截图和操作序列数据集，支持包括GPT-4V、LLaVA-1.5、CogAgent和ScreenAgent在内的多种模型，并提供简化体验的网页版客户端。

GithubGithubHuggingfaceHuggingface论文论文
介绍相关项目
ScreenAI - 深度理解界面和信息图的视觉语言模型
GithubScreenAIUI理解信息图表理解多模态开源项目视觉语言模型
ScreenAI是一个开源的多模态视觉语言模型，专注于用户界面(UI)和信息图的理解。该模型集成了视觉变换器(ViT)、注意力机制和前馈网络，能够处理图像和文本输入。通过深度学习技术，ScreenAI实现了对复杂视觉信息的处理和文本整合分析，为UI设计、信息可视化和人机交互研究提供了新的工具和方法。
AppAgent - 智能代理框架简化智能手机应用操作
AppAgentGPT-4VGithub多模态开源项目探索学习智能手机应用
AppAgent是一种基于LLM的多模态智能代理框架，模仿人类点击和滑动操作来运行智能手机应用。框架通过自主探索或观察人类演示学习新操作，生成知识库以执行复杂任务。无需系统后端访问，适用性广泛。提供详细配置步骤、评估基准和使用案例，支持GPT-4V和通义千问-VL等多种模型。
vision-agent - 开源AI代理库用于生成计算机视觉代码
AI代码生成GithubOpenAI APIVision Agent图像处理开源项目计算机视觉
Vision Agent是一个开源库，通过AI代理框架快速生成计算机视觉任务代码。用户可以用文本描述问题，AI代理会生成相应的解决方案。该库包括对话型VisionAgent和代码生成型VisionAgentCoder两种代理，提供多种视觉工具，支持自定义工具添加，并可与Azure OpenAI集成。Vision Agent能将解决视觉问题的时间大幅缩短，提高开发效率。
AgentLLM - 用LLM打造自主代理，浏览器端高效运行
AgentLLMChatGPTGithubWebGPUWizardLM开源项目浏览器原生LLM
AgentLLM展示了使用开源大型语言模型（LLM）在浏览器上运行自主代理的潜力，可有效处理复杂的目标导向任务。通过利用WebGPU，项目显著提升了性能，并在无工具简化版的AgentGPT环境中实现。该平台适合于希望快速验证LLM能力的用户，界面友好且功能丰富。
MobileAgent - 移动设备多模态操作助手
CCL 2024GithubICLR 2024Mobile-Agent多代理协作开源项目移动设备操作助手
移动设备操作助手家族，包括Mobile-Agent-v3和Mobile-Agent-v2，支持多模态操作和高效导航。该项目通过多代理协作实现快速推理和低内存消耗，适用于各类应用场景。Mobile-Agent在CCL 2024上荣获最佳演示奖，并提供在Hugging Face和ModelScope上的在线体验，无需额外配置即可使用，满足智能操作需求。
SeeAct - 基于多模态GPT模型的网页任务自动化解决方案
GPT-4V(ision)GithubMind2WebSeeActweb代理多模态模型开源项目
SeeAct采用多模态GPT模型（如GPT-4V(ision)），提供网页任务自动化的解决方案，支持OpenAI和Google的多种语言模型，并与Playwright浏览器无缝集成。适用于网页代理测试与评估，支持多种配置和自定义任务，实现安全操作和实时监控。Multimodal-Mind2Web数据集提供丰富的网页截图和HTML文本，便于实验和评估。
OmAgent - 多模态智能代理系统实现复杂视频理解
GithubOmAgent人工智能多模态智能代理大语言模型开源项目视频理解
OmAgent是一个多模态智能代理系统，结合多模态大语言模型和算法来完成复杂任务。系统包含轻量级智能代理框架omagent_core和三个核心组件：Video2RAG、DnCLoop和Rewinder Tool。OmAgent突破视频长度限制，实现长视频理解、任务分解和信息检索。这一开源项目为研究和开发多模态应用提供了有力工具。
Best-AI-Agents - 顶尖AI代理实现创新自动化和智能任务执行
AI代理Github开源开源项目无代码平台智能助手自动化
Best-AI-Agents项目展示一系列先进的人工智能技术，展现出先进的自动化代理带来的智能解决方案。项目涉及广泛的商业和教育领域应用，包括代码生成、研究创新和模型部署等多种功能。其中涵盖的AI代理如AutoGPT、AgentGPT和Cognosys，展示出各自在机器学习领域的独特应用和功能。
XAgent - 开源的实验性大型语言模型驱动的自主代理
GithubXAgent人工智能大语言模型开源开源项目热门自主代理
XAgent是一款开源的大型语言模型驱动的自主代理，旨在自动解决各种任务。该项目处于初期阶段，团队正致力于不断完善。XAgent具备自动性、安全性、可扩展性和人机合作等特点，通过独特的分派器、计划器和执行器三部分协同工作，实现复杂任务的高效处理。目标是打造一个能解决任何给定任务的超级智能代理。
agentchain - 使用大型语言模型（LLM）来规划和编排多个代理，或使用大型模型（LM）来完成复杂的任务。
AgentChainGithub交互代理任务编排多模态大型语言模型开源项目
AgentChain采用先进的的大型语言模型，提供基于自然语言输入的规划与决策能力，支持文本、图像、音频和表格数据等多模态输入输出。其智能系统能够协调多个agent执行复杂任务，适用于计算机视觉、语音识别等数据处理工作，并可定制以满足各类项目需求，从自动化生成旅游图片到金融分析报告。此外，AgentChain还能通过Twilio等平台实现邮件发送和电话通知等通信任务。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号