Project Icon

super-json-mode

以并行方式高效生成JSON结构化输出的Python框架

Super JSON Mode 是一个通过将目标结构分解为原子组件来并行生成JSON输出的Python框架。相比传统的JSON生成方法,该框架提高了生成速度达10倍,同时减少了解析问题。它支持包括OpenAI和Hugging Face Transformers在内的主流LLM, 以及开源LLM如vLLM。安装只需运行pip命令,详细的使用说明和示例代码请参见项目文档。

jsonhero-web - 多视图 JSON 可视化分析工具
API集成GithubJSON HeroJSON文件查看器Trigger.dev开源项目
jsonhero-web 是一个开源的 JSON 可视化工具,提供列视图、树视图和编辑器视图等多种浏览模式。它能自动推断字符串内容并生成预览,支持生成 JSON Schema、快速搜索和键盘操作。该工具支持多种 JSON 导入方式,并可通过 URL 分享。它为开发者和数据分析师提供了便捷的 JSON 数据浏览和分析体验。
veScale - 基于PyTorch的大规模语言模型训练框架
GithubLLM训练框架PyTorch分布式训练并行计算开源项目模型执行
veScale是一个基于PyTorch的大规模语言模型训练框架,专为简化LLM训练过程而设计。它支持零代码修改、单设备抽象和自动并行规划,实现了张量并行、序列并行和数据并行等多种策略。框架还提供自动检查点重分片和nD分布式时间线功能,大幅提升了训练效率。作为一个持续发展的项目,veScale计划在未来引入更多先进功能,为研究人员和开发者提供全面的LLM训练解决方案。
FLAML - 高效的Python库,用于自动化机器学习和模型调优
AutoMLFLAMLGithubPython开源项目机器学习模型优化
FLAML是一款轻量级且高效的Python库,旨在简化大语言模型和机器学习模型的自动化工作流程。通过多智能体对话框架和经济高效的自动调优功能,它帮助用户找到优质模型并优化GPT-X工作流。FLAML支持代码优先的AutoML和调优,能处理大规模搜索空间和复杂约束,广泛适用于分类、回归等任务。适用于Python 3.8及以上版本,并提供详细文档和多种扩展选项,满足用户的不同需求。
llm - 大型语言模型CLI工具,支持本地和远程模型
GithubLLMPython库命令行工具开源项目插件模型
一款CLI工具和Python库,用于与大型语言模型交互,支持远程API和本地安装模型。可从命令行运行提示、将结果存储在SQLite中、生成嵌入等。通过插件目录,可访问更多模型。
Consistency_LLM - 并行解码技术突破,大语言模型推理速度提升3倍
CLLMGithubJacobi解码大语言模型并行解码开源项目生成速度
Consistency Large Language Models (CLLMs) 是一种创新的大语言模型技术,通过Jacobi并行解码方法显著提升推理速度。实验表明,CLLMs在多种任务中可实现2.4到3.4倍的性能提升。该技术无需额外模型或架构改动,易于集成,为大语言模型应用带来更高效、灵活的解决方案。
awesome-huge-models - 大型AI模型最新动态与开源资源汇总
AI训练GithubLLMdeep learning模型大模型开源开源项目
详尽介绍大型AI语言模型最新进展及开源资源,包括训练代码、数据集和预训练权重。收录Baichuan、Falcon、OpenLLaMA等模型,并关注开源与分布式训练框架如PyTorch和XLA生态。提供全面资源链接,帮助研究人员和开发者了解当前AI模型的最前沿动态。
llm-compressor - 开源大型语言模型压缩优化库
GithubHugging FaceLLM Compressorvllm开源项目模型优化量化
llm-compressor是一个专注于大型语言模型优化和压缩的开源库。它提供全面的量化算法集,支持权重和激活量化,并与Hugging Face模型和仓库无缝集成。该项目采用safetensors文件格式,确保与vllm兼容,同时通过accelerate支持大规模模型处理。llm-compressor涵盖多种量化格式和算法,包括激活量化、混合精度和稀疏化技术,为模型优化提供灵活多样的选择。
stable-fast - 优化HuggingFace Diffusers推理性能的轻量级框架
CUDADiffusersGithubPyTorchStable FastTorchScript开源项目
stable-fast是一个优化HuggingFace Diffusers推理性能的轻量级框架,支持NVIDIA GPU。相比TensorRT和AITemplate需要几十分钟的编译时间,stable-fast仅需几秒钟即可完成模型编译。主要特色包括动态形状、低精度计算和多种算子融合。它还兼容ControlNet和LoRA,并支持最新的StableVideoDiffusionPipeline,是加速PyTorch推理的有效工具。
modin - 轻松实现pandas并行化加速
GithubModinpandas大数据并行计算开源项目数据处理
Modin是pandas的高性能替代方案,通过并行化计算显著提升数据处理速度。只需更改一行导入代码,即可利用全部CPU核心加速pandas工作流,特别适合大型数据集。Modin支持处理超出内存的数据,兼容90%以上pandas API,并支持Ray、Dask和MPI等多种计算引擎。它简化了分布式计算,让用户轻松获得性能提升。
lightwood - 用JSON-AI语法简化DS/ML生命周期的AutoML框架
AutoMLGithubJSON-AILightwood开源项目数据科学机器学习管道
Lightwood是一个用JSON-AI语法简化DS/ML生命周期的AutoML框架。它支持多种数据类型和时间序列模式,使用户无需重复编写样板代码即可专注于独特的模型部分。用户可以修改默认值或替换步骤自定义管道,同时支持自带模型的自定义架构。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号