Logo

#HTTP服务器

mistral.rs入门指南 - 快速高效的LLM推理平台

1 个月前
Cover of mistral.rs入门指南 - 快速高效的LLM推理平台

Mistral.rs: 高性能LLM推理平台的革新之作

2 个月前
Cover of Mistral.rs: 高性能LLM推理平台的革新之作

Thumbor: 强大的开源图像处理服务

2 个月前
Cover of Thumbor: 强大的开源图像处理服务

相关项目

Project Cover
mistral.rs
mistral.rs是一款支持多种设备、模型量化的大型语言模型(LLM)推理平台,配备与Open-AI API兼容的HTTP服务器和Python绑定,提供快速、精确的模型推理服务。平台支持文本和视觉模型,如AnyMoE、Llama等,采用LoRA技术和动态适配器,提高推理效率。用户可通过API在多种加速器上部署模型,实现快速计算和灵活应用。
Project Cover
todo.asm
这是一款使用flat assembler为Linux x86_64开发的开源To-Do Web应用。它具有单一静态可执行文件、内置简单HTTP服务器(默认端口8080)、无JavaScript前端、支持XSS等技术特点,实现了待办事项管理功能。该项目展示了汇编语言在Web开发中的应用,为开发者提供了一个独特的学习和实践平台。项目代码可在GitHub上获取,欢迎技术爱好者探索和贡献。
Project Cover
granian
Granian是一款Rust开发的Python应用HTTP服务器,支持ASGI/3、RSGI和WSGI接口以及HTTP/1、HTTP/2、HTTPS和WebSocket协议。它提供统一的HTTP实现,适用于多个平台,解决了Unix系统上的依赖问题。Granian性能稳定,配置灵活,支持工作进程、线程和事件循环优化。该项目兼容Python 3.8+版本,目前处于活跃开发阶段。
Project Cover
thumbor
thumbor是一款开源的智能图像处理服务,支持实时裁剪、调整大小、应用滤镜和优化图像。它集成AI技术实现智能检测,兼容多种存储方案和编程语言。凭借高性能和可扩展性,thumbor已被全球数百家公司采用,是开发高性能网站的有力工具。
Project Cover
cs
codespelunker (cs) 是一款开源的命令行代码搜索工具,支持在当前目录下搜索代码或文本文件。该工具提供控制台、TUI和HTTP服务器三种界面,可使用布尔查询和正则表达式进行搜索。cs无需建立索引,采用BM25算法进行实时结果排序,支持跨行搜索和智能代码片段生成。作为ripgrep和fzf功能的结合,cs为开发者提供了高效的多平台代码搜索解决方案。
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号