#多线程
Wllama入门指南 - 浏览器中运行LLM推理的WebAssembly绑定
markdown-crawler入门学习资料汇总 - 多线程网站爬虫与Markdown生成工具
ChatGPT-weBot: 基于微信接口的智能聊天机器人
Wllama: 在浏览器中实现大型语言模型推理的革命性技术
Markdown-Crawler: 一款强大的网页爬虫与Markdown转换工具
llama.go
llama.go是一个基于Golang的LLM推理项目,旨在通过纯Golang编写的张量数学与多线程优化,实现高效的LLaMA模型推理,替代C++实现。支持LLaMA V1和V2模型架构,兼容Mac、Linux和Windows,涵盖INT8量化、AVX2加速等高级功能。未来计划扩展支持Nvidia GPU、AVX512和INT4量化,并提供内置REST API,适用于真实项目中的服务器模式。
markdown-crawler
markdown-crawler是一个高效的多线程网站爬虫,能快速创建Markdown文档,支持中断恢复、深度配置以及多媒体内容识别。采用BeautifulSoup解析HTML,具备完整CLI操作界面,适用于文档解析及机器学习模型训练等场景。
wllama
wllama项目提供了WebAssembly绑定,让用户无需后台或GPU即可在浏览器中运行推理任务。项目支持Typescript,并提供高性能API和实验性编码器-解码器架构。还包括离线缓存、自定义日志器及并发文件加载等功能。适用于在Web环境中进行文本补全和嵌入计算的开发者。
ChatGPT-weBot
ChatGPT-weBot是一款基于ChatGPT API和Stable Diffusion AI绘图的微信机器人,实现上下文感知问答、多线程对话、官方微信接口等多种功能。无需手动重启服务,确保稳定不被封号,支持gpt-3.5-turbo及其最新版本,提供聊天角色设定、私聊和群聊唤醒及@消息回复功能。配置简单,使用方便,适用于多种智能对话场景。
impress
impress是第一个采用多线程和负载隔离优化的Node.js服务器设计,专注于高强度数据交换、快速开发和清晰架构。适用于可靠高效的后端系统、网络通信、协议无关API、运行时类型验证以及实时和内存数据处理。尽管不适用于内容发布和无状态服务,但在企业级应用的安全性和架构方面具有显著优势,并且支持websocket长连接以减少加密握手开销。同时,不依赖第三方库,使其更加自主和安全。
AutoCrawler
AutoCrawler是一个多进程图片爬取工具,支持从Google和Naver高效获取高质量图片,且可根据需求自定义参数。用户需安装Chrome浏览器,设置搜索关键词并运行主程序,下载的图片将存储在指定目录。项目功能包括全分辨率下载、数据不平衡检测和SSH远程爬取,并允许通过修改脚本进行个性化定制。提供详细的使用说明,适合需要批量下载高质量图片的用户。
indicators
indicators是一个C++库,提供线程安全的进度条和加载动画。支持多种进度条样式,包括基本、不确定、方块、多进度和动态进度条。该库为头文件式,使用简便,并可自定义Unicode、颜色和字体等选项。适用于需在命令行界面显示进度的C++应用。
box2d
Box2D是一款开源的2D物理引擎,专为游戏开发设计。它提供先进的碰撞检测、刚体求解和多种关节类型,采用数据导向设计并支持多线程和SIMD优化。该引擎跨平台兼容,提供OpenGL示例和GUI界面,可通过CMake轻松构建。Box2D具有活跃的社区支持,持续更新以满足开发者需求。
DataFrame
DataFrame是一个高效的C++数据分析库,提供类似于Python的Pandas和R的DataFrame功能。它支持数据切片、连接、分组操作,并具备统计、金融及机器学习算法。该库特别适合处理大数据集,拥有优异的性能和多线程支持。通过多种内置算法和可添加的自定义算法,用户可以灵活分析和处理数据。DataFrame还与Polars等工具进行了性能对比,展现了其在大数据处理上的显著优势。