Logo
Project Icon

TurboPFor-Integer-Compression

多算法整数压缩库 支持跨平台和SIMD优化

TurboPFor整数压缩SIMD位打包变长编码Github开源项目

TurboPFor是一款开源的整数压缩库,实现了PFor、位打包、变长字节编码等多种压缩算法。该库支持AMD/Intel、ARM和Power等主流架构,提供Rust和Java语言绑定。TurboPFor在压缩率和速度方面表现优异,支持直接访问压缩数据,并集成SIMD优化。此外,它还具备浮点数和时间序列压缩功能,是整数压缩领域的高效解决方案。

访问官网访问官网GithubGithub文档文档论文论文
介绍相关项目
simdjson - 高性能JSON解析库 实现每秒GB级数据处理
C++库GithubJSON解析SIMD指令simdjson开源项目性能优化
simdjson是一款高效的JSON解析库，通过SIMD指令和微并行算法实现比主流库快4倍以上的解析速度。该库提供完整的UTF-8验证和精确数字解析，同时注重易用性和可靠性。simdjson具备JSON最小化、NDJSON处理等功能，能在运行时自动选择最适合的CPU解析器。目前已应用于Node.js、ClickHouse等多个知名项目中。
foldcomp - 高效压缩和索引大规模蛋白质结构数据集的开源工具
FoldcompGithub开源项目数据存储氨基酸编码生物信息学蛋白质结构压缩
Foldcomp是一个开源的蛋白质结构压缩和索引工具。通过编码主链和侧链的扭转角，它将每个氨基酸残基压缩至13字节，大幅降低存储需求。Foldcomp支持单链PDB文件压缩，提供命令行和Python API接口，可进行压缩、解压缩、序列提取等操作。此外，Foldcomp还提供了多个预构建的大规模蛋白质结构数据库，如AlphaFoldDB和ESMAtlas，便于研究人员使用。
StringZilla - 跨平台高性能字符串操作加速库
GithubSIMDStringZilla多语言支持字符串处理开源项目性能优化
StringZilla是一款利用SIMD和SWAR技术优化字符串操作的跨平台库。相比传统库和其他SIMD加速库，它在C、C++、Python等语言中实现了高达10倍的性能提升。StringZilla支持精确和模糊字符串匹配、编辑距离计算、排序、惰性评估等功能，还提供随机字符串生成器。这一工具适用于处理大规模数据集的工程师、需要优化字符串操作的开发人员，以及各类对字符串处理性能有较高要求的项目。
protobuf - 跨语言高效数据序列化框架
GithubGoogleProtocol Buffers开源开源项目数据序列化跨语言
Protocol Buffers是一种开源的、跨语言、跨平台的数据序列化框架。它由Google开发，支持C++、Java、Python等多种编程语言。该框架提供了高效的数据结构化、序列化和反序列化方法，包含编译器和运行时库。Protocol Buffers具有安装简便、使用灵活、性能卓越等特点，广泛应用于数据交换和存储优化，成为众多大型项目的首选数据格式。
xxHash - 高性能哈希算法库 支持多种平台和数据规模
GithubxxHash哈希算法开源项目数据完整性跨平台高性能
xxHash是一个高性能的开源哈希算法库，包含XXH32、XXH64和XXH3等算法。它能以接近RAM速度的极快速度处理数据，并在所有平台上生成一致的哈希值。该库通过了SMHasher测试，保证了优秀的哈希质量。xxHash在处理大小数据时都表现出色，适用于哈希表和布隆过滤器等场景。库提供了简单的一次性和流式哈希API，并支持多种编译选项来优化性能和二进制大小。
sqlite_zstd_vfs - SQLite数据库透明压缩存储方案
GithubSQLiteVFS扩展Zstandard压缩存储开源项目数据库优化
sqlite_zstd_vfs是一个SQLite VFS扩展，利用Zstandard技术实现数据库文件的透明压缩存储。该扩展在后台线程执行页面压缩和解压缩，通过生成压缩字典提高效率。它能显著减小数据库文件体积，同时尽量维持查询性能。这个解决方案适合需要优化存储空间的SQLite应用，对大型数据库尤其有效。
CompactGUI - 利用Windows 10+新算法透明压缩文件 大幅节省空间
CompactGUIGithubWindows工具开源项目文件压缩磁盘空间优化透明压缩
CompactGUI利用Windows 10+新压缩算法，实现文件透明压缩。该工具可压缩游戏、程序及其他文件夹，大幅节省存储空间，并保持原有功能。它具备用户友好的界面、实时压缩进度显示和社区数据库集成等特点，简化了文件压缩管理流程。特别适合SSD容量受限的用户，还可能加快HDD文件读取速度。
fhe.rs - Rust语言开发的高性能同态加密库
BFV方案GithubRustfhe.rs全同态加密密码学开源项目
fhe.rs是一个基于Rust语言的开源Ring-LWE同态加密库，实现了BFV加密方案的RNS变体。该库性能与C++和Go的顶级库相当，由Tancrède Lepoint开发，包含四个公共crate。fhe.rs虽处于beta阶段，但已为Rust生态系统提供了高效的同态加密方案，展现出巨大潜力。
rust - Rust语言TensorFlow绑定，支持多平台和GPU加速
GithubRustTensorFlow安装开源项目文档绑定
TensorFlow Rust提供符合Rust语言习惯的TensorFlow绑定，支持便捷下载或编译TensorFlow共享库和GPU加速。该项目仍在活跃开发，API尚未完全稳定。用户可以通过在Cargo.toml中添加依赖项并运行cargo build来构建，详见文档和示例代码。
rust-protobuf - Rust语言的高效Protobuf库实现
GithubProtobufRust代码生成序列化开源项目跨语言通信
rust-protobuf是一个纯Rust实现的Protobuf库，支持Protobuf 2和3版本。它能生成Rust代码，提供运行时支持，并具备反射、JSON和文本格式处理、动态消息等功能。该开源项目目前正寻求贡献者参与完善文档、测试和API设计。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号