#Lepton AI
相关项目
search_with_lepton
Search with Lepton 使用户能够使用不到500行代码搭建自己的对话式搜索引擎。此项目支持LLM和搜索引擎集成,提供可定制的用户界面以及可分享的缓存搜索结果。支持多种搜索引擎选项,包括Bing和Google,并提供一键部署到Lepton AI的功能。无论是通过简单的配置还是高级定制,用户都能迅速搭建并运行高效的搜索解决方案。
leptonai
LeptonAI框架提供了一种Pythonic抽象方式,将研究和建模代码快速转化为AI服务。支持启动包括Llama、SDXL、Whisper等常见模型,具备自动批处理和后台作业等AI优化功能。用户可以通过Python客户端轻松调度服务,也能快速在云环境中部署。开发者可参考丰富的文档和示例库,灵活定制Photon类和Handler函数。