郝彦飞 Cake:Distributed LLM inference for mobile, desktop and server. Cake is a pure Rust implementation of the LLama3 distributed inference based on Candle . The goal of the project is being able to run big (70B+) models by repurposing consumer hardware into an heterog... 底层工具 开源 推理
郝彦飞 CopilotKit:用于构建自定义 AI Copilots 应用内 AI 聊天机器人、应用内 AI 代理和 AI 驱动的文本区域的框架。 How does it work 它是如何工作的 Define the following simple entry-points into your application, and the CopilotKit🪁 execution engine takes care of the rest! 在您的应用程序中定义以下简单的入口点,CopilotKit🪁执行引擎会处理其余的事情! Applic... AI场景 底层工具 开源
郝彦飞 FunAudioLLM:阿里通义音频生成开源大模型 CosyVoice 致力于自然语音生成,支持多语言、音色和情感控制,在多语言语音生成、零样本语音生成、跨语言声音合成和指令执行能力方面表现卓越。 多语言合成:采用了总共超15万小时的数据训练,支持中英日粤韩5种语言的合成,合成效果显著优于传统语音合成模型。 极速音色模拟:仅需要3~10s的原始音频,即可生成模拟音色,甚至包括韵律、情感等细节。在跨语种的语音合成中,也有不俗的表现。 富文本或自然语言... AI语音 底层工具 开源
郝彦飞 Quivr:用于构建 GenAI Second Brains 的开源 RAG 框架 Key Features 🎯 主要特点🎯 Fast and Efficient : Designed with speed and efficiency at its core. Quivr ensures rapid access to your data. 快速高效:设计以速度和效率为核心。 Quivr 确保快速访问您的数据。 Secure : Your data, your control.... RAG 底层工具 开源
郝彦飞 Dataherald:Text-to-SQL 引擎 Dataherald is a natural language-to-SQL engine built for enterprise-level question answering over relational data. It allows you to set up an API from your database that can answer questions in plain ... text2sql 底层工具 开源
郝彦飞 Gorilla:用大模型调用1600个API,AGI时代真的来了 Gorilla是一个为大型语言模型设计的API商店,支持通过自然语言查询调用API,实现语义和语法正确的API调用。它通过整合超过1600个API,首次展示了使用LLM调用API的方法,有效减少了生成假象的问题。此外,Gorilla还发布了APIBench,这是一个庞大的、经过策划且易于训练的API集合。 Gorilla是一个基于 LLaMA 的微调模型,在编写 API 调用方面超越了 GPT-4... 底层工具 开源
郝彦飞 OmniParse:清洗非结构化的数据,提升RAG质量 OmniParse is a platform that ingests/parses any unstructured data into structured, actionable data optimized for GenAI (LLM) applcaitons. Whether working with documents, tables, images, videos, audio ... 底层工具 开源 数据处理
郝彦飞 GraphRAG: 解锁大模型RAG知识增强 The GraphRAG project is a data pipeline and transformation suite that is designed to extract meaningful, structured data from unstructured text using the power of LLMs. GraphRAG 项目是一个数据管道和转换套件,旨在利用 LL... MIT开源 RAG 大模型学习 底层工具
郝彦飞 Cube-Studio:开源大模型全链路一站式中台 cube studio开源云原生一站式机器学习/深度学习/大模型AI平台,支持sso登录,多租户,大数据平台对接,notebook在线开发,拖拉拽任务流pipeline编排,多机多卡分布式训练,超参搜索,推理服务VGPU,边缘计算,serverless,标注平台,自动化标注,数据集管理,大模型微调,vllm大模型推理,llmops,私有知识库,AI模型应用商店,支持模型一键开发/推理/微调,支持国... MIT开源 底层工具
郝彦飞 wiseflow:信息挖掘 AI 神器,省时高效 首席情报官 (Wiseflow)是一个敏捷的信息挖掘工具,可以从网站、微信公众号、社交平台等各种信息源中按设定的关注点提炼讯息,自动做标签归类并上传数据库。 功能特色 🚀 原生 LLM 应用 我们精心选择了最适合的 7B~9B 开源模型,最大化降低使用成本,且利于数据敏感用户随时完全切换至本地部署。 🌱 轻量化设计 不用任何向量模型,系统开销很小,无需 GPU,适合任何硬件环境。 🗃️ 智能信息提... 信息挖掘 底层工具 开源
郝彦飞 HypOp:美国加州大学圣地亚哥分校利用AI技术辅助解决复杂组合优化问题 Hypergraph Neural Network-Based Combinatorial Optimization 基于超图神经网络的组合优化 Here you can find the code for HypOp, a tool for combinatorial optimization that employs hypergraph neural networks. It is vers... 底层工具 算法