AI 工具集

Category: AI项目和框架

  • Fox-1 – TensorOpera 开源的小语言模型系列

    Fox-1是什么

    Fox-1是TensorOpera推出的一系列小型语言模型（SLMs），包括Fox-1-1.6B和Fox-1-1.6B-Instruct-v0.1。Fox-1模型在3万亿个网络抓取的文档数据上预训练，在50亿个指令遵循和多轮对话数据上微调。Fox-1采用3阶段数据课程和深度架构设计，具有256K的扩展词汇量和GQA机制，提高了效率和性能。Fox-1模型在包括ARC Challenge、HellaSwag、MMLU、GSM8k等在内的多个标准语言模型基准测试中展现出卓越的性能，超越参数规模是其两倍的模型。

    Fox-1

    Fox-1的主要功能

    • 文本生成与理解：Fox-1能处理和生成各种文本任务，如文本摘要、翻译、问答等。
    • 指令遵循：Fox-1-1.6B-Instruct-v0.1特别针对指令遵循任务进行微调，能理解和执行用户的直接指令。
    • 多轮对话：模型在多轮对话数据上进行微调，能在对话系统中使用，提供连贯和相关的回应。
    • 长上下文处理：采用Rotary Positional Embeddings (RoPE) 和3阶段数据课程，Fox-1能有效处理长达8K的序列，适合处理长文档和长篇文本。
    • 高效率推理：Fox-1在保持较小模型规模的同时，实现与更大模型相当的推理速度和吞吐量。

    Fox-1的技术原理

    • 3阶段数据课程：Fox-1的预训练包括新颖的3阶段数据课程，逐步增加训练样本的块长度从2K到8K，优化长上下文处理能力。
    • 深度架构设计：Fox-1采用32层自注意力层的深度架构，相比其他模型更深，增强了模型的推理能力。
    • 分组查询注意力（GQA）：将查询头分组，每个组共享相同的键值头，提高训练和推理速度，减少内存使用。
    • 共享输入输出嵌入：Fox-1共享输入和输出嵌入层，减少模型参数数量，提高权重利用率。
    • 扩展词汇量：模型用256K的词汇量，相比标准词汇量，能更有效地编码信息，减少未知词的概率，提高下游任务性能。
    • 预归一化：Fox-1用RMSNorm进行预归一化，有助于提高训练效率。
    • RoPE位置编码：Fox-1采用RoPE，有助于编码 token 之间的相对位置依赖。

    Fox-1的项目地址

    Fox-1的应用场景

    • 聊天机器人和客户服务：构建聊天机器人，提供客户咨询服务，处理多轮对话，解答用户问题。
    • 内容创作和编辑：在内容产业中，帮助生成创意文案、编辑和润色文章，及提供写作建议。
    • 语言翻译：应用于机器翻译领域，帮助用户进行语言间的翻译工作。
    • 教育和学习：在教育领域，作为教学辅助工具，提供语言学习支持，包括语法检查、写作辅导等。
    • 信息检索和问答系统：集成到搜索引擎和问答系统中，提供快速准确的信息检索和答案生成。

  • Optimus-1 – 哈工大联合鹏城实验室推出的智能体框架

    Optimus-1是什么

    Optimus-1是哈尔滨工业大学（深圳）和鹏城实验室推出的智能体框架，能解决在开放世界环境中完成长期任务的挑战。框架结合结构化知识和多模态经验，让智能体更好地执行复杂任务。Optimus-1包含混合多模态记忆模块，由分层有向知识图（HDKG）和抽象多模态经验池（AMEP）组成，知识引导规划器和经验驱动反射器，显著提升在Minecraft等环境中的长期任务性能，接近人类水平。

    Optimus-1

    Optimus-1的主要功能

    • 知识引导规划（Knowledge-Guided Planner）：基于结构化知识（HDKG）生成可执行的子目标序列，规划和执行长期任务。
    • 经验驱动反思（Experience-Driven Reflector）：基于历史经验（AMEP）评估当前任务状态，在必要时调整行动计划。
    • 行动控制（Action Controller）：执行由规划器产生的子目标，与环境互动以完成任务。
    • 混合多模态记忆（Hybrid Multimodal Memory）：结合HDKG和AMEP，存储和利用世界知识和历史经验，支持复杂决策和适应性学习。
    • 自我进化（Self-Evolution）：基于“自由探索-教师指导”方法，无需参数更新能逐步提升记忆容量和任务执行能力。

    Optimus-1的技术原理

    • 分层有向知识图（HDKG）：
      • 将世界知识（如物品合成规则）转化为图结构，节点代表对象，边代表对象间的关系（如合成关系）。
      • 基于图检索和拓扑排序，为智能体提供完成任务所需的材料和工具的知识。
    • 抽象多模态经验池（AMEP）：
      • 动态总结和存储任务执行过程中的多模态信息（如环境、状态、计划、视觉帧等）。
      • 用MineCLIP模型计算视觉和子目标的相似性，存储相关性强的视觉记忆，为反思提供参考。
    • 知识引导规划器：结合视觉观察和HDKG中的知识，生成合理的子目标序列，指导行动控制器的行动。
    • 经验驱动反思器：定期激活，从AMEP中检索与当前子目标相关的多模态经验，评估当前任务状态，决定是继续执行、完成还是需要重新规划。
    • 行动控制器：根据子目标和当前观察，生成与环境互动所需的低级行动，如鼠标和键盘操作。

    Optimus-1的项目地址

    Optimus-1的应用场景

    • 游戏环境自动化：在复杂的游戏环境中，如Minecraft，Optimus-1自动化执行资源收集、建筑建造和探索等任务，提供沉浸式游戏体验。
    • 虚拟个人助理：在虚拟现实或增强现实应用中，可以作为用户的个人助理，帮助管理日程、提供信息查询服务，和自动化处理日常任务。
    • 家庭机器人助手：在智能家居系统中，指导家庭服务机器人执行清洁、安全监控和日常维护等长期任务，提高家居自动化水平。
    • 工业自动化与优化：在工业制造领域，优化生产流程，指导机器人自动完成复杂的装配线任务，提高生产效率和安全性。
    • 模拟训练与教育：在军事训练或医疗教育中，创建复杂的模拟环境，帮助学员模拟实践学习决策和操作技能。

  • PaliGemma 2 – 谷歌DeepMind推出的全新视觉语言模型

    PaliGemma 2是什么

    PaliGemma 2是Google DeepMind基于Gemma 2语言模型家族推出的新一代视觉语言模型（VLM），作为PaliGemma模型的升级版。结合SigLIP-So400m视觉编码器和不同规模的Gemma 2模型，支持多种分辨率，基于多阶段训练具备广泛的知识迁移能力。PaliGemma 2在多种学术任务上表现出色，尤其在大型模型和高分辨率配置下性能显著，同时在OCR、音乐乐谱识别和医学图像报告生成等新领域也取得了突破。

    PaliGemma 2的主要功能

    • 多尺度图像处理：支持不同分辨率（224px², 448px², 896px²）的图像输入，适应各种视觉任务的需求。
    • 广泛的迁移学习：基于微调预训练模型，PaliGemma 2能迁移到30多个不同的学术任务，包括图像描述、视觉问答（VQA）等。
    • 多模态任务处理：结合图像和文本信息，执行如图像字幕生成、视觉推理等多模态任务。
    • OCR相关任务：包括表格结构识别、分子结构识别、乐谱识别等。
    • 长细粒度描述生成：能生成包含丰富细节的长图像描述。
    • 医学图像理解：在放射线报告生成等医学图像理解任务上表现出色。

    PaliGemma 2的技术原理

    • 模型架构：PaliGemma 2基于Gemma 2家族的语言模型，结合SigLIP-So400m视觉编码器。视觉编码器将图像转换为嵌入表示，基于线性投影映射到Gemma 2的输入空间。
    • 多阶段训练：
      • 第一阶段：联合预训练视觉编码器和Gemma 2模型，使用大量多模态任务样本。
      • 第二阶段：在更高分辨率下进一步训练，增加高分辨率受益任务的权重。
      • 第三阶段：针对特定任务进行微调，优化模型性能。
    • 自回归采样：用Gemma 2语言模型自回归地从文本提示中采样预测，生成所需的输出序列。
    • 参数优化：根据不同模型大小调整学习率，优化迁移学习的性能。
    • 计算效率：基于优化LLM中的视图标记控制计算成本。
    • 量化和CPU推理：支持8位开关浮点量化，让模型能在CPU上高效运行。

    PaliGemma 2的项目地址

    PaliGemma 2的应用场景

    • 图像识别与描述：自动生成图像的详细描述，适用于社交媒体、内容管理和搜索引擎优化。
    • 视觉问答（VQA）：在教育和娱乐应用中，回答用户关于图像内容的问题。
    • 光学字符识别（OCR）：识别图像中的文字，用在文档数字化、历史文献存档和自动数据提取。
    • 表格结构识别：从图像中提取表格结构和内容，用在财务报告分析、科学研究和数据整理。
    • 分子结构识别：在化学和生物医学研究中，识别和重建分子结构。

  • ClearerVoice-Studio – 阿里通义实验室开源的语音处理框架

    ClearerVoice-Studio是什么

    ClearerVoice-Studio 是阿里巴巴达摩院通义实验室开源的语音处理框架，集成语音增强、分离和音视频说话人提取等功能。框架基于复数域深度学习算法，有效消除背景噪声，保留语音清晰度，保持语音失真最小化。ClearerVoice-Studio 提供先进的预训练模型和训练脚本，支持研究人员和开发者进行语音处理任务，推动语音处理技术的创新应用。

    ClearerVoice-Studio

    ClearerVoice-Studio的主要功能

    • 语音增强：去除背景噪声，提高语音信号的质量。
    • 语音分离：从混合音频中分离出目标说话人的语音。
    • 目标说话人提取：在音视频中精确提取特定说话人的语音信号。
    • 模型训练和调优：提供工具和脚本，用户根据自己的数据对模型进行训练和优化。

    ClearerVoice-Studio的技术原理

    • 复数域深度学习算法：基于复数域表示的信号处理优势，有效地处理和分析语音信号。
    • 先进的模型架构：
      • FRCRN模型：卓越的语音增强能力。
      • MossFormer系列模型：在语音分离任务中超越传统模型，且已扩展至语音增强和目标说话人提取任务。
    • 多模态处理能力：结合音频和视频信息进行说话人提取，提高识别的准确性。
    • 预训练模型：基于大规模高质量数据集预训练模型，确保模型在不同场景下的有效性和泛化能力。
    • 灵活的接口设计：提供易于使用的接口。

    ClearerVoice-Studio的项目地址

    ClearerVoice-Studio的应用场景

    • 智能助手和语音交互系统：提高智能助手在嘈杂环境下的语音识别能力，改善用户体验。
    • 会议和演讲记录：在多人发言的会议中分离和识别各个发言人的语音，自动生成会议记录。
    • 电话和视频会议：清晰地从背景噪音中提取说话人的声音，提高通话质量。
    • 公共安全和监控：在复杂声音环境中提取关键语音信息，用在安全监控和紧急情况响应。
    • 车载系统：在车辆内部噪声中提高语音控制的准确性和可靠性。

  • Fish Speech 1.5 – Fish Audio 推出的语音合成模型，支持13种语言

    Fish Speech 1.5是什么

    Fish Speech 1.5 是Fish Audio 推出的文本到语音（TTS）模型，基于深度学习技术如Transformer、VITS、VQVAE和GPT等。Fish Speech 1.5支持英语、日语、韩语、中文等13种语言，具备零样本和少样本语音合成能力，只需10到30秒的声音样本可模仿高质量语音，语音克隆功能延迟时间不到150毫秒。模型泛化能力强，无需依赖音素，能处理任何语言脚本。即将推出的实时无缝对话功能，用户能随时随地进行交互式聊天。Fish Speech 1.5开源预训练模型，支持本地部署，适用于Linux、Windows和macOS系统。

    Fish Speech 1.5

    Fish Speech 1.5的主要功能

    • 多语言支持：支持包括英语、日语、韩语、中文在内的13种语言，能处理多种语言的文本。
    • 零样本和少样本语音合成：基于极短的声音样本（10到30秒）模仿并生成高质量的语音合成输出。
    • 无音素依赖：与传统语音合成模型不同，Fish Speech 1.5不依赖音素，具有更强的泛化能力。
    • 高度准确：对于一篇5分钟的英文文章，错误率低至2%。
    • 快速合成：在高性能硬件上，能实现快速的实时语音合成。

    Fish Speech 1.5的技术原理

    • Transformer架构：一种基于自注意力机制的模型，能处理序列数据，被广泛应用于语言处理任务中。
    • VITS（Vector Quantized Transformer-based Speech Synthesis）：一种基于Transformer的语音合成模型，基于量化技术提高合成效率和质量。
    • VQVAE（Vector Quantized Variational Autoencoder）：一种变分自编码器，基于量化技术学习数据的压缩表示。
    • GPT（Generative Pre-trained Transformer）：一种预训练语言模型，基于大量文本数据训练，生成连贯和自然的文本。

    Fish Speech 1.5的项目地址

    Fish Speech 1.5的应用场景

    • 有声读物和音频书籍：将电子书籍或文档转换成有声读物，为用户提供便捷的听书体验。
    • 辅助技术：为视障人士提供文本到语音的服务，帮助用户“阅读”屏幕上的内容。
    • 语言学习：模拟不同语言的发音，帮助学习者练习听力和发音。
    • 客户服务：在呼叫中心或聊天机器人中使用，提供自动语音回复服务。
    • 新闻和播报：自动生成新闻报道的语音版本，用于广播或在线新闻服务。

  • Motion Prompting – 谷歌联合密歇根和布朗大学推出的运动轨迹控制视频生成模型

    Motion Prompting是什么

    Motion Prompting是 Google DeepMind、密歇根大学和布朗大学联合推出的视频生成技术，基于运动轨迹（motion trajectories）控制和引导视频内容的生成。Motion Prompting用点轨迹作为灵活的运动表示，能编码从单个点到全局场景的任意复杂度的运动。用户能设计“运动提示”（motion prompts），类似于文本提示，激发视频模型的不同能力，包括对象控制、相机控制、物理现象模拟等。Motion Prompting提高了视频生成的灵活性和准确性，为未来交互式视频生成和世界模型查询提供新的可能性。

    Motion Prompting的主要功能

    • 对象控制：基于运动提示，精细控制视频中特定对象的运动，如旋转或移动。
    • 相机控制：实现视频中相机的运动控制，包括平移、旋转和变焦等。
    • 物理现象模拟：展示视频中的物理现象，如流体动力学（水、烟雾）和刚体动力学。
    • 同时对象和相机控制：组合对象控制和相机控制的运动提示，实现复杂的场景交互。
    • 拖动式图像编辑：支持用户基于拖动操作编辑图像，实现动态图像编辑。
    • 运动转移：将一个视频中的运动转移到另一个视频的第一帧上，实现运动的再利用。
    • 运动放大：放大视频中的细微运动，让细微运动更明显。

    Motion Prompting的技术原理

    • 点轨迹表示：用点轨迹（point trajectories）作为运动的表示方法，捕捉视频中任意数量点的运动，包括对象特定运动或全局场景运动。
    • 条件视频生成模型：在预训练的视频扩散模型基础上，训练一个控制网络（ControlNet），接受运动提示作为条件输入。
    • 运动提示构建：将用户输入（如鼠标拖动）转换为点轨迹，或基于计算机视觉技术从高级用户请求中生成详细的运动轨迹。
    • 轨迹编码：将点轨迹编码为空间-时间体积（space-time volume），每个轨迹在访问的每个位置放置一个唯一的嵌入向量。
    • 模型训练：用从视频中提取的轨迹数据训练模型，根据轨迹提示生成视频。
    • 轨迹稀疏度调整：用户能调整轨迹的稀疏度，平衡控制的精细度和视频模型的自由度。
    • 多任务处理：基于组合不同的运动提示，在单一模型中实现多种复杂的视频生成任务。

    Motion Prompting的项目地址

    Motion Prompting的应用场景

    • 电影和视频制作：导演和视频制作者创造复杂的动态场景，如特效镜头或动作序列，无需复杂的手动动画制作。
    • 游戏开发：游戏开发者生成游戏中的动态背景视频或用在游戏内角色和环境的动态交互。
    • 虚拟现实（VR）和增强现实（AR）：在VR和AR应用中，创建更加自然和逼真的虚拟环境和交互效果。
    • 交互式媒体艺术：艺术家创造新的交互式艺术作品，观众基于身体动作与艺术作品进行互动。
    • 教育和培训：基于模拟真实世界的物理现象和动态场景，用在教育领域，如物理、工程和医学培训。

  • FullStack Bench – 字节豆包联合M-A-P社区开源的全新代码评估基准

    FullStack Bench是什么

    FullStack Bench是字节跳动豆包大模型团队与M-A-P社区联合推出的全新代码评估基准，专注于全栈编程和多语言编程能力评估。FullStack Bench覆盖超过11种真实编程场景，包含3374个问题，涉及16种编程语言，能更有效地衡量大模型在现实世界中的代码开发能力。FullStack Bench基于模拟真实编程应用领域，提供一个全面、多领域的评估平台，有助于推动代码智能技术的进步。

    FullStack Bench

    FullStack Bench的主要功能

    • 全面评估：FullStack Bench能评估大型语言模型（LLMs）在多种真实编程场景下的能力，包括基础编程、数据科学、机器学习等多个领域。
    • 多语言支持：覆盖16种广泛使用的编程语言，让评估结果更具普遍性和实用性。
    • 实际应用场景模拟：基于从Stack Overflow等社区抽取问题，模拟真实世界编程问题，确保评估的相关性和实际应用价值。
    • 代码质量控制：每个问题都包括题目描述、参考解决方案和单元测试用例，确保评估的准确性和可靠性。

    FullStack Bench的技术原理

    • 数据集构建：分析Stack Overflow等技术社区的问题分布，提炼出常见的真实编程应用领域，构建包含多个问题的数据集。
    • 人工注释与验证：基于人工注释和验证流程，确保每个问题的质量，包括问题描述的准确性和参考解决方案的正确性。
    • 单元测试用例：为每个问题设计单元测试用例，用自动化的方式验证模型生成的代码是否符合预期。
    • 多语言编程能力评估：基于设计真实世界的指令和相应的单元测试用例，评估模型在不同编程语言下的表现。
    • 沙盒执行环境：用SandboxFusion沙盒执行工具，支持多种编程语言和包，为代码执行提供安全和隔离的环境。

    FullStack Bench的项目地址

    FullStack Bench的应用场景

    • 代码智能评估：用FullStack Bench测试和评估大型语言模型在代码生成、理解和调试任务上的性能。
    • 教育和培训：用数据集中的真实编程问题作为教学案例，帮助学生理解编程概念和实践编程技能。
    • 研究和开发：为研究人员提供标准化的测试平台，实验和改进代码相关的AI技术。
    • 软件开发测试：在软件开发周期中用FullStack Bench自动化测试代码质量，提前发现潜在的缺陷。
    • 多语言编程能力评估：评估开发者在不同编程语言上的熟练程度，作为技术招聘和职业发展的一部分。

  • GenCast – 谷歌DeepMind推出的AI气象预测模型

    GenCast是什么

    GenCast是DeepMind推出的革命性AI气象预测模型，基于扩散模型技术，提供长达15天的全球天气预报。GenCast在97.2%的预测任务中超越全球顶尖的中期天气预报系统ENS，尤其在极端天气事件的预测上表现突出。与传统模型相比，GenCast能在8分钟内生成预报，显著提高预测效率。GenCast已经开源，包括代码和模型权重，能支持更广泛的天气预报社区和研究。

    GenCast

    GenCast的主要功能

    • 中长期天气预报：提供长达15天的全球天气预报，每12小时更新一次。
    • 高分辨率预测：模型用0.25°纬度-经度分辨率运行，提供高分辨率的预测。
    • 集合预测：与传统单一预测不同，GenCast生成50个或更多的预测集合，每个代表可能的天气轨迹，表达不确定性。
    • 极端天气预测：GenCast擅长预测极端天气事件，如热浪、强风、热带气旋等。
    • 快速预测：在Google Cloud TPU v5上，GenCast只需8分钟即可生成15天的天气预报集合。

    GenCast的技术原理

    • 扩散模型：基于扩散模型，一种生成式AI模型，用于生成图像、视频和音乐等领域的新样本。模型基于迭代细化过程从噪声中生成未来状态的样本。
    • 地球球面几何适应：GenCast特别适应地球的球面几何形状，能学习准确生成未来天气情景的复杂概率分布。
    • 条件概率分布：GenCast模型了未来天气状态的条件概率分布，给定当前和之前的天气状态。
    • 神经网络架构：GenCast用包含编码器、处理器和解码器的神经网络架构。编码器将输入从经纬度网格映射到内部学习表示，处理器（图变换器）关注其邻域节点，解码器将结果映射回原始网格。
    • 训练与预测：GenCast用ECMWF的ERA5档案中四十年的历史天气数据进行训练，学习全球天气模式，自回归地生成15天的集合预报。
    • 并行生成：由于每个时间步都是从噪声初始化的，基于用不同的噪声样本重复生成过程，生成预测集合。

    GenCast的项目地址

    GenCast的应用场景

    • 灾害预防与管理：GenCast能提前预测极端天气事件，帮助政府和救援组织减少灾害带来的损失。
    • 能源管理：在风力和太阳能发电领域，GenCast提供的精确预报优化能源产量预测，提高能源利用效率。
    • 农业规划：GenCast帮助农民避免因天气变化带来的风险，合理安排农业生产活动。
    • 交通与物流：GenCast为航空和海运提供关键的天气信息，确保运输安全和效率。
    • 城市规划与建设：GenCast辅助城市规划者考虑气候变化，构建更适应天气变化的基础设施。

  • Micro LLAMA – 教学版 LLAMA 3模型实现，用于学习大模型的核心原理

    Micro LLAMA是什么

    Micro LLAMA是精简的教学版LLAMA 3模型实现，能帮助学习者理解大型语言模型架构。整个项目仅约180行代码，便于理解和学习。Micro LLAMA用的是LLAMA 3中最小的8B参数模型，模型本身需15GB存储空间，运行时约需30GB内存。代码默认在CPU上运行，需注意内存消耗。Micro LLAMA基于micro_llama.py文件提供模型代码，基于micro_llama.ipynb笔记本引导用户探索。Micro LLAMA适合对深度学习和模型架构感兴趣的研究者和学生。

    Micro LLAMA

    Micro LLAMA的主要功能

    • 教学目的：Micro LLAMA的主要功能是作为教学工具，帮助学生和研究人员理解大型语言模型的工作原理和架构。
    • 代码简洁：基于将实现压缩到大约180行代码，Micro LLAMA让复杂的模型架构变得易于阅读和理解。
    • 环境管理：提供创建和管理Conda环境的指令，用户能轻松地设置和维护所需的开发环境。
    • 易于实验：支持用户在没有高性能计算资源的情况下进行实验和测试。

    Micro LLAMA的技术原理

    • 模型架构：Micro LLAMA实现LLAMA 3模型的基本架构，包括核心组件如自注意力（Self-Attention）机制和前馈神经网络（Feed-Forward Networks, FFNs）。
    • 模块化设计：Micro LLAMA保持模块化设计，各个组件（如嵌入层、编码器层等）能独立理解和修改。
    • 环境配置：jiyu Conda环境管理，Micro LLAMA提供清晰的指南来设置所需的依赖和运行环境，这有助于用户避免配置相关的问题。
    • 实验与探索：Micro LLAMA提供Jupyter笔记本micro_llama.ipynb，支持用户直接与模型交互，进行实验和探索。

    Micro LLAMA的项目地址

    Micro LLAMA的应用场景

    • 学术教学：在大学课程中，向学生展示大型语言模型的内部工作机制，帮助学生理解深度学习在自然语言处理中的应用。
    • 研究与开发：研究人员测试新的模型架构或算法，模型架构或算法可能在未来被应用到更大规模的语言模型中。
    • 教育项目和工作坊：在编程工作坊中，作为一个实践项目，让学生实际操作加深对语言模型的理解。
    • 个人学习与探索：对于自学者来说，Micro LLAMA提供一个易于理解和修改的模型，学生能自行探索和学习语言模型的构建。
    • 软件开发：开发者快速构建原型，验证新想法，或者作为开发新软件工具的基础。

  • Perplexideez – 开源本地AI搜索助手，智能搜索信息来源追溯

    Perplexideez是什么

    Perplexideez是本地AI助手，支持用户在网络和自托管应用中快速搜索信息。Perplexideez项目以Postgres数据库为基础，支持Ollama或OpenAI兼容的端点，用SearXNG实例进行网络搜索。Perplexideez具备多用户支持、单点登录（SSO）功能，并提供美观的搜索结果嵌入展示。Perplexideez旨在提供更好的自托管服务集成和用户体验。

    Perplexideez

    Perplexideez的主要功能

    • 网络搜索：用AI技术帮助用户筛选网络搜索结果，提高搜索效率。
    • 结论来源追踪：用户能查看LLM（大型语言模型）使用的源注释，并直接访问源码。
    • 深入学习：LLM为用户生成后续问题，方便用户进一步探索感兴趣的内容。
    • 搜索跟踪：用户将感兴趣的搜索结果收藏，方便后续查找。
    • 体验定制：支持用户根据不同任务选择合适的模型，并提供环境变量和UI配置以优化资源使用。
    • 搜索共享：用户轻松地与他人共享搜索结果链接，并进行访问控制。

    Perplexideez的技术原理

    • 自然语言查询：用大型语言模型（LLM）处理和理解自然语言查询，筛选搜索结果，并生成相关的后续问题。
    • 支持与Ollama或OpenAI兼容的端点集成，这些端点提供AI模型的接口，用于执行复杂的语言处理任务。
    • 数据库支持：项目后端用Postgres数据库存储用户数据、搜索历史和偏好设置，确保数据的持久化和多用户支持。
    • 自托管搜索实例：基于SearXNG实例，搜索网络，SearXNG是开源的、隐私保护的元搜索引擎。
    • 多用户和单点登录（SSO）：支持多用户使用，每个用户都有独立的数据视图。集成OIDC（OpenID Connect）SSO，用户用单一身份认证访问多个服务。
    • 容器化部署：用Docker和Kubernetes等容器技术，让Perplexideez在多种环境中灵活部署，包括裸机、虚拟机和云平台。容器化还提高了应用的可移植性和可扩展性。

    Perplexideez的项目地址

    Perplexideez的应用场景

    • 个人知识管理：个人用户搜索和整理个人收藏的信息，快速找到所需资料。
    • 企业内部搜索：企业作为内部搜索引擎，帮助员工快速访问企业知识库、文档和数据。
    • 研究与学术：研究人员和学者搜索学术资源，跟踪研究引用，并生成研究问题。
    • 教育：教育机构辅助教学，帮助学生和教师快速获取教育资源和学术资料。
    • 开发与编程：开发者搜索编程相关的文档、代码片段和开发资源，提高开发效率。