模型训练与部署

MNN-LLM 是一款高效的推理框架，旨在优化和加速大语言模型在移动设备和本地 PC 上的部署。它通过模型量化、混合存储和硬件特定优化，解决高内存消耗和计算成本的问题。MNN-LLM 在 CPU 基准测试中表现卓越，速度显著提升，适合需要隐私保护和高效推理的用户。

bRAG AI是一个创新的AI平台，允许用户创建和训练自己的AI模型，以提供准确、实时的答案。其主要优点在于能够根据用户提供的数据进行个性化训练，确保回答的准确性和可靠性。该产品适用于需要定制化AI解决方案的企业和个人，价格尚未明确，但预计将提供灵活的定价策略以满足不同用户的需求。

Confident AI 是一个开源的评估基础设施，为 LLM（Language Model）提供信心。用户可以通过编写和执行测试用例来评估自己的 LLM 应用，并使用丰富的开源指标来衡量其性能。通过定义预期输出并与实际输出进行比较，用户可以确定 LLM 的表现是否符合预期，并找出改进的方向。Confident AI 还提供了高级的差异跟踪功能，帮助用户优化 LLM 配置。此外，用户还可以利用全面的分析功能，识别重点关注的用例，实现 LLM 的有信心地投产。Confident AI 还提供了强大的功能，帮助用户自信地将 LLM 投入生产，包括 A/B 测试、评估、输出分类、报告仪表盘、数据集生成和详细监控。

Starling-7B 是一个由强化学习从 AI 反馈（RLAIF）训练的开放大型语言模型（LLM）。它通过我们的新 GPT-4 标记排序数据集 Nectar 和新的奖励训练和策略调优流程充分发挥了作用。Starling-7B 在使用 GPT-4 作为评委的 MT Bench 中得分为 8.09，在 MT-Bench 上超过了目前所有模型，除了 OpenAI 的 GPT-4 和 GPT-4 Turbo。我们在 HuggingFace 上发布了排名数据集 Nectar、奖励模型 Starling-RM-7B-alpha 和语言模型 Starling-LM-7B-alpha，以及 LMSYS Chatbot Arena 中的在线演示。请期待我们即将发布的代码和论文，其中将提供有关整个过程的更多详细信息。

LLMonitor是一个为LLM（语言模型）应用提供观测性、分析和测试的平台。它可以记录LLM的调用日志、指标和追踪，支持对话评估和聊天记录回放，帮助优化AI应用的性能和成本控制。LLMonitor提供了日志监控、性能分析、错误追踪、用户对话记录、用户反馈收集等功能。它适用于各种AI开发场景，包括代理人、聊天机器人等。

Make Custom GPT是一个定制化GPT模型构建平台，用户可以根据自己的需求进行GPT模型的定制开发。该平台提供了丰富的功能和工具，使用户能够轻松创建自己的聊天机器人、语言生成模型等。产品定价根据用户需求而定。

使用您的自定义数据，通过三个简单步骤训练和调优 OpenAI ChatGPT 模型。让 AI 根据对话触发内部工作流程，让事情变得更高效。

Stanford CRFM 是一个基于 LLaMA 7B 模型在 52K 指令演示上进行微调的模型。通过与 OpenAI 的 text-davinci-003 进行初步评估，发现 Alpaca 表现在单轮指令跟随方面与 text-davinci-003 相似，但模型规模小、易于复现。具体定价及发布日期未知。请访问官方网址了解更多信息。

Botdocs是一系列高质量的数据集，用于训练人工智能处理常见的客服互动。它可用于训练大型语言模型、意图分类器和自然语言理解引擎，以帮助企业自动化常见的客服互动，并提供对客户意图的理解和提供卓越的客户体验。Botdocs以CSV、JSONL和Dialogflow（ES）格式提供，以满足AI开发人员和系统对大型语言模型、意图分类器和自然语言理解引擎的不同需求。

ChatNode是一个让你能够训练自己的聊天机器人的平台。通过提供各种数据源（如网页、文档、PDF等），你可以训练你的聊天机器人来回答用户的问题，并根据你的需求进行定制。ChatNode还提供了嵌入到网站、共享链接或连接到Slack等工具的功能，以便你可以在各种场景中使用你的聊天机器人。