在本文中，你将了解到：
- LLM 训练数据是什么
- 为什么 LLM 需要海量数据进行训练
- 训练 LLM 所需的步骤
- 收集 LLM 训练数据的最佳来源
让我们开始吧！
什么是优质的 LLM 训练数据？
优质的 LLM 训练数据必须高质量、多样化，并与预期应用相关。理想情况下，它应涵盖广泛的话题、风格和语境，帮助 大型语言模型 学习多样的语言模式。
适合的来源取决于 LLM 的具体目标。但常见来源包括网页、书籍、视频转录、在线出版物、研究文章以及代码库。这些素材结合在一起，能全面展现人类的语言和知识。
真正起决定性作用的是，这些数据必须干净并且无噪声，例如避免无关文本或格式错误。它也应保持平衡以减少偏见，从而使模型更准确地学习并 生成更好、更可靠的输出。
为什么 LLM 需要大量数据
为了达到高水平的复杂性、细微度和准确性，LLM 需要海量数据。其主要原因在于，模型理解人类语言和给出相关回答的能力取决于对多种语言模式、主题和语境的接触。
为 LLM 提供海量数据可以让它掌握微妙的关联，在语境上具有强大的理解力，并准确预测可能的词序，从而整体上提高模型的效率。
这些数据通常从公共来源中提取，因为这些来源能够反映人类知识与沟通方式的广度，同时无需涉及隐私或监管问题。然而，在特定应用领域中，可能会使用 私有或定制的数据集 对模型进行微调，前提是符合隐私标准。
简而言之，下列原因说明为什么更多数据会带来更出色的 LLM：
- 增强知识库：就像人类可以通过大量信息变得更加博学一样，训练数据包含的话题越多，模型在多个领域生成相关回复的可能性就越大。
- 多样化的语言模式：获取大量写作风格和观点可以让模型学会更微妙的语言模式，提高对语境的理解能力，即使是跨多种语言。
- 减少偏见：比起小数据集，大型数据集往往偏见更少，有助于模型产生更加客观的结果。
- 响应更准确：在大量数据的基础上，LLM 能够更有效地识别语言规则以及词与词之间的关系，减少错误发生率。
- 具备事实性回答：来自最新内容的数据可以帮助模型保持与最新信息的同步，生成更相关且及时的回复。
如何使用自定义数据训练 LLM
假设你已经从不同来源收集了海量数据（稍后会学习更多相关内容）。那么应该遵循哪些步骤来训练 LLM 呢？让我们来一探究竟！
步骤#1：数据收集与预处理
- 数据来源：训练任何 LLM 的第一步都是收集大量数据，这些数据通常来自一系列公共（有时也包括私有）来源。想了解更多，可阅读我们关于 数据来源的指南。
- 预处理：收集到原始数据后，需要对其进行清洗，以便用于训练。请注意，像 ChatGPT 这样的现有 AI 工具可以为此过程提供帮助，主要包括：
- 文本清理：移除不相关内容、重复项和噪声。
- 正规化：将文本转换为小写、去除停用词以及解决其他格式不一致的问题。
- 分词：将文本拆分为更小的单元（如词、子词或字符），模型将在训练过程中使用这些单元。
步骤#2：选择或创建模型
- 预训练模型：对于大多数 LLM 项目而言，使用像 GPT、BERT、T5 等的预训练模型通常是首选。这些模型已经学习了大部分通用的语言模式，你只需使用自定义数据对它们进行微调，从而针对特定目标。这方面的教程可参考 如何使用 GPT-4 和 SERP 数据创建一个 RAG 聊天机器人。
- 自定义模型：如果预训练模型无法满足你的需求，或者你有独特的要求，可以从头开始创建新模型。可使用 PyTorch、LangChain、TensorFlow 等工具来构建和训练 LLM。但请记住，这条路需要大量的计算资源和资金投入。
步骤#3：模型训练
- 预训练：如果你选择自己创建模型，那么 预训练是关键。在此阶段，模型会学习通用的语言模式和语言结构。通常通过预测序列中缺失的词或标记来训练，这有助于模型学习上下文和语法。
- 微调：在预训练后，使用 微调 来针对特定任务调整模型，比如回答问题、摘要文本或进行语言翻译。微调通常使用规模较小、针对特定领域的数据集进行，也可能包括有监督学习、强化学习以及 人工干预（human-in-the-loop）的方式。
步骤#4：测试与评估
- 测试：模型训练完成后，需要使用如准确率（accuracy）、困惑度（perplexity）、BLEU 分数或 F1 分数等指标来评估模型表现（具体取决于任务类型）。这里的目标是确保模型输出对其预期用例既准确又相关。
- 超参数调整：测试过程中，你可能需要调整一些 超参数，例如学习率、批量大小以及梯度裁剪。通常采用迭代方式，需要多次尝试和调整，但对优化模型性能至关重要。
步骤#5：部署与监控
- 模型部署：当模型经过训练、测试并完成优化后，需要将其部署在实际环境中，比如集成到应用、系统或服务中，让其发挥作用。例如聊天机器人、虚拟助手以及内容生成工具等。
- 持续监控：部署后，需要持续监控模型表现，以确保其性能随时间保持稳定。定期使用新数据进行再训练有助于模型保持更新，并随着更多信息的出现进一步优化输出。
获取 LLM 训练数据的最佳来源
现在你已经知道了数据在 LLM 训练中的重要意义。接下来让我们探索收集 LLM 训练数据的最佳来源，并按类型进行分类。
网络内容
毫不意外，网络是数据最丰富、规模最大、使用最广泛的来源。通过 网络爬虫可以从网页提取数据，从而收集大量信息。
例如，X、Facebook、Reddit 等社交网络平台拥有丰富的对话数据。Wikipedia 拥有 6000 多万条涵盖广泛主题的页面。Amazon、eBay 等电商网站在商品描述和评论中也提供了宝贵信息，帮助训练 LLM 理解情感和日常语言。这也是 GPT-4 和 BERT 等知名 LLM 大量依赖网络数据的原因。
在互联网上采集数据，你通常有两种选择：
- 自己构建爬虫
- 购买全面且可直接使用的数据集
无论你选择哪种方式，Bright Data 都能提供帮助。其 Web Scraper API 专门用于从 100 多个网站中获取最新数据，同时还拥有 大型数据集市场，为高效收集 LLM 训练数据提供了一应俱全的解决方案。
学术讨论
像 Stack Exchange 和 ResearchGate 这样的网站允许研究者、从业者和爱好者提出问题、分享知识并探讨各类话题，涵盖数学、物理、计算机科学和生物学等众多领域。
这些平台上的学术讨论对训练 LLM 识别复杂技术问题以及提供深入回答大有帮助。
研究型文献
研究论文可为 LLM 提供医学、技术、经济学、工程、金融等方面的专业知识。像 Google Scholar、ResearchGate、PubMed Central 和 PLOS ONE 等平台都能访问到经过同行评审的论文，涵盖各自学科的新思路、概念和方法论。
这些文献包含专业术语和复杂主题，非常适合训练专业/学术领域的 LLM。
书籍
书籍是训练 LLM 的优秀资源，特别是在学习正式语言方面。但大多数书籍受版权保护，限制了其使用范围。不过，确实有公共领域的书籍可免费获取并使用。
例如，古登堡计划收录了 7 万多本免费电子书，涵盖各种体裁，从哲学、科学到文学，帮助 LLM 扩展不同领域的知识储备。
代码内容
如果希望你的 LLM 同时具备处理编程任务的能力，则必须为其提供相关代码。GitHub、Stack Overflow、Hackerrank、GitLab 和 DockerHub 等平台上都汇集了数千个代码仓库和编程问题。
仅 GitHub 就包含了数百万个开源代码仓库，覆盖 Python、JavaScript、C++、Go 等多种语言。通过学习这些代码，LLM 可以掌握代码生成、错误调试，并理解编程语言的语法和逻辑。
新闻媒体
Google News、路透社、BBC、CNN、Yahoo News、Yahoo Finance 以及其他主流媒体网站上都有各种文章、报道和信息，涵盖政治、经济、健康、娱乐等多种话题。可以参考我们关于 如何爬取 Yahoo Finance的文章。
新闻文章帮助 LLM 理解语言的动态变化。它们还能提供区域语言差异、语气和结构的重要见解，因为不同媒体的受众群体可能不同。此外，这些 LLM 训练数据对于模型了解当下事件和全球趋势至关重要。
你还可以使用 Financial Data 或 News Scraper API，或浏览我们的数据集市场。
视频转录
视频转录对于训练 LLM 进行对话式语言理解非常有价值。如果你的模型需要胜任客户服务或支持等任务，这类数据至关重要。
YouTube、Vimeo、TED Talks 等公共视频平台含有大量经转录的内容，涵盖广泛主题。这些转录文件包含自然对话、演讲和讲座等，为 LLM 训练提供非常丰富的数据。可参考我们的 如何从 YouTube 获取数据的教程。
总结
在本文中，你了解了高质量 LLM 训练数据的特点、在哪里获取，以及如何使用这些数据来训练大型语言模型。无论采取何种方法，首要任务都是收集海量数据。对于这方面，网络始终是最重要的资源。
Bright Data 是市场上值得信赖的 AI 训练数据服务提供商之一，提供全面的解决方案来轻松发现、收集和管理大规模网络数据。从预训练到对模型进行微调，它均能够提供持续更新、干净、经验证、合规、道德且可扩展的数据。
Bright Data 为 LLM 训练数据提供的解决方案包括：
- 数据集：预先收集的、干净且经过验证的数据集，涵盖 100+ 热门领域，包含超过 50 亿条记录。
- 爬虫 API：专门为高效获取各大网站数据而设计的端点。
- 无服务器爬虫：简化数据收集并提升性能的工具。
- 数据中心代理：高速且稳定的代理，用于支持网络爬虫。
立即注册并探索 Bright Data 的数据集，其中包括免费样本。
