概念
1. Prompt
Prompt 是指在与 AI 模型交互时，用户输入的文本或指令。
user prompt
User Prompt 是用户直接输入的文本，通常用于引导 AI 模型生成响应或执行特定任务。
system prompt
System Prompt 是预设的指令或上下文信息，用于指导 AI 模型的行为和响应方式。它通常在用户输入之前设置，帮助模型理解任务的背景或目标。
2. AI Agent
AI Agent 是一种能够自主执行任务的智能体，通常集成了自然语言处理（NLP）和机器学习（ML）技术。它们可以理解用户的意图，并根据预设的规则或学习到的知识进行决策和行动。
AI Agent的工作原理
AI Agent 的工作原理通常包括以下几个步骤：
- 输入理解：AI Agent 接收用户的输入（如文本、语音等），并使用自然语言处理技术将其转换为机器可理解的格式。
- 意图识别：通过分析输入，AI Agent 确定用户的意图。这可能涉及到分类、实体识别等技术。
- 决策制定：基于识别的意图，AI Agent 制定相应的行动计划。这可能包括调用外部API、查询数据库或执行特定的操作。
- 执行行动：AI Agent 执行制定的行动计划，并可能需要与其他系统或服务进行交互。
- 反馈与学习：AI Agent 根据执行结果和用户反馈进行学习和优化，以提高未来的决策质量。
3. MCP
MCP（Multi-Channel Protocol）是一种用于在不同应用程序和服务之间进行通信的协议。它允许应用程序通过统一的接口调用各种工具和服务，从而实现更高效的工作流程。
MCP工作原理
MCP 的工作原理基于客户端-服务器架构，主要包括以下组件：
- MCP HOST：运行 MCP 的主应用程序，如 Cladude Desktop、Cursor 或 AI 工具，为用户提供与 LLM（大语言模型）交互的接口，同时集成 MCP Client 以连接 MCP Server。
- MCP CLIENT：
可以理解为AI Agent 的一部分。
- MCP Client 充当 LLM 和 MCP Server 之间的桥梁。它负责将 LLM 的请求转换为 MCP 协议格式，并将响应传递回 LLM。
- MCP Client 可以是内置在主应用程序中的，也可以作为独立的插件或模块存在。
- MCP SERVER：
- MCP Server 提供了实际的工具和服务接口。它可以是本地运行的服务（如文件系统、数据库等），也可以是远程 API（如天气 查询、股票信息等）。
4. Function calling
Function calling 是指在 AI 模型中调用特定函数或方法以执行某些操作或获取数据的过程。这种机制允许模型在生成响应时直接调用预定义的函数，从而增强其功能和实用性。
5. RAG
RAG（Retrieval-Augmented Generation）是一种结合了信息检索和文本生成的技术。它通过从外部知识库中检索相关信息来增强生成模型的回答质量。
Embeddings
Embeddings 是将文本或其他数据转换为向量表示的技术。这些向量可以捕捉到数据的语义信息，使得相似的文本在向量空间中更接近。Embeddings 在 RAG 中用于将查询和文档转换为向量表示，从而进行相似性匹配和检索。
GraphRAG
GraphRAG 是一种基于图结构的 RAG 方法，它将知识表示为图结构，并利用图的拓扑信息来增强信息检索和生成的效果。GraphRAG 通过将文档和查询表示为图节点，并利用边的关系来捕捉更复杂的语义信息，从而提高检索和生成的质量。