2024.10.1
1. 时间序列预测
- 这个up主的思路挺好的，可以按照这个准备赚外快，结合几个平台一起赚钱
- 把自己学习的东西分出来打造人设
2. RAG在Meta KDD Cup中的比赛
RAG前沿进展：粗看Meta KDD Cup RAG竞赛获胜方案
- 有代码和介绍书可以使用
3. Single-Agent新进展
- 就这篇文章来看，并没有做到标题中提到的“大翻身”的程度，multi-agent可能还会是发展趋势
- 一些基本的知识还有些用
大语言模型（LLMs）：作为系统的大脑；提示词（Prompts）：用于引导模型思考；动作空间（Action spaces）：定义代理可以执行的操作
4. Agentic设计模式：提升GPT-4和GPT-3.5性能的四点AI Agent策略
Agentic设计模式一：提升GPT-4和GPT-3.5性能的四点AI Agent策略
-
在大型语言模型（LLM）中，"token"指的是模型可以理解和生成的最小意义单位，是模型的基础单元。根据所使用的特定标记化方案，token可以表示一个完整的单词、单词的一部分，甚至只是一个字符。这些token被赋予数值或标识符，并按序列或向量排列，然后被输入或从模型中输出。
Token化是将自然语言文本分解成更小的单元或标记（Token）的过程，这些Token可以是单词、单词的一部分（如子词）、甚至是一个字符。Token在LLM内部被赋予数值或标识符，并以序列的形式输入或从模型输出，这些数值标识符是模型处理和生成文本时实际使用的表示形式。
简而言之，token是LLM处理文本数据的基本构建块，它们代表了文本在向量形式下的表示。通过token化过程，原始文本被转换成模型可以处理的数字表示形式，使得模型能够对这些数字进行处理和操作。 -
四种我认为今年将推动显著进步的AI智能体工作流程设计模式：反思、工具使用、规划和多智能体协作
Self-Refine: Iterative Refinement with Self-Feedback: https://arxiv.org/abs/2303.17651
Reflexion: Language Agents with Verbal Reinforcement Learning: https://arxiv.org/abs/2303.11366
CRITIC: Large Language Models Can Self-Correct with Tool-Interactive Critiquing: https://arxiv.org/abs/2305.11738
“Gorilla: Large Language Model Connected with Massive APIs,” Patil et al. (2023)
“MM-REACT: Prompting ChatGPT for Multimodal Reasoning and Action,” Yang et al. (2023)
“Efficient Tool Use with Chain-of-Abstraction Reasoning,” Gao et al. (2024)
“Chain-of-Thought Prompting Elicits Reasoning in Large Language Models[1]” Wei et al. (2022)
“HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in Hugging Face[2]” Shen et al. (2023)
“Understanding the planning of LLM agents: A survey[3]” by Huang et al. (2024)
- LLM开发者早期就意识到，仅依赖预训练的Transformer生成输出Token是有限的，而给LLM一个网络搜索工具则能让它做更多事情
- 在LLM历史的早期，在像LLaVa、GPT-4V和Gemini这样的大型多模态模型（LMMs）广泛可用之前，LLM无法直接处理图像，因此许多关于工具使用的工作是由计算机视觉社区完成的。那时，基于LLM的系统操纵图像的唯一方法是调用一个函数，例如进行物体识别或其他功能
一文看懂GraphRAG与传统RAG的7大区别及融合方案，你会怎么选择？
一文看懂GraphRAG与传统RAG的7大区别及融合方案，你会怎么选择？
- GraphRAG是一种基于知识图谱的检索增强生成（RAG）应用，不同于传统基于向量检索的RAG应用，其允许进行更深层、更细致与上下文感知的检索，从而帮助获得更高质量的输出
Github 上有哪些优秀的 VHDL/Verilog/FPGA 项目
Github 上有哪些优秀的 VHDL/Verilog/FPGA 项目
Windows 竞技场：面向下一代AI Agent的测试集
- 在微软，我们正在为下一代 AI Computer Agent 的研发奠定基础。在此之前，我们必须找到一个可重复、稳定、高质量的测试集（Benchmark）。为此，我们开发并开源了 Windows 竞技场：Windows Agent Arena (WAA) —— 一个基于 windows 操作系统的 Agent 测试集。WAA 可以让研究人员更方便地开发、测试和比较不同 Agent 和模型的优劣。WAA 包含一系列基于 windows 常见的应用程序的任务，并以此来评估不同 AI Computer Agent 在现实操作系统上执行不同任务时的表现