BUAADreamer's Blog

work hard to persue a happy life

RAG理论-多模态RAG

...
RAG

RAG理论-第五篇-增强方法

...
RAG

RAG理论-第四篇-生成器

...
RAG

RAG理论-第三篇-检索

RAG理论-第三篇-检索0.前言本系列以同济大学的检索增强生成(RAG)综述[1],ACL2023 检索增强语言模型(RALM) Tutorial[2]作为参考材料,讲解RAG的前世今身,包含概述,评估方法,检索器,生成器,增强方法,多模态RAG等内容。 本篇为检索篇,介绍RAG检索器概述和三种检索器优化方法。 1.检索器概述检索的目的是给定一个查询和一个文档集合,检索器需要对文档进行相关性......
RAG

RAG理论-评估2

RAG理论-第二篇-评估2· 0.前言· 本文为RAG评估篇的第2讲,补充一些RAG方法常用的评估方式 1.补充评估方式· 语言模型评估· Perplexity(困惑度) 代表方法:ICRALM[2] $perplexity=(\prod_{i=1}^n\frac {1} {p(w_i|w_{1},…,w_{i-1})})^{\frac 1 n}$ 取对数其实就得到了语言模型的交叉熵损失......
RAG

RAG理论-第二篇-评估

RAG理论-第二篇-评估· 0.前言· 本系列以同济大学的检索增强生成(RAG)综述[1],ACL2023 检索增强语言模型(RALM) Tutorial[2]作为参考材料,讲解RAG的前世今身,包含概述,评估方法,检索器,生成器,增强方法,多模态RAG等内容。 本篇为评估篇,介绍RAG的评估目标以及常见的基准和工具。 1.评估目标· 质量· 一般从检索质量和生成质量两方面进行评估。 检索质......
RAG

RAG理论-第一篇-概述

RAG理论-第一篇-概述· 0.前言· 本系列以同济大学的检索增强生成(RAG)综述[1],ACL2023 检索增强语言模型(RALM) Tutorial[2]作为参考材料,讲解RAG的前世今身,包含概述,评估方法,检索器,生成器,增强方法,多模态RAG等内容。 本篇为概述篇,介绍RAG的基本概念和技术分类。 1.介绍· GPT系列,LLaMA,Gemini等取得了很好的效果,但是对于特定领......
RAG

机器学习导论

一、引论· 机器学习定义· Tom Mitchell:Well-posed Learning Problem: A computer program is said to learn from experience E with respect to some task T and some performance measure P, if its performance on T, as......

编译技术理论课笔记

工具准备· https://wenku.baidu.com/view/b8b4510bba1aa8114431d96c.html https://max.book118.com/html/2018/1224/7166031033001166.shtm https://wenku.baidu.com/view/d846931e6bec0975f465e295?bfetype=new C语言栈方......

计算机组成理论复习

理论课学习——刘旭东老师· 第一讲:概述· 一.计算机组成与结构简介· 1.1 计算机的基本组成· 硬件(Hardware)计算机的物理部分,可以实现计算机最基本的操作行为。 软件(Software)使计算机实现各种功能的程序集合。包括系统软件、应用软件两大类。 计算机的功能· Data Processing (数据处理) Data Storage (数据存储) Data Moveme......