Meta AI 推出 LIGER 混杂检索 AI 模子,计算效力与推
2025-01-04 08:32
IT之家 1 月 2 日新闻,Meta AI 的研讨职员提出了一种名为 LIGER 的新型 AI 模子,奇妙地联合麋集检索跟天生检索的上风,明显晋升了天生式推举体系的机能。LIGER 无效地处理了传统推举体系在盘算资本、存储需要跟冷启动名目处置上的困难,为构建更高效、更精准的推举体系供给了新的思绪。名目配景想要把用户与相干内容、产物或效劳接洽起来,推举体系是此中主要一环。该范畴的惯例方式是麋集检索(Dense retrieval),应用序列建模来盘算名目跟用户表现。但这种方式因为要嵌入每个名目,因而须要大批的盘算资本跟存储。跟着数据集的增加,这些请求变得越来越沉重,限度了它们的可扩大性。而另一种新兴的方式叫做天生检索(Generative retrieval),经由过程天生模子猜测名目索引来增加存储需要,但该方法存在机能成绩,在冷启动名目(用户交互无限的新名目)中表示尤为显明。名目先容Meta AI 公司结合威斯康星年夜学麦迪逊分校、ELLIS Unit、LIT AI Lab、呆板进修研讨所、JKU Linz 等机构,混杂麋集检索跟天生检索,推出了 LIGER(LeveragIng dense retrieval for GEnerative Retrieval)模子。该模子混杂了天生检索的盘算效力跟麋集检索的精度,应用天生检索天生候全集、语义 ID 跟文本属性的名目表现,再经由过程麋集检索技巧停止简练,均衡了效力跟正确性。LIGER 采取双向 Transformer 编码器跟天生解码器。麋集检索局部整合了名目文本表现、语义 ID 跟地位嵌入,并应用余弦类似度丧失停止优化。天生局部应用波束搜寻依据用户交互汗青猜测后续名目的语义 ID。经由过程这种混杂推理进程,LIGER 下降了盘算需要,同时坚持了推举品质。LIGER 还能很好地泛化到未见过的名目,处理了先宿世成模子的要害限度。LIGER 机能在 Amazon Beauty、Sports、Toys 跟 Steam 等基准数据集上的评价表现,LIGER 的机能连续优于 TIGER 跟 UniSRec 等现有开始进模子。比方,在 Amazon Beauty 数据集上,LIGER 对冷启动名目的 Recall@10 得分为 0.1008,而 TIGER 为 0.0。在 Steam 数据集上,LIGER 的 Recall@10 到达了 0.0147,同样优于 TIGER 的 0.0。跟着天生方式检索的候选数目增添,LIGER 与麋集检索的机能差距缩小,展示了其顺应性跟效力。IT之家附上参考地点Unifying Generative and Dense Retrieval for Sequential Recommendation告白申明:文内含有的对外跳转链接(包含不限于超链接、二维码、口令等情势),用于通报更多信息,节俭甄选时光,成果仅供参考,IT之家全部文章均包括本申明。
]article_adlist-->
申明:新浪网独家稿件,未经受权制止转载。 -->
相关推荐