Netflix,但更好

netflix,但更好

免责声明:本项目与Netflix无关,仅为技术实验。

超越Netflix:构建更智能的电影推荐系统

Netflix作为流媒体巨头,拥有超过2亿用户和17000多部电影及电视节目,其推荐系统功不可没。该系统基于用户观看历史、相似节目、用户趋势和热门剧集等数据进行推荐。但如果我们能以更简便的方式复制这一功能呢?

本项目旨在构建一个简易的电影推荐系统,包含直接搜索、基于向量的推荐引擎以及AI内容推荐功能。

技术选型

本应用基于Next.js、Tailwind CSS和shadcn UI构建。项目灵感源于Tejas Kumar的DataStax电影推荐系统演讲,技术选型则借鉴了Lee Robinson的库存项目。为确保性能,我们使用Next.js的服务器端渲染(SSR)功能及图像组件进行图像预渲染和积极预取。数据存储采用Neon Cloud PostgreSQL数据库,Vercel AI SDK用于嵌入式搜索,并使用Prisma作为ORM。

数据准备

我们使用Kaggle上的开源数据集,包含8000多部电影和电视节目(CSV格式),直接导入数据库。OMDb API用于获取海报图像和IMDb评分。演示CSV文件使用cast作为列名,但在数据库中,我们使用_cast避免与数据库函数冲突。

COPY tmp_titles (show_id, title, description, director, genres, _cast, production_country, release_date, rating, duration)FROM '/data/netflix_titles.csv'DELIMITER ','CSV HEADER;

登录后复制

为建立表间关系,我们创建了多个表,shows表作为主要数据来源:

CREATE TABLE "shows" (    "id" SERIAL PRIMARY KEY NOT NULL,    "title" TEXT NOT NULL,    "poster" TEXT, -- 海报图片URL    "description" TEXT, -- 简短描述    "release_year" INTEGER, -- 发行年份    "duration" TEXT, -- 时长    "imdb_score" NUMERIC, -- IMDb评分    "imdb_id" TEXT, -- IMDb ID    "content_type" TEXT -- 类型 (电影或剧集));

登录后复制

接下来,创建actors表并建立与shows表的多对多关系:

CREATE TABLE "actors" (    "id" SERIAL PRIMARY KEY NOT NULL,    "name" TEXT NOT NULL,    CONSTRAINT "actors_name_unique" UNIQUE("name"));CREATE TABLE "show_actors" (    "show_id" INTEGER NOT NULL,    "actor_id" INTEGER NOT NULL,    CONSTRAINT "show_actors_show_id_actor_id_pk" PRIMARY KEY("show_id", "actor_id"));

登录后复制

这使得我们可以关联节目和演员。通过递归,可以将演员链接到他们出演的节目。这通过匹配tmp_titles表中的节目和shows表,并解析_cast列来实现。

-- 将tmp_titles._cast中的演员插入actors表WITH RECURSIVE split_cast AS (    SELECT DISTINCT -- 去除空格并以逗号分割_cast字符串        TRIM(UNNEST(STRING_TO_ARRAY(_cast, ','))) AS actor_name    FROM tmp_titles    WHERE _cast IS NOT NULL)INSERT INTO actors (name)SELECT actor_nameFROM split_castWHERE actor_name != '' -- 跳过空字符串ON CONFLICT (name) DO NOTHING;

登录后复制

类似过程应用于类别、导演和国家表。

全文搜索

为提升搜索功能,我们在shows表中添加search_text列,存储标题、描述、类型、演员、导演和类别的文本组合,方便全文搜索。我们使用PostgreSQL的pg_trgm扩展提高搜索效率。

-- 创建文本搜索扩展CREATE EXTENSION IF NOT EXISTS pg_trgm;-- 添加search_text列ALTER TABLE "shows"ADD COLUMN "search_text" TEXT;-- 创建search_text列索引CREATE INDEX "idx_shows_search_text_tsv" ON "shows" USING gin (to_tsvector('english', "search_text"));

登录后复制

迁移完成后,我们可以使用脚本填充search_text列:

// ... (代码片段,用于填充search_text列) ...

登录后复制

现在,我们可以使用search_text列执行全文搜索:

// ... (代码片段,用于执行全文搜索) ...

登录后复制

to_tsvector和to_tsquery函数用于匹配向量和查询。

基于AI嵌入的向量搜索

全文搜索功能强大,但不足以满足所有需求。我们需要支持语义搜索,用户可以根据给定标题或抽象标准查找相似节目。

Vercel AI SDK可以创建元数据的向量表示(嵌入),增强语义搜索。我们使用Mistral模型:

// ... (代码片段,使用Mistral模型生成嵌入) ...

登录后复制

我们定义Zod模式用于AI生成嵌入:

// ... (代码片段,定义Zod模式) ...

登录后复制

使用该模式,我们可以要求AI模型分析节目信息并生成元数据:

// ... (代码片段,生成元数据) ...

登录后复制

结果类似于《绝命毒师》的元数据:

// ... (《绝命毒师》的元数据JSON) ...

登录后复制

使用此元数据,我们在shows表中存储每个节目的嵌入,启用向量搜索。创建必要的扩展并添加新列:

-- 创建扩展CREATE EXTENSION IF NOT EXISTS vector;-- 添加embedding列ALTER TABLE "shows"ADD COLUMN "embedding" vector(1024);-- 创建embedding列索引CREATE INDEX "embeddingindex" ON "shows" USING ivfflat ("embedding" vector_cosine_ops);

登录后复制

然后,使用AI SDK生成并存储嵌入:

// ... (代码片段,生成并存储嵌入) ...

登录后复制

现在,我们可以查询最近邻:

// ... (代码片段,查询最近邻) ...

登录后复制

未来展望

您可以克隆项目仓库并在本地运行。实时演示链接(此处应插入链接)。您可以添加新功能,例如新的推荐类型或使用OpenAI或Gemini改进搜索。还可以扩展数据集,添加更多元数据。

总结

通过PostgreSQL、Next.js和AI驱动的嵌入,我们可以构建高效可扩展的推荐引擎。全文搜索和语义AI搜索相结合,提供更强大、个性化的体验。

参考链接

pgvectorpg_trgmPrismaVercel AI SDKPostgreSQL中的向量搜索向量与Prisma的相似性

以上就是Netflix,但更好的详细内容,更多请关注【创想鸟】其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至253000106@qq.com举报,一经查实,本站将立刻删除。

发布者:PHP中文网,转转请注明出处:https://www.chuangxiangniao.com/p/2640901.html

(0)
上一篇 2025年3月7日 06:25:16
下一篇 2025年3月6日 16:12:46

AD推荐 黄金广告位招租... 更多推荐

相关推荐

发表回复

登录后才能评论