您好,登錄后才能下訂單哦!
Python中怎么利用Faiss庫實現向量近鄰搜索,相信很多沒有經驗的人對此束手無策,為此本文總結了問題出現的原因和解決方法,通過這篇文章希望你能解決這個問題。
1、讀取預訓練好的Embedding數據
import pandas as pd
import numpy as np
df = pd.read_csv("./datas/movielens_sparkals_item_embedding.csv")
# 提取要使用的電影ID列表,注意要轉換成int64
ids = df["id"].values.astype(np.int64)
# 記錄ID列表的大小
ids_size = ids.shape[0]
# 讀取內容embedding數據,轉換成二維array
import json
import numpy as np
datas = []
for x in df["features"]:
datas.append(json.loads(x))
# 變成二維array
datas = np.array(datas).astype(np.float32)
# 記錄數據維度
dimension = datas.shape[1]
2、使用faiss建立索引
import faiss
index = faiss.IndexFlatL2(dimension)
index2 = faiss.IndexIDMap(index)
index2.add_with_ids(datas, ids)
3、實現近鄰搜索
# 讀取user embedding數據
df_user = pd.read_csv("./datas/user_embedding.csv")
df_user.head()
# 挑選一條user的embedding,轉換成1行N列的二維array
user_embedding = np.array(json.loads(df_user[df_user["id"] == 10]["features"].iloc[0]))
user_embedding = np.expand_dims(user_embedding, axis=0).astype(np.float32)
user_embedding
# 實現搜索,這里的I就是近鄰ID列表
tok = 30
D, I = index.search(user_embedding, topk) # actual search
4、拼接得到內容列表
# 把搜索出來的ID變成Series
target_ids = pd.Series(I[0], name="MovieID")
# 讀取電影數據
df_movie = pd.read_csv("./datas/ml-1m/movies.dat",
sep="::", header=None, engine="python",
names = "MovieID::Title::Genres".split("::"))
# 實現內容JOIN
df_result = pd.merge(target_ids, df_movie)
看完上述內容,你們掌握Python中怎么利用Faiss庫實現向量近鄰搜索的方法了嗎?如果還想學到更多技能或想了解更多相關內容,歡迎關注億速云行業資訊頻道,感謝各位的閱讀!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。