シヴァム・ヴェルマ
Shivam Verma
Spotify AI Foundation org / User Representations team Tech Lead (London 拠点、 元 Twitter)
略歴
- — Twitter で ML Engineer として勤務
- — Spotify AI Foundation org / User Representations team Tech Lead として参画
- 2026-05 AI Engineer 2026 「Personalization in the Era of LLMs」 発表
補足
Spotify AI Foundation org の User Representations team の Tech Lead。 London 拠点。 前職 Twitter で ML Engineer。 1B+ users 規模の user embedding を 毎日生成する pipeline と、 sequential transformer ベースの user 表現モデルを統括する。
主要主張 (AI Engineer 2026 「Personalization in the Era of LLMs」): Spotify recsys を 旧来の trad multi-step pipeline (candidate generation → ranking) から、 sequential transformer ベースの 単一 unified generative model に移行する設計を公開。 Foundational User Modeling / Semantic IDs / Soft Tokenization の三層で構築。
実装の核心: Semantic IDs (= 1000-dim 文脈 vector を 4-6 token に compress、 Google 論文 YouTube 起源を Spotify catalog に適用) + Soft Tokenization (= user 表現を LLM の token 空間に projection、 個別 user を generative 推薦の input にする)。 同じ Spotify を engineering 組織視点で語る Niklas Gustavsson (Honk v2) と 対をなす モデル変容視点の登壇。
関連企業・組織
公式リンク
発言・引用
-
「embeddings が users を、 semantic IDs が content の圧縮版を、 soft tokenization が users をモデルの token 空間に射影する。 旧来の recommended system モデルから sequential modeling フレームワークへの移行」
— シヴァム・ヴェルマ / Shivam Verma (Spotify AI Foundation org、 User Representations Tech Lead) · LLM 時代の personalization — Shivam Verma (Spotify AI Foundation) が公開する Foundational User Modeling + Semantic IDs + Soft Tokenization の三層設計 (2026/05)