注意力頭

正在載入編輯器

注意力機制動畫|Transformer 為每個詞加權

注意力頭

關於「注意力頭」

每個詞輪流關注其他詞,連線粗細反映它給予的權重,各注意力頭依次循環。

每個詞為其他詞分配權重、注意力頭輪流切換的動畫,適合 LLM、NLP 與 AI 架構解說。

屬於科技與 AI類別。第一次接觸這類圖像?請閱讀怎樣為影片製作神經網絡圖動畫。

透明背景匯出和匯入剪輯軟件的方法,請參閱透明背景影片指南;每次下載均免費,並受商業授權涵蓋。

類別
科技與 AI
時長
10 秒,最長 60 秒
播放
播放一次
控制項
14 項可編輯
格式
MP4 · WebM · PNG序列
透明
WebM或PNG序列
解像度
720p至8K
畫面比例
16:9 · 9:16 · 1:1 · 4:5
適用軟件
Premiere Pro · After Effects · DaVinci Resolve · Final Cut Pro · CapCut · Figma
授權
包含商業用途
費用
免費 · 無需帳戶 · 無浮水印

常見問題

「注意力頭」可以自訂哪些內容?

內容:標題和標籤列表。字體排版:字體。樣式:背景、文字顏色、主色、輔助色、強調色和粗細。版面:畫面比例和縮放。動態:時長、速度和隨機變化。

「注意力頭」有多長?

「注意力頭」預設長 10 秒,匯出前可以設定任何長度,最長 60 秒。它只播放一次。

如何使用「注意力頭」

注意力頭有助解釋 Transformer 模型為何擅長處理上下文。看著一個詞通往它所依賴的詞的連線變粗,艱深的概念就有了畫面,適合講課影片、技術文章的配套短片和模型架構的會議演講。

  • 在「標籤列表」輸入你自己的句子,每項一個詞,六至八個詞連線才看得清楚。
  • 調慢「速度」,觀眾才看得到每個詞輪流上場,然後下一個注意力頭接上。
  • 調高「粗細」,最粗的注意力連線在小螢幕上依然清晰可見。

相關動畫

  • Tokenizer 分詞

    一句句子拆散成不同顏色的 Token 方塊並排列成行,每塊都標示自己的 Token ID。

  • 提問到回答

    提示詞逐字輸入對話框,按下傳送後,答案在流光下逐個 Token 串流回來。

  • AI 程式碼補全

    編輯器面板逐行輸入你的程式碼,AI 建議以半透明文字接在游標後出現,接受後變為實色。

  • 十六進制數據流

    一列列閃爍的十六進制字元以不同速度與深度向下流動,最前方的字元特別明亮。

  • 文件檢索

    一個問題掃過一排文件,最相符的段落連同分數亮起,並飛入答案之中。

  • 正常運行時間軸

    九十日的狀態條逐一長出,停機日子被框出並標註,正常運行百分比同步向上計數。

  • 光纖脈衝

    一束玻璃光纖在畫面中漂移,光脈衝沿每條纖維全程奔走。無縫循環。

  • 向量嵌入聚類

    散落的向量移向帶標籤的群組,接著一個查詢點落入,並連向最接近的鄰居。