Loading...
← 技术进步文献

人工智能与计算 · 2017-06

Attention Is All You NeedPDF Download

Vaswani et al. (Google)

Transformer 用基於注意力的組件來處理序列,論文展開了編碼器、解碼器、位置信息和訓練設置之間的配合。

試着跟着一個詞元走完整個模型,再看公式,會順暢很多。標題足夠響亮,真正解釋設計取捨的,還是結構圖與消融實驗。

2.1 MB · SHA-256: bdfaa68d8984f0dc02beaca527b76f207d99b666d31d1da728ee0728182df697