A Mathematical Theory of Communication
Claude Shannon
Shannon 將消息的意義與傳輸的工程問題分開,爲信息和信道極限建立數學語言。這是理解可靠通信的一篇基礎文獻。
PDFtoLink Library
从信息论、互联网到人工智能,改变世界的论文、白皮书与思想。
一項技術後來變得重要,往往不是因為最初的文字多麼宏大。Shannon 從通信問題出發,Berners-Lee 想把研究機構的資訊連起來,Transformer 則重新設計了處理序列的方法。讀這些原文,能看見今天熟悉的工具曾經只是有待驗證的想法。
這裡也收錄商業備忘錄、早期演示稿與觀點文章:技術能走多遠,常常與融資、組織和使用者習慣有關。每篇附有內容介紹與閱讀點評;已有 PDF 的文獻可以開啟或下載,其餘保留原文入口。讀者不必認同作者,也能從他的問題、證據和取捨中有所收穫。
89 篇文献 · 43 份已托管 PDF
89 篇文献
Claude Shannon
Shannon 將消息的意義與傳輸的工程問題分開,爲信息和信道極限建立數學語言。這是理解可靠通信的一篇基礎文獻。
Vaswani et al. (Google)
Transformer 用基於注意力的組件來處理序列,論文展開了編碼器、解碼器、位置信息和訓練設置之間的配合。
Satoshi Nakamoto
Nakamoto 將數字簽名、工作量證明和共享交易記錄組合起來,嘗試在沒有中央清算機構的情況下解決雙重支付問題。相對後來龐大的生態,這篇論文短得驚人。
He, Zhang, Ren, Sun (Microsoft)
ResNet 引入殘差連接,讓網絡學習對輸入表示的改動,並研究爲什麼網絡變深後,訓練反而可能更困難。
DeepSeek
DeepSeek-R1 探索用強化學習改善語言模型推理,討論不先做監督微調的路線,以及更完整的多階段訓練流程。
Mikolov et al. (Google)
Mikolov 等人介紹從大規模文本中高效學習詞向量的方法,討論訓練目標如何產生能夠表達語言關係的表示。
Vitalik Buterin
Buterin 提出讓區塊鏈運行通用程序,而不只是記錄付款,並把智能合約視爲構建共享狀態應用的基礎。
Krizhevsky, Sutskever, Hinton
AlexNet 將深度卷積網絡、GPU 訓練和實用的正則化方法放到大規模圖像分類中,讓模型設計與工程實現一起發揮作用。
Tim Berners-Lee
Tim Berners-Lee 從研究機構內部信息分散、人與項目關係不斷變化的問題出發,提出用超文本連接知識的實際方案。
Brown et al. (OpenAI)
GPT-3 論文研究大語言模型能否只通過上下文中的說明和例子完成任務,而不爲每個任務單獨更新參數,並比較了不同提示設置。
Kaplan et al. (OpenAI)
Kaplan 等人研究語言模型損失如何隨參數量、數據和計算量變化,把規模更大可能更好的直覺,轉成實驗中的經驗關係。
Anatoly Yakovenko
Yakovenko 提出用 Proof of History 爲分佈式系統中的事件建立順序,並把這一密碼學序列與區塊鏈的協調需求聯繫起來。
Sergey Brin, Lawrence Page
Brin 與 Page 展開大規模網頁搜索引擎的結構,包括抓取、索引、排序和鏈接使用,把搜索呈現爲多個環節相互配合的工程系統。
Fischer Black, Myron Scholes
Black 與 Scholes 通過對沖論證和一組市場假設,推導期權定價框架,把條件性的收益與基礎資產的變化聯繫起來。
Hoffmann et al. (DeepMind)
Chinchilla 在固定計算預算下重新考察參數量與訓練數據的配比,認爲不少大模型使用的訓練詞元太少。
Hayden Adams
Hayden Adams 介紹用流動性池和自動定價規則構建交易所的思路,讓交易者不必等待一張價格合適的對手訂單。
Ken Olsen / Harlan Anderson
Olsen 與 Anderson 在 1957 年向 American Research and Development 提交的提案,記錄了 DEC 的早期計劃,當時產品與組織都還在成形。
Sequoia Capital
紅杉在 2022 年的這份演示稿討論通脹、融資環境和增長預期變化,並把這些宏觀問題轉成創業公司需要面對的經營選擇。
ARK Invest (Cathie Wood)
ARK 的《Big Ideas》把技術進展與行業變化聯繫起來,這裏託管的 2024 年版本涵蓋 AI、機器人、能源和數字基礎設施等方向。
Zoltan Pozsar
Pozsar 把貨幣體系與商品、抵押品和地緣衝突聯繫起來,強調實體經濟的物質投入,可能和金融索取權一樣重要。
Jim Chanos / Kynikos
這裏託管的是 2002 年關於安然倒閉與會計行業的美國國會聽證記錄,並非 Chanos 的獨立演示稿。它保留了事件受到審視時更完整的背景。
Arthur Rock / Eugene Kleiner
這裏託管的計算機歷史博物館檔案介紹 Fairchild 的創立及半導體發展,把技術變化與人物、融資和組織變動聯繫起來。
W. Brian Arthur
W. Brian Arthur 解釋正反饋如何放大技術市場中的早期優勢,學習、網絡效應等機制可能使結果依賴於發展路徑。
Mary Meeker
Mary Meeker 的互聯網趨勢報告用大量圖表串起普及、使用、電商和數字服務的經濟變化,讓人從多個角度觀察互聯網進入日常生活的過程。
Muddy Waters / Carson Block
這份由 Muddy Waters 傳播的報告,結合門店觀察與財務分析提出針對瑞幸的指控,重點連接實際經營活動與報告中的數字。
Benedict Evans
Benedict Evans 用圖表和平臺比較,討論智能手機如何成爲計算、分發和消費行爲的新中心。這組演示稿記錄了移動轉型中的不同觀察角度。
Ray Dalio
Dalio 從借貸、債務負擔、壓力和政策應對的過程比較債務危機,並用歷史案例展示相似壓力在不同貨幣條件下的表現。
Jeremy Grantham
Grantham 在金融危機後的環境中,討論恐懼主導情緒時作出決定的難處,把估值判斷與不確定性帶來的感受放在一起。
Sequoia Capital
這份紅杉演示稿把 2008 年金融危機落到創業公司的賬上:現金還能撐多久,哪些支出必須重新考慮,增長計劃該如何收縮。
Howard Marks
Howard Marks 回看長期利率下降的環境,以及離開這一環境後投資條件的變化,討論一種時代養成的習慣如何面對另一個時代。
Carson Block / Muddy Waters
Muddy Waters 將公司披露與對業務的調查說法結合起來,提出針對嘉漢林業的指控,試圖挑戰市場已經接受的企業敘事。
Leopold Aschenbrenner
Aschenbrenner 把 AI 能力增長與算力、工業建設、安全和地緣政治聯繫起來,嘗試追蹤模型實驗室之外的連鎖變化。
Ray Dalio
Dalio 用債務、內部衝突和大國競爭等反覆出現的壓力,組織經濟與政治歷史,尋找國家興衰之間可比較的模式。
Bill Gates
Bill Gates 在 1995 年備忘錄中,將互聯網視爲微軟需要全面回應的戰略變化,記錄了一家大公司如何圍繞新平臺調整方向。
Holden Karnofsky
Holden Karnofsky 討論 AI 等變化爲何可能使這個世紀對長遠未來格外關鍵,並把技術轉折與眼前的選擇聯繫起來。
Howard Marks
Marks 觀察資金提供者之間的競爭如何侵蝕借貸標準,以及人們擔心錯過機會時,願意作出怎樣的讓步。
Warren Buffett
Buffett 比較幾位同屬價值投資思想傳統、持倉卻不同的投資者,借他們的經歷反駁一切都可以歸爲運氣的解釋。
Mary Meeker / BOND
Meeker 與 BOND 團隊在 2025 年報告中,用熟悉的圖表方式觀察 AI,將使用增長、基礎設施、投入和模型部署經濟性放在一起。
Andrew Left / Citron Research
Citron 質疑 Valeant 與其分銷安排之間的關係,並借會計疑問和歷史企業事件的類比,引導讀者重新審視公司業務。
Jeremy Grantham
Grantham 將估值、投機行爲和市場狂熱後期的心理放在一起分析,既看數字,也看價格上漲時人們的行爲。
Bill Ackman / Pershing Square
Ackman 用銷售方式、參與者經濟狀況和公司披露,組織對 Herbalife 商業模式的批評。這是一份論證相當展開的激進做空演示稿。
Roelof Botha / Sequoia Capital
Roelof Botha 的 YouTube 投資備忘錄,把一家年輕的視頻服務拆成用戶、分發、增長和風險等問題,記錄了結果尚未揭曉時的判斷。
Kevin Kelly
Kevin Kelly 提出,創作者也許不必擁有龐大的受衆,只需要一羣願意持續支持作品的忠實讀者或聽衆。這讓人與人的直接關係重新成爲生意的核心。
Hindenburg Research
Hindenburg 圍繞持股結構、關聯關係和會計疑問,組織對 Adani 集團的批評,是一份立場鮮明的調查型金融報告。
Ben Thompson
Ben Thompson 從分發成本和用戶關係出發,解釋互聯網平臺爲什麼能夠重新組織供應商與消費者之間的市場。
Eliezer Yudkowsky
Yudkowsky 列出他認爲高能力 AI 難以控制的理由,重點討論對齊、激勵和現有管理辦法的侷限。
Airbnb (Brian Chesky et al.)
Airbnb 的早期演示稿用很少的頁面,把住宿需求、服務方案和商業機會串起來,方便讀者觀察一個創業想法怎樣被講清楚。
Bill Gurley
Bill Gurley 拆解數字交易平臺的市場條件,包括交易頻率、供給分散程度,以及中間平臺究竟能創造什麼價值。
Reid Hoffman & Chris Yeh
Hoffman 和 Yeh 討論在某些市場中,企業爲何會犧牲效率來搶速度,也討論快速擴張給組織帶來的壓力。
Jack Dorsey
Jack Dorsey 在 2026 年的聲明中,將 AI 工具與 Block 的組織和經營模式調整聯繫起來,把智能原生工作視爲管理方向,而不只是產品功能。
Warren Buffett
Buffett 在 2008 年危機中把令人不安的經濟新聞,與長期持有企業的思路分開討論,文字比複雜的金融模型更直接。
Peter Thiel
Thiel 質疑競爭越激烈、生意就越好的直覺,認爲企業需要獨特能力,才能爲長期建設留下空間。
Paul Graham
Paul Graham 建議創業者親自找第一批用戶,甚至提供看起來過分細緻的服務。許多後來能夠自動化的流程,起初都得靠人一點點摸清楚。
早期 Facebook 媒體資料圍繞用戶羣和觸達這些用戶的機會展開,記錄了一家年輕社交網絡如何說明自己的商業吸引力。
Joel Monegro / USV
Joel Monegro 認爲區塊鏈網絡捕獲價值的方式,可能與早期互聯網不同,並用共享數據與代幣解釋價值爲何可能集中到協議層。
David Einhorn / Greenlight
Einhorn 對 Allied Capital 的敘述,圍繞估值、會計處理和企業如何回應批評展開,呈現了一場持續很久的爭議。
Paul Graham
Graham 區分了聽起來像創業點子的想法,與人們真的遇到的問題。他建議在自己熟悉的環境裏觀察缺口,而不是對着空白紙強行想一個項目。
Eugene Wei
Eugene Wei 討論產品增長背後那些不容易看見的上限。價格、選擇、便利程度和用戶需求,都可能讓漂亮的增長曲線逐漸變平。
Chamath Palihapitiya
IPO 2.0 材料把 SPAC 介紹爲私營公司進入公開市場的另一條路線,從融資、談判和創始人與投資者的利益出發說明這一方式。
David Einhorn / Greenlight
這一條目關注 Einhorn 對雷曼會計處理和資產負債表呈現方式的批評。不過,目錄原鏈接實際報道的是另一場 2010 年 Ira Sohn 演講。
Dario Amodei
Dario Amodei 討論強大 AI 可能給生物學、健康、經濟發展和社會制度帶來的變化,試着把值得追求的未來說得具體一些。
Scott Alexander
Scott Alexander 用協調失敗解釋一種熟悉的困境:每個人都在作看似合理的選擇,最後卻得到誰也不喜歡的結果。
Sam Altman
Sam Altman 設想 AI 降低重要商品和服務的成本,並繼續討論社會該如何分享這些收益,把技術進步與經濟制度放在同一個問題裏。
Hindenburg Research
Hindenburg 利用公開說法與調查材料,質疑 Nikola 對技術和商業進展的描述,展示了一套技術敘事如何被逐項覈驗。
Battery Ventures
Battery 的 OpenCloud 研究觀察企業軟件、雲基礎設施和周邊公司,將技術變化與採用過程、軟件商業模式聯繫起來。
David Skok
David Skok 把訂閱收入、獲客成本、流失和回本時間聯繫起來,讓 SaaS 的增長不再只是收入曲線,而是一道現金流問題。
Michael Burry
Burry 的 Scion 通信與他對房貸、證券化及信用產品風險的分析聯繫在一起,也展現了他如何向投資者解釋判斷。
Andrej Karpathy
Karpathy 把神經網絡權重看作另一種表達軟件行爲的方式。開發者不再逐條寫規則,而是塑造數據、目標和學習過程。
Nick Bostrom
Bostrom 考察機器智能超越人類能力的可能路徑,以及引導這類系統的困難,爲目標、控制和戰略優勢等問題提供了討論詞彙。
Rich Sutton
Rich Sutton 回顧搜索和學習方法,認爲能夠持續利用計算資源增長的通用方法,往往比大量手工編碼領域知識的方法走得更遠。
Vijay Boyapati
Vijay Boyapati 從稀缺性、可攜帶性和抗干預等屬性出發,構建比特幣作爲貨幣資產的論證,並將這些屬性與普及過程聯繫起來。
Lyn Alden
Lyn Alden 從貿易、儲備、能源和各國激勵出發,討論以美元爲核心的全球貨幣體系面臨的壓力。
Eric Ries
Eric Ries 將最小可行產品視爲檢驗假設、減少浪費的辦法,並在精益創業框架中把實驗、衡量和方向調整聯繫起來。
Jerry Chen
Jerry Chen 從數據、工作流和智能系統出發,討論軟件公司的壁壘。鏈接中的 Greylock 頁面也結合後來出現的 AI 工具,重新檢視了這個框架。
Chris Dixon
Chris Dixon 討論那些起初像玩具的技術,如何經過改進威脅成熟產品。早期缺陷背後,可能藏着不同的用戶、成本結構和發展路線。
Nikhil Basu Trivedi
Nikhil Basu Trivedi 描述以個人身份和集中決策爲特色、同時管理較大資金的投資者,觀察風險投資組織形態的變化。
Gwern Branwen
Gwern 收集與模型規模相關的觀察和論證,討論更大訓練是否可能帶來更廣泛的語言模型能力,以及這條路線會走向哪裏。
Elon Musk
Musk 的早期 Tesla 計劃,將價格較高的起步車型與逐步推出更易負擔的車型聯繫起來,說明如何進入成本很高的行業,並追求更大的能源目標。
James Dale Davidson & Lord William Rees-Mogg
Davidson 與 Rees-Mogg 把信息技術與國家權力、稅收和個人流動聯繫起來,設想數字網絡可能怎樣重塑政治制度。
Marc Andreessen
Andreessen 從價值觀出發,爲技術增長、物質豐裕和建設新工具的人辯護,把進步視爲值得主動追求的目標。
Harry Markopolos
Harry Markopolos 的備忘錄質疑 Madoff 投資結果的可信度,試圖用一致性檢查和策略機制,檢驗一個令人信服的業績故事。
Uber (Garrett Camp / Travis Kalanick)
早期 UberCab 演示稿從城市出行的不便切入,提出另一種叫車體驗。它的起點,比後來人們熟悉的 Uber 平臺窄得多。
Patrick Collison & Tyler Cowen
Collison 與 Cowen 提議把進步本身作爲研究對象,考察科學、技術和組織改良怎樣發生,以及社會如何讓這些改良更常出現。
Founders Fund (Bruce Gibney)
Founders Fund 質疑科技行業是否過於習慣漸進的軟件改良,呼籲把更多精力放到更難、更大的技術問題上。
William MacAskill
William MacAskill 追問今天的選擇應當如何考慮遙遠未來的人,把道德責任與可能持續很久的風險和後果聯繫起來。
Marc Andreessen
Andreessen 從教育、生產力和科研出發,爲 AI 描繪了一幅樂觀圖景,也反駁了幾類常見的反對意見。
Chris Dixon
Dixon 比較中心化網絡和參與者共同維護的網絡,把技術架構與平臺成長後的規則變化聯繫起來。
Marc Andreessen
Andreessen 把零售、娛樂等行業放在一起看,提出軟件正在變成企業運轉的核心。這篇文章改變了許多人理解互聯網公司的方式:它們爭奪的遠不止線上流量。
Peter Thiel & Blake Masters
Thiel 與 Masters 鼓勵建設獨特的企業,而不是複製已有配方,討論技術、差異化和公司早期的一系列選擇。
目录来源: Billion Dollar PDFs