計算機科學家高德納對數字的痴迷很早就表現出來。他在13 歲時參加了一家糖果公司的比賽：公司名字中的字母可以組合成多少個單詞。為了投入比賽高德納甚至說服父母告訴學校他生病了，得到了兩週的假期去研究這個問題。

公司認為它們的名字可以組合成大約2000個單詞，但高德納的結果是4700多個。他獲得了電視上亮相的獎勵，並給全班同學帶去了巧克力。他之後還獲得了更多榮譽，其中包括圖靈獎。他對離散數字問題和大信息集合的熱愛最終融合進了他的著作《計算機編程藝術》。這套書從他研究生時就開始寫，至今沒有完成。

他在1968 年出版的第一卷至今已連印了42 次，第二卷在1969 年出版，第三卷是在1990 年出版。這套書計劃出版七卷，而82 歲高齡的高德納正在完成第四卷的B 部分，他預計第四卷將由A 到F 這六個部分構成。

他曾擱置《編程藝術》的寫作花了近10 年時間開發了TeX，幫助科學論文能更美觀和更容易閱讀和理解。高德納說，他認為自己是記者，熱愛講故事，他的《編程藝術》寫的是算法的故事，分析算法的優劣。

他曾建議出版商將書名改為算法分析，出版商拒絕了，認為這會導致無人購買。他說，TeX 最初是設計給他的秘書和他自己用的，他在1978 年4 月完成了TeX 的測試版本，5 月他有了10 名用戶，6 月有100 個用戶，7 月有1000個用戶。每一組新用戶都會提出建議。5 年後他發布了至今基本沒有變動的正式版本。

他說詩人必須寫詩，他的詩就是程序，他平均每週寫5個新程序。他對完成《編程藝術》沒有設定截止日期，除了這本書他已經完成了生活中的所有目標，他會繼續講述算法的故事。