湯木生1856年出生於英格蘭的曼徹斯特附近，蘇格蘭人家庭。
他在不尋常年輕的14歲就被錄取在曼徹斯特的歐文學院（現在的曼徹斯特維多利亞大學）學習了工程學，搬到了劍橋大學三一學院。
1884年12月22日，他被任命成為劍橋大學卡文迪許物理學教授，即卡文迪許實驗室主任。
他的學生之一是歐尼斯特·拉塞福，
拉塞福於1919年接替湯姆森就任卡文迪許物理學教授。
受到詹姆斯·馬克士威工作的影響和X射線的發現，他推導出陰極射線（參見陰極射線管）存在於帶負電的粒子，他稱之為「微粒」，
這種微粒現在認識為電子。電子曾經被約翰斯東·斯通尼提出過，作為電化學中電荷的單位，但是湯姆森認識到電子也是次原子粒子，這一點是第一次被發現。
1897年他的發現為人所知，並在科學圈內引起了轟動，並最終於1906年被授予諾貝爾物理學獎。