小説家、批評家、漢学者。1867年8月22日、江戸下谷三枚橋に幕臣幸田成延の四男として生まれる。本名成行、幼名鐡四郎。幸田家は大名の取次を職とする表御坊主衆を世襲する。病気がちだったが、母から行儀作法、料理、掃除と家事全般を厳しく仕こまれる。兄に実業家の成常、弟に歴史学者の成友、妹に音楽家の延、安藤幸子、娘に文がいる。
東京府立中、東京英學校（現在の青山学院）中退。湯島聖堂の東京図書館に通って儒仏道の典籍を濫読し、菊地松軒門下で漢籍を学ぶ。1883年、電信修技校に入学し、電信技手となる（意外に科学方面に強かった）。1885年、北海道余市に赴任するが、坪内逍遥の『小説神髄』、二葉亭四迷の『浮雲』の評判を知り、矢も盾もたまらず上京。途中、野宿して作った句「里遠くいざ露とねん草枕」から露絆の号をうる。
一年の雌伏の後に発表した『露團々』で注目を集め、讀売新聞客員となる。「風流佛」、「對髑髏」、「五重塔」と、漢文の格調を保った文章による幻想的な作品を次々と発表し、尾崎紅葉とならび称せられる紅露時代を築く。1892年ごろ、旧幕臣の文化人が多く住む根岸に移り、根岸党の有力な一員となる。
1894年、大患をわずらい、病後を上総に養う。翌年、山室幾美子と結婚。1896年、森鷗外、齋藤緑雨と「三人冗語」を連載。1903年、『天うつ浪』を讀売新聞に連載するが、日露戦争の勃発で中断。
1906年、「新群書従」編纂に参画。翌年、京都帝大の講師となり、1911年、文学博士号を授与される。小説から評論、修道論、史伝、翻訳、編纂に仕事の重点を移す。1920年、ライフワークとなる『芭蕉七部集』評釈にとりかかる。
1937年、第一回文化勲章を受ける。1945年3月、空襲が激しさをくわえる中、信州に疎開。直後、小石川の家が焼ける。1947年7月30日、市川市の仮寓で死去。81歳だった。時の片山内閣は国葬を決めるが、遺族の固辞で質素な葬儀となる。