アームストロングが生まれ育ったのは、ニューオーリンズのアフリカ系アメリカ人が多く住む比較的貧しい居住区であった。子供の頃に祭りで浮かれ、ピストルを発砲して少年院に送られた。その少年院のブラスバンドでコルネットを演奏することになったのが、楽器との最初の出会いとなった。その後、町のパレードなどで演奏するようになり人気者となる。
1923年、シカゴに移りキング・オリヴァーの楽団に加入。同年、初のレコーディングを行う。1924年にはニューヨークに行きフレッチャー・ヘンダーソン楽団に在籍。この時期、ブルースの女王ベッシー・スミスとも共演。その後シカゴに戻り、当時の妻リル・ハーディン・アームストロング(ピアノ)らと共に自分のバンドのホット・ファイヴを結成。同バンドが1926年に録音した楽曲「Heebie Jeebies」は、ジャズ史上初のスキャット・ヴォーカル曲として知られる。1925年11月~1932年、オーケー・レーベルで録音が行われた。1930年代にはヨーロッパ・ツアーも行う。第二次世界大戦時には慰問公演も行った。しかし人種差別が法的に認められていた当時のアメリカでは、公演先でも白人と同じホテルへ泊まれない他、劇場の入り口さえ別々というような差別を受け続けた。1932年にビクター専属となり、1939年からデッカで録音が行われた。
1950年代には「バラ色の人生」や「キッス・オブ・ファイア」等が大ヒット。また、1953年には初の日本公演を行う。1956年にはエラ・フィッツジェラルドとも共演。1960年代、時代がビートルズを代表とするポップ・ミュージック一色となる中でも、多くのアメリカ国民に受け入れられた。特に「ハロー・ドーリー!」は1964年5月9日付けの全米NO1を記録し、その年の2月から3ヶ月間1位を独占していたビートルズの連続1位の記録をストップさせ、当時63歳のルイの偉業は全米を驚愕させた。1967年には、「この素晴らしき世界 (What a Wonderful World)」が世界的なメガヒットとなった。1968年にはウォルト・ディズニー映画の曲を取り上げたアルバム『サッチモ・シングス・ディズニー』を発表し、ジャンルに縛られない柔軟な姿勢を見せ付けた。1969年には、『女王陛下の007』の主題歌に近い挿入歌、「愛はすべてを越えて (We have all the time in the world)」を発表。イギリスでは1994年に、「ミュージック・ウィーク」誌で、最高位3位を獲得している。高い音楽性と、サービス精神旺盛なエンターテイナーぶりが評価され、映画にも多く出演した。代表作はフランク・シナトラやビング・クロスビーと共演した『上流社会』や『5つの銅貨』、『ハロー・ドーリー』等。 1918年、デイジー・パーカーと結婚。いとこの息子クラレンス・アームストロング(幼少期のけがで知的障害があった)を養子にする。アームストロングは一生彼の面倒を見た。1923年離婚。1924年、リル・ハーディンと結婚。リルはキング・オリヴァー・バンドのピアニストだった。アームストロングがツアーに明け暮れていたこともあり、1931年別居、1938年離婚。歌手で作曲家でもあった彼女は悲恋歌『just for a thrill』を1939年に発表。20年後、1959年にレイ・チャールズがカバーした。その後、長年の恋人アルファ・スミスと結婚。三番目の結婚は4年間続き、1942年離婚。同年コットン・クラブの歌手ルシール・ウィルソンと結婚。1971年に彼が亡くなるまで添い遂げた。アームストロングは四度結婚し、子供たちを愛したが、実子はなかった。 しかし、2012年11月に、57歳のSharon Preston-Foltaが「自分はアームストロングの娘である」と主張した。主張によればコットン・クラブのダンサーだったLucille "Sweets" Prestonとアームストロングの1950年代の情事から生まれたとのことである。