ニュージャージー州モリスタウンのシチリア系移民の家系に生まれる。12歳でメタル・クラリネットを始め、14歳には最初のバンドを組む。ピアノをもマスターすると18歳ではハーレムでのセッションでプレイした。3年間ジュリアード音楽院に通ったのち、ニューヨークのミントンズ・プレイハウスを演奏拠点とする。戦時下(第2次世界大戦)には、3年間陸軍バンドに所属した。1943年にチャーリー・パーカーと出会い、新しいビバップ・スタイルのサックス演奏に大きな刺激を受け、彼自身もバップを演奏する数少ないクラリネット奏者の一人となった。パーカーとはしばしば協演したこともあり、のちに「偉大なミュージシャンというのではなく、パーカーは世紀の巨人である」とも語り、また1957年、パーカー死去2年後のユーゴスラビアでのコンサートの際には『パーカーに捧げるブルース Blues for Charlie Parker』として即興演奏を行い、彼の名演のひとつとなっている 。1950年のサラ・ボーンとのセッション(マイルス・デイヴィスも参加)は評価も高く、以降の10年程は、ビリー・ホリディ、ベン・ウェブスター、バディ・リッチらの一流ミュージシャンと共演、またリーダーとして彼のサイドメンであるディジー・ガレスピーとともに、バップからクール・ジャズの時代を、独自のインプロヴィゼーションの手法を武器に広く活躍した。駆け出し中であったビル・エバンスのトリオ(bs: スコット・ラファロ、ds: ポール・モチアン)をリズム・セクションに従え、トニー・スコット・クヮルテットとして『サング・ヒーローズ Sung Heroes』(1959.10 Sunyside) の録音も遺している。50年代後期('55・'57・'58・'59)には、ジャズ系音楽雑誌「ダウンビート」の批評家投票に選出され、同じクラリネット奏者であるバディ・デフランコよりも「よりクールだ」と比較され、トップの座を競った。しかしながら、ビバップの出現以降、かつてジョージ・ルイス、ウディ・ハーマン、アーティ・ショウ、ベニー・グッドマン等々、ニューオーリンズの創世記からスウィング・ビッグバンドまで多数のリーダーを輩出してきたクラリネットという楽器も、ジャズの世界ではその影が薄れてしまい、トニー・スコットの名もあまり知られ続けることも少なくなった。1959年、それまで本拠としていたニューヨークを捨て、のち演奏旅行で何度か訪れる以外には米本国にも見切りをつける。1960年代には東南アジアを旅してヒンドゥー教や仏教の寺院などを訪ね歩く。また、5年ほどの日本滞在(1959年 - 1965年)において、和楽器(琴・尺八)とのコラボレーションがヴァーヴ・レコードからの『禅瞑想のための音楽 Music for Zen Meditation』(1964年)の発表に結実する。いっぽうで、p:菅野邦彦、bs:鈴木勲、ds:ジョージ大塚のトリオをバックに、しばしばの演奏活動もおこなった。1960年には、米本国でのバディ・デフランコへの評価へもさりながら、ダウンビート誌の投票では最優秀クラリネット奏者として日本での彼の業績を挙げた。その後、1965年には、ニューポート・ジャズフェスティバルにおいて米ミュージシャンとの演奏も行うが、「仏教と音楽」をテーマとして日本にこだわり続けた。1967年には、彼の名による8年ぶりのアルバム『クリシュナへの敬意 Homage To Lord Krishna』が発表され、それに続く年で、ドイツ、アフリカ、南米などで演奏活動を行った。1970年以降はイタリアに住み、Franco D'Andrea や Romano Mussolini ら現地ミュージシャンたちと協演する。その後、エレクトロニカ系の音楽に興味を抱き、2002年には彼の『Hare Krishna』がキング・ブリット(King Britt)によりヴァーヴ・リミックスへの寄稿作品としてリミックスされた。2007年、前立腺癌との闘病の後、30年以上暮らしたローマの自宅にて85歳で死去。