Azınlığın azınlığı olarak, 8 Aralık 1925 tarihinde Manhattan'ın Harlem bölgesinde, sahne sanatçısı Sammy Davis Sr'ın ve dansçı Elvera Sanchez'in oğlu olarak dünyaya geldi Sammy Davis Jr. 2003'te yazılan biografisine göre annesi Puerto Rico kökenliydi.
Çocukluğunda sahneye çıkmaya başlayan Davis Jr., babasının Will Mastin ile olan dans grubuna katıldı. 7 yaşındayken, aktris ve dansçı Ethel Waters'la Başkan Rufus Jones adlı filmde oynadı.
18 yaşında orduya giren ve İkinci Dünya Savaşı'nda Amerikan Ordusu'nda yer alan sanatçı, ilk ırkçı deneyimlerini de burda yaşadı ve özellikle güney kökenli beyazların dayak ve tacizlerine maruz kaldı. Bir süre sonra bölümü değiştirildi ve ordu için motivasyon gösterilerine çıkmaya başladı. Bu gösterilerden birinde seyirciler arasında onu daha önce taciz etmiş askerler de vardı. Sammy Davis Jr, Daha sonraki anılarında babası ve amcam dediği Will Mastin'in yanındaki korunaklı konumunun aslında aldatıcı olduğunu belirtecekti.
Amerika Kampanya Madalyası ve İkinci Dünya Savaşı Zafer Madalyası sahibi Davis Jr ordudan ayrıldıktan sonra sahnedeki ailesine katıldı ve 1949 yılında Capitol Records'dan Blues şarkılar içeren plaklar çıkardı. Çok geçmeden Davis kendi başına da büyük bir yetenek olduğunu ispatladı ve 1953'te ABC sanatçıya kendi göserisini yapma olanağını sundu. Programda, dönemin getirdiği zorluklara karşın başarılı olan Afrika-Amerika kökenli sanatçılara yer verildi. Bu sanatçılardan biri, Paris Operası'nda yer alan ilk siyahi balerin Frances Davies, aktrisler Ruth Attaway ve Jane White ile Amerikan Negro Tiyatrosu'nu kuran Frederick O'Neal'di.
1954'te Universal Stüdyoları'nın Siz Bridges to Cross filminde şarkı söyleyen sanatçı, 1956'da ilk Broadway müzikalinde, Mr. Wonderful'da rol aldı.
1959'da Davis, Las Vegas'ta sahne alan ve Frank Sinatra önderliğinde bir araya gelen Rat Pack ekibine girdi. Ekipteki diğer yıldızlar Dean Martin, Joey Bishop ve John F. Kennedy'nin akrabası olan Peter Lawford'du. Sinatra'nın grup için seçtiği The Clan (Klan) önerisine ise ırkçı örgüt Klu Klux Klan'ı anımsattığı için karşı çıktı ve Sinatra the Summit (Zirve) önerisi ile geldi. Uzun saatler süren poker partilerinin ardından onların sarhoş hallerini gören Angie Dickinson'ın onları farelere benzetmesi ise seyircilerin onları tanıdığı ismi kazanmalarını sağladı.
Las Vegas sahnelerinin tozunu attıran grup birlikte pek çok filmde de rol aldı. Sammy Davis Jr. New York'daki ünlü CopaCabana gece kulübünde sahne alan ilk siyahi oldu.
1950'lerde siyahi sanatçılar sahne almalarına rağmen soyunma odalarını kullanmalarına ve kulüplerin beyaz sanatçılara tahsis ettiği otellerde konaklamalarına hatta sahne aldıkları kulüplerin restoranlarında yemek yemeleri yasaktı. Sanatör daha sonra ırkçı uygulamalarını sürdüren yerlerde sahneye çıkmayı reddecekti.
Sammy Davis Jr, aynı dönemde Las Vegas'ta sahne alan Elvis Presley ile de dosttu. Evinde verdiği partilere Presley de katılıyordu.
Ünlü sanatçı; 1954 yılında, Las Vegas'tan Los Angeles'a dönerken ölümle burun buruna geldiği bir trafik kazası geçirdi. Kazadan bir yıl önce dostu Eddie Cantor ona bir mezuza vermişti ve mezuzayı kapısına asmak yerine boynunda taşıyordu. Kaza gecesi ise mezuzayı takmamıştı. Bu kazada Sammy Davis Jr. sol gözünü kaybetti ve ömrünün sonuna kadar cam göz taktı.
Sammy Davis Jr, aslında baba tarafından Baptist Hıristiyan, anne tarafından da Katolikti. Ancak Amerikalı komedyen Yahudi Eddie Cantor'un siyahi ve Yahudi kültürlerindeki benzerlikleri kendisine anlatması ve yaşadığı bu kaza ile Yahudiliği araştırmaya başladı ve 1961 yılında Yahudiliğe geçti.
1957 yılında sanatçı, aktris Kim Novak ile ilişki yaşamaya başladı. Irkçılığın en yoğun yıllarında yaşanılan bu ilişki büyük tepki aldı ve mafianın devreye girmesiyle ikili ayrıldı. Sammy Davis Jr., anlaşmalı olarak o dönemde küçük bir çocuğu bulunan siyahi dansçı Loray White ile evlendi. Düğün gecesi sanatçı, intihara teşebbüs etmiş ve anlaşmalı evlendiği eşi tarafından kurtarılmıştı.
1960'da sanatçı, İsveçli aktris May Britt ile evlendi. Sanatçının kızı Tracy Davies'e göre bu evlilik de seçim kampanyasına destek verdiği halde bizzat Başkan Kennedy tarafından onaylanmamıştı. Çiftin Tracey dışında evlatlık edindikleri iki oğulları daha vardı.
Bu arada ırkçılığın ABD'ye göre daha az yaşandığı ülkelerden Kanada'da Sammy Davs Jr.'a medya kuruluşu CBC tarafından 1959'da kendi şovunu yapma imkanı sunuldu. 1964'e gelindiğinde ise sanatçı Golden Boy adlı performansta yer aldı. Boş zamanlarında ise müzik parçaları seslendirip yardım gecelerinde sahne alıyordu.
1968'de May ve Sammy, sanatçının May'i aldatması üzerine boşandılar. Bu dönemde Sammy Davis Jr; uyuşturucuya, satanizme ve prnografiye bağımlı hale geldi.
1968 yılında Sammy Davis Jr., Altovise Gore ile evlendi ve bir oğul evlat edindiler.
1972'de The Candy Man parçası ile müzik listelerinde 1 numaraya yerleşti. Baretta dizisinin açılış müziğini seslendirmesi ise ününü pekiştirdi. 1970'lerde ABD'de çekilmiş filmlerin yanı sıra Japon Suntory viskisinin reklamlarında da yer aldı. Sammy Davis Jr.ın, Frank Sinatra'nın kızı Nancy'nin televizyon şovuna katıldığında dostunun kızının yanağına kondurduğu öpücük, televizyon tarihinde ilk ırklararası öpücük olarak tarihte yerini aldı.
1989 yılında doktorlar, günde dört paket sigara içen sanatçının boğazında tümör tespit ettiler. Sanatçı, boğaz kanseri nedeniyle 1990 yılında hayatını kaybetti. Anısına, Las Vegas Strip, neon ışıklarını kararttı.