1886년 도쿄 니혼바시의 부유한 상인 집안에서 태어나 유복한 유년 시절을 보냈으나 부친의 사업 실패로 입주 가정교사로 일하는 등 어렵게 학업을 이어나갔다. 1908년 명문 도쿄대학에 진학했으나 학비를 대지 못해 퇴학당한 후, 1910년 《신사조》에 <문신> 등을 발표하며 등단했다. 거미 문신을 한 뒤 갑자기 몸이 변하는 여성의 이야기를 그린 이 단편으로 일본 '탐미주의'의 신호탄을 쏘아올린 다니자키는, 이후 여체에 대한 탐닉, 사도-마조히즘과 결합된 에로티시즘 등을 특징으로 하는 작품들을 선보이며 독자적인 문학세계를 구축했다. 
  1915년 열 살 연하의 이시카와 지요코와 결혼, 후일 친구인 시인 사토 하루오에게 아내를 양도하겠다는 합의문을 <아사히신문>에 발표해 파문을 일으켰다. 1925년 출간된 《미친 사랑》은 다니자키 전기 문학의 대표작으로, 주인공 나오미는 당시 내연의 관계였던 처제 세이코를 모델로 한 것으로 알려졌다. 서구적인 미모를 지닌 열다섯 살 소녀 나오미를 데려다 자신의 취향에 맞게 길러 아내로 삼으려고 했던 주인공이 결국 육체적, 정신적으로 그녀에게 예속되어 살아가게 되는 이야기를 그린 이 작품은 출간 이후 ‘인습적 정조 관념에 매이지 않는 신여성의 관능적 연애’를 뜻하는 ‘나오미즘’이라는 말을 유행시키기도 했다. 
  1935년 세 번째 부인 모리타 마쓰코와 결혼한 후, 그녀의 영향으로 《겐지 이야기》를 현대어로 번역하는 작업을 계속했으며 이에 따라 작품세계 역시 고전적 색채를 띠기 시작했다. 이러한 경향은 그가 작가로서 입지를 굳히는 데 큰 기여를 했고 1948년 출간한 《세설》로 마이니치문화상, 아사히문화상을 수상하기에 이른다. 고혈압으로 인한 건강 악화에도 불구하고 《열쇠》(1956), 《미친 노인 일기》(1962) 등 후기 역작들을 꾸준히 발표했고, 1949년에는 제8회 문화훈장을 수상했다. 1964년 일본인으로서는 처음으로 미국문학예술아카데미의 명예회원이 되는 등 국제적 명성을 얻기 시작한 다니자키는 1958년 펄 벅에 의해 노벨문학상 후보로 추천된 이후 1965년, 79세의 나이로 사망할 때까지 네 차례에 걸쳐 후보에 올랐다.