宋真宗時，李若谷舉進士，補長社縣尉。歷任度支員外郎、權三司戶部判官、知陝州。擔任京東路（治所在今河南省商丘市南）轉運使時，留意民政，使民方便。天聖元年（1023年），判三司戶部勾院。出使契丹，出知荊南（治所在今湖北省荊州市），執法不避貴族。貴族恃蔭犯法，他以杖責打。轉任太常少卿、集賢殿修撰、知滑州，築堤護河，被百姓稱頌。以右諫議大夫知延州，作官倉。轉任給事中、知壽州。知江寧府。進位龍圖閣直學士、知河南府。轉任樞密直學士、知并州，民貧沒有結婚的人，他用私錢助其嫁娶。寶元元年（1038年）拜參知政事，因為耳病，上表辭職。康定元年（1040年）罷職為資政殿大學士、吏部侍郎、提舉會靈觀事。康定二年（1041年），以太子少傅致仕。卒年八十歲，追贈太子太傅，謚號康靖。