陶谦字恭祖，丹杨人。少好学，为诸生，仕州邵，举茂才，除舒令，迁卢令，又迁幽州刺史。
徵拜议郎，参车骑将军张温军事，西讨韩遂。会徐州黄巾起，以谦为徐州刺史，击破之。董卓之乱，州郡起兵，谦亦遣使诣长安贡献，迁安东将军、徐州牧，封溧阳侯。
是时，曹操父嵩避难琅邪，谦别将守阴平，士卒利嵩财宝，遂袭杀之。操以此怨谦，数攻徐州。谦不能御，乃求救于田楷。楷与刘备俱至，操引还。
初平四年，谦病笃，谓别驾麋竺曰：「非刘备不能安此州也。」谦卒，竺率州人迎备。备未敢当，下邳陈登进曰：「今汉室陵迟，海内倾覆，立功立事，在于今日。彼面虽辞，其实欲得。若使百姓蒙利，亦足以成高义。」备遂领徐州。
评曰：陶谦昏乱而有忠义之名，其政虽衰，犹能委州于贤，可谓知所归矣。