1849年9月26日，巴甫洛夫出生在俄国的梁赞。他的父亲是一位牧师，他起初接受的教育也是为了继承父业做一名好牧师。可是，当他读了达尔文的《物种起源》这本书之后，就立志走上了献身自然科学的道路。
1870年，巴甫洛夫还没有在神学院毕业，就转而进了彼得堡大学。他先学习物理和数学，然后又改学生理学。大学毕业后，他一边在军医学院当助教，一边学习军医学院的医学课程。这一段学习生活对巴甫洛夫来说十分重要，因为他不仅积累了广博的知识，还学会了使用手术刀。1884年到1886年他又到德国去进修了两年。
回到军事医学院后，他开始研究消化生理，探索出控制消化腺分泌，特别是胃液分泌的神经机制。1889年，他进行了一项著名的实验：在一只狗的脖子上开一个口子，把食管切断。然后，把这两个断头接到皮肤外头来。这样，食管被切断后，给狗喂食物时，食物不会进到胃里，而是从切口处掉到了外面。通过这个实验发现，食物虽然不能到达胃里，可是胃液还是分泌了出来。这个实验告诉人们：胃液的分泌不是食物刺激的结果，而是食物刺激了口中的味觉神经，味觉神经将信号传达到了大脑，大脑控制着胃液的分泌。
由于巴甫洛夫的这项研究揭示了消化生理的详细情况，因而获得了1904年的诺贝尔医学与生理学奖。
这时候，巴甫洛夫又把他的研究兴趣转移到了大脑上。食物刺激口中的神经导致胃中的一系列反应，也被称为无条件反射。这就像灰尘落进眼睛里，人就会眨眼一样，是与生俱来的反射，不需要任何训练就会产生，动物和人都是这样。
可是，巴甫洛夫进行了这样一项实验：在给狗喂食之前，打开电灯。你可以想象，狗是不会流唾液的。可是，在打开灯以后，紧接着给狗喂食，它的唾液就流了出来。
以后，凡是给狗喂食的时候，就打开电灯，也就是让灯光和食物总是同时出现。这样重复多次以后，只要灯光一亮，即使没有食物，狗也会流出口水来。狗已经把灯光同食物的出现联系了起来，所以，对灯光像对食物一样起反应，这就是条件反射。
巴甫洛夫经过深入细致的研究，证明了条件反射是高级神经活动的基本形式。他创立了条件反射学说，也就是高级神经学说。他的研究，弄清了许多复杂的问题，对生理学和医学都是巨大的贡献。
巴甫洛夫在一生中，做了大量的生理学实验，他86岁时，写下了一份遗嘱。这个遗嘱不是写给他自己子女的，而是把自己的经验和希望留给献身科学事业的青年。
1936年2月27日，巴甫洛夫与世长辞了。他的一生，正像他在遗嘱中要求青年去做的那样：“科学要求人们花费毕生的精力。即使你有两倍的寿命，仍然是不够用的。”
