1857年9月17日，齐奥尔科夫斯基出生于俄国梁赞省。家境贫寒，9岁时因猩红热并发症失聪，失去上学机会。在父母的帮助下，齐奥尔科夫斯基开始自学小学、中学课程。1873年16岁的齐奥尔科夫斯基为求学只身赴莫斯科，但却因耳聋又无中学文凭无法进入大学读书，只能在公共图书馆自学。1878年，齐奥尔科夫斯基回到家乡，通过了中学教师资格考试。在教学之余，他开始对宇宙航行问题进行研究。
1883年，齐奥尔科夫斯基将自己的研究成果写成了《外层空间》一文。其中探讨了有关利用喷气装置的可能性，论述了在引力很小、无空气阻力的宇宙空间飞行的设想，并画出了一个飞船的草图。
1903年，齐奥尔科夫斯基发表了对人类宇航事业具有奠基意义的巨著《利用喷气装置研究宇宙空间》。这篇论文第一次提出了喷气装置即火箭在自由空间中运动的基本原理，推导出了火箭在重力场中运动时达到最大速度的数学公式。这个被写作;v＝wln（M0/Mk）的公式指出：要获得火箭最大速度v，必须提高喷气速度w和火箭的质量比M0/Mk。所谓火箭的质量比就是火箭的初始质量与发动机熄火时的质量（即推进剂燃尽）之比。这个简洁的数学公式，是人类打开航天之门的一把金钥匙。
以后，齐奥尔科夫斯基又进一步提出了“火箭列车”（多级火箭）的设想。他认为要想使火箭突破第一宇宙速度（7.9千米／秒），将航天器送入地球轨道，单级火箭是无法胜任的。为此齐奥尔科夫斯基阐述了利用“火箭列车”克服地球引力的构想，就是将两节以上的火箭串联起来，组成一列多级火箭以提高火箭的速度。多级火箭采用一种质量抛扔原理，每级火箭燃料耗尽后自动脱落，下一级火箭接着点火，随着这种抛扔，火箭越飞越轻，越飞越快，而随着火箭高度的上升，地球的引力和空气的阻力越来越小，最终火箭将摆脱地球的引力，飞向宇宙。
齐奥尔科夫斯基对宇航科学的贡献远不止以上所述，他在晚年所著的《宇宙火箭工作》，系统地论述了火箭、飞船、人造卫星、空间站等问题，无一不闪耀着科学和人类探索精神的光辉。他还是一位了不起的科幻小说作家，他在小说中对宇航员失重状态和利用“宇宙枪”在太空中移动的描写，与今天的载人飞行有惊人的相像之处。他更是苏联宇航科学家们崇拜的导师，宇航巨擘科罗廖夫曾这样说过：“见到齐奥尔科夫斯基之后，我一心只想制造火箭并乘它飞行，这已经成为我生命中的全部意义。”
1935年9月19日，齐奥尔科夫斯基在卡卢加逝世。
