自古以来，有很多人打算以机械力代替人力和畜力进行耕作。但直到19世纪欧洲进入蒸汽机时代后，才使动力型农业机械的诞生成为可能。19世纪30年代，已有人开始研究用蒸汽车辆牵引农机具进行田间作业。但当时所能造出的蒸汽机牵引车辆(即蒸汽拖拉机的前身)犹如一个水火车头，它即使不陷在田里，也会把土压得很实，根本无法耕种。
1851年，英国的法拉斯和史密斯首次用蒸汽机实现了农田机械耕作。有人把这看作是农业机械化的开端，但当时他们的办法是把蒸汽机安放在田头，用钢丝绳远远地牵引在田里翻耕的犁铧。后来随着蒸汽机制造技术的进步，出现了小型化的蒸汽发动机，把它安装在车辆底盘上驱动车轮行驶，使它能够从地头开进田地里直接牵引农机具，这才诞生了拖拉机，法国的阿拉巴尔特和美国伊利诺斯州的R·C·帕尔文分别在1856年和1873年发明了最早的蒸汽动力拖拉机。
当时的拖拉机与早期的蒸汽机汽车很相似，但马力更大，行驶速度较慢。
最初的拖拉机笨重而昂贵，使用不便，往往需数人操作，适用于在广阔原野上耕作，一般个体农民难以负担，1889年，美国芝加哥的查达发动机公司制造出了世界上第一台使用汽油内燃机农用拖拉机-- “巴加”号拖拉机。
由于内燃机比较轻便，易于操作，而且工作效率高，故它的出现为拖拉机的推广应用打下了基础。20世纪初，瑞典、德国、匈牙利和英国等国几乎同时制造出以柴油内燃机为动力的拖拉机，第一次世界大战期间，由于战争的原因，劳动力不足和农产品价格上涨，促进了农田拖拉机的发展。
1910-1920年间，以蒸汽机和以内燃机为动力的拖拉机之间展开了激烈的竞争，后者显示了更大的优越性，逐渐淘汰了前者。今天的拖拉机都使用柴油内燃机。
拖拉机分为轮式和履带式两种。最早的拖拉机使用的是铁轮，不仅笨重、容易陷车，而且经常会压伤植物的根，早在蒸汽汽车诞生后不久的19世纪30年代，就有人设想给汽车轮子套装木头和橡胶制作的 “履带”，让沉重的蒸汽汽车能在松软的土地上行走，但是早期的履带性能和使用效果并不好，直到1901年美国的伦巴德在研制林业用牵引车辆时，才发明出第一条实用效果较好的履带。
3年后，加利福尼亚的工程师霍尔特应用伦巴德的发明，设计制造了 “77”型蒸汽拖拉机。这是世界上第一台履带式拖拉机。1904年11月24日，这台拖拉机进行了首次试验，后来又投入批量生产。1906年，霍尔特创办的拖拉机制造公司又制造出世界上最早的以汽油内燃机为动力的履带式拖拉机，这种拖拉机翌年开始批量生产，是当时最成功的拖拉机，并成为数年后英国研制世界上第一种坦克时所参考的样车。
在轮式拖拉机的发展上，最初人们是将钢制的车轮加宽，加大着地面积，减少压强，但效果并不好，后来又想出了在钢轮外加一层橡胶保护层的办法，汽车轮胎诞生后，人们先后给拖拉机使用了实心和充气胎。但汽车轮胎并不完全适用于拖拉机，一是汽车轮胎的沟纹过于浅细。
二是人们发现拖拉机在轮胎气不足时反而比气很足时的软地行驶性能更好。1932年，美国的菲尔斯当轮胎和橡胶公司生产出一种大尺寸的高花纹低压充气橡胶轮胎。这是第一种真正适用于农用拖拉机轮胎，它极大提高了轮式拖拉机的行驶和牵引性能。
到本世纪40年代末，在北美，西欧和澳大利亚等地，拖拉机已取代了牲畜，成为农场的主要动力，此后，拖拉机又在东欧、亚洲、南美和非洲得到的推广使用。