1958年10月，山西省太原农业机械化学校成立。1959年5月，开始在太原黄陵村营建新校址，1960年7月，迁址太原黄陵村。1961年7月，学校休学停课。1962年初，学校迁至洪洞甘亭镇，更名山西省洪洞农业机械化学校。

1963年5月，学校复学，并迁址至平遥，更名为山西省农业机械化学校。1964年6月，开始实行半工半读制。1966年5月，文革开始后停课并停止招生。1971年8月，学校筹备复学，并于1972年7月恢复招生，正常办学。

1977年11月，恢复高考，全省统招高中毕业生直至1987年止，学制三年。1980年11月，学校被确定为首批“全国重点中专”。1984年9月，学校与山西师院联合办学成立一届“农业机电师资专修班”。

1987年9月，全省统招初中毕业生，学制四年，至1995年止。1989年9月至2000年增设二年制高中班，自费生班，技工班，农村青年班。1993年10月，学校被评为山西省“省部级重点中专”。1995年9月，学校实行并轨制，全省自主招收初中毕业生，学制三年。

2000年9月至2006年，学校增招“3+2”一贯制高职班，2000年12月，学校被评为“国家级重点中等职业学校。2002年5月24日，经批准，与山西农业大学联合办学，成立山西农业大学平遥机电学院，为山西农业大学的二级学院，同时暂时保留山西省农业机械化学校的校名。 2010年9月，学校恢复中专办学体制。2011年10月，学校被批准为“国家中等职业教育改革发展示范学校建设计划”立项支持学校。2012年开始，学校与山西交通职业技术学院、山西机电职业技术学院、山西轻工职业技术学院、山西职业技术学院等院校合作开办三二分段、中高衔接的高职班。2015年10月，被教育部、人社部、财政部确定为“国家中等职业教育改革发展示范学校”  。