因镇政府驻地因有“金牛河”、“金牛山”、“金牛村”而得名。

       位于东经117°7′27〃～117°15′18〃，北纬31°20′59〃～31°27′50〃。地处庐江县西北部，东与石头镇接壤，南与万山镇为邻，西南连汤池镇，西北接郭河镇。人民政府驻古城社区，电话区号0565，邮政编码231521，南距庐江县城20公里，北距省会合肥56公里。

      金牛，古名安城，始建于三国时代，历来为兵家必争之地。三国、太平天国在此古迹繁多，为著名抗日将领孙立人故里。宋《元丰九域志》始列金牛为县境六镇之一，明亦为镇，清志历载其名，宣统二年（1910）始为区治。民国年间均为区、乡治所。1952年置镇，次年撤镇建乡。1958年成立金牛公社，1984年恢复为乡，隶金牛区。1985年撤乡建镇（乡级）。1992年前为区公所所在地，1992年撤区并乡，以原金牛镇、梁山乡和原石头乡的林城、湖稍、陈垱3村合并成立金牛镇。境内山清水秀，风景优美，鸟语花香，林木覆盖率达30%。“金牛晚眺”为庐江八景之一，金牛山、梁山为国家二级保护动物白鹭的乐园，葵泉为天然优质矿泉。

      现辖金牛、山南、莫堰、铺岗、尹岗、健康、圩坝、湖稍等8个村民委员会和1个居委会（古城社区居民委员会）。