黄祖是江夏安陆人，据说是名臣黄香之后，在江夏也算是豪强了。刘表出任荆州牧以后，任命黄祖为江夏太守，就是希望借用他的力量镇守江夏，保护荆州的东大门。
初平二年，也就是公元191年（也有说法是初平三年，公元192年）四月，袁术让孙坚出兵攻打荆州，刘表则命黄祖率军在樊城、邓县之间迎战。两军交锋以后，黄祖不敌孙坚，大败而走，逃入了襄阳城中。孙坚乘胜追击，将襄阳城包围了起来。刘表一面坚守城池，一面让黄祖偷偷出城调集援兵，可惜黄祖带兵回来以后还是打不过孙坚，再次被击败。只是谁也没想到，黄祖败逃到岘山之中时，率兵追击的孙坚却在战斗中被暗箭射中而死，失去指挥的孙坚军陷入混乱，黄祖趁势反击，反败为胜。
建安四年（公元199年），孙策出兵击败庐江太守刘勋，占领了庐江。随后孙策又继续进兵攻打江夏，刘表命侄子刘虎等人率军前去接应黄祖。两军在沙羡交战，孙策大获全胜，俘获黄祖的妻妾子女七人，斩杀刘虎、韩晞等人以下两万多人，另外黄祖手下士卒有一万多人溺水而亡，缴获各类船只六千多艘，物资堆积如山。
获其妻息男女七人，斩虎、（狼）韩晞已下二万馀级，其赴水溺者一万馀口，船六千馀艘，财物山积。
八年，权西伐黄祖，破其舟军，惟城未克，而山寇复动，还过豫章。
十二年，西征黄祖，虏其人民而还。
建安十三年（公元208年），孙权第三次出兵攻打江夏。黄祖命水师迎战，都尉吕蒙率先击破江夏水军前锋，凌统、董袭等人也奋勇向前，黄祖大败，江东军趁势破城。黄祖落荒而逃，被骑士冯则追上杀死，枭首而回，江东军大胜而归。
十三年春，权复征黄祖，祖先遣舟兵拒军，都尉吕蒙破其前锋，而凌统、董袭等尽锐攻之，遂屠其城。祖挺身亡走，骑士冯则追枭其首，虏其男女数万口。
孙权得到黄祖的首级后，用其祭奠了亡父孙坚，也算是报了当年杀父之仇。所以黄祖的结局有些悲催，不过正所谓将军难免阵上亡，这也算是乱世之中武将的常态了。
