Sein Wechsel für insgesamt sieben Millionen britische Pfund von Newcastle zu Manchester United zu Beginn des Jahres 1995 – eingepreist wurde dabei der gleichzeitige Wechsel des auf eine Million Pfund taxierten Keith Gillespie in die entgegengesetzte Richtung – war der bis dato teuerste Transfer für einen englischen Spieler. Er schoss in den restlichen Spielen der Saison 1994/95 für „United“ auf Anhieb zwölf Tore, wozu alleine fünf Treffer zum 9:0-Sieg gegen Ipswich Town zählten. Zu den positiven Stimmen gesellten sich jedoch auch einige Kritiker, die Cole vorhielten, egozentrisch zu sein, zu viele Chancen zu benötigen und in entscheidenden Spielen nicht zu treffen. Manchester befand sich im Titelrennen mit den Blackburn Rovers und zog am Ende den Kürzeren, da das Team im letzten Spiel gegen West Ham United über ein 1:1 nicht hinaus kam. Obwohl die Trefferquote in der Saison 1995/96 mit insgesamt elf Ligatoren deutlich niedriger als kurz zuvor ausfiel, entwickelte sich Cole positiv. Gründe dafür war sein gutes Verständnis mit Sturmpartner Éric Cantona und das allgemein verbesserte Mannschaftsspiel. Belohnt wurde dies 1996 mit dem „Double“ aus englischer Meisterschaft und FA Cup, wobei Cole besonders im Pokalsemifinale mit seinem zwischenzeitlichen Ausgleich gegen den FC Chelsea (Endstand 2:1) einen großen Anteil am Endspieleinzug hatte. In der anschließenden Saison 1996/97 hatte Cole lange mit gesundheitlichen Problemen zu kämpfen, als er zunächst mit einer Lungenentzündung außer Gefecht gesetzt wurde und sich anschließend in einem Spiel der Reservemannschaft gegen Liverpool gleich beide Beine brach. Erst zum Jahresende 1996 kam er wieder regelmäßig zum Einsatz und speziell ab Februar 1997 gelang ihm an der Seite seines neuen Partners Ole Gunnar Solskjær eine Serie von fünf Toren in vier Partien. Dies reichte für den Gewinn eines weiteren englischen Premier-League-Titels. Trotz dieser Erfolge blieb Cole in Manchester nicht unumstritten und so mehrten sich während der letztlich trophäenlosen Saison 1997/98 die Stimmen, Trainer Alex Ferguson suche nach einer Verstärkung auf der Mittelstürmerposition – besonders zeigte sich Ferguson an einer Verpflichtung des Chilenen Marcelo Salas interessiert. Schlusspunkt dieser Gerüchte war im Oktober 1997 schließlich Coles Unterschrift unter einem neuen Fünfjahresvertrag.

In der Saison 1998/99 begannen die sportlich wohl beiden besten Jahre in der Karriere von Andrew Cole. Aus dem vormals sehr auf die eigenen Torjägerqualitäten fixierten Spieler war mittlerweile ein ebenso guter Vorbereiter geworden und mit Dwight Yorke kam von Aston Villa ein Fußballer, mit dem er sich auf dem Spielfeld außerordentlich gut verstand. Höhepunkt war der Gewinn des „Triples“ aus englischer Meisterschaft, FA Cup und Champions League. Cole schoss in der Spielzeit 1998/99 insgesamt 24 Treffer und gemeinsam mit Yorke bildete er eines der besten europäischen Angreiferduos. Wichtige Tore waren hier vor allem Coles 2:1-Siegtreffer am letzten Premier-League-Spieltag gegen Tottenham Hotspur und im Champions-League-Halbfinale sein Tor zum 3:2 gegen Juventus Turin. In der Saison 1999/2000, die ihm die bereits vierte englische Meisterschaft einbrachte, passierte er mit 22 Pflichtspieltreffern nicht nur die 100-Tore-Marke bei United, sondern stellte auch noch den 30 Jahre alten Europapokalrekord von Denis Law ein – im September 2000 überflügelte er ihn sogar. Im Dezember 2001 verabschiedete sich Cole aus Manchester. Zuvor hatte er in der Saison 2000/01 den fünften Meistertitel errungen und an der Seite von Teddy Sheringham noch einmal zehn Tore erzielt – besondere mediale Aufmerksamkeit fand in diesem Zusammenhang die große gegenseitige Antipathie, die Cole und Sheringham während ihrer gemeinsamen Zeit miteinander verband. Die Ankunft des für 19 Millionen Pfund verpflichteten Ruud van Nistelrooy bedeutete schließlich Coles Ablösung als Stammspieler auf der Mittelstürmerposition. Im Dezember 2001 schloss er sich daher für eine Ablösesumme von circa acht Millionen Pfund den Blackburn Rovers an.