Pep Guardiola startet kampen med et sterkt lag, blant annet med Sergio Agüero på topp, mens Huddersfield startet med flere nøkkelspillere på benken.
Verken Agüero eller noen av hans lagkamerater maktet å sette ballen i mål bak Huddersfield-keeper Joel Coleman til tross for et vedvarende press i sluttminuttene.
Sjokktap for Premier League-lag i FA-cupen
Heller ikke vertene fant veien til nettmaskene, og det betyr at det blir omkamp i Manchester. Det er nok lite populært i City-leiren ettersom laget har både mesterliga og Premier League å tenke på.
– Det er ikke lett å møte lag fra øvre sjikt av mesterskapsserien. Det er intet å klage over. Spillerne mine gjorde det jeg ba dem om, sa Guardiola etter kampen.
Nytt tap for Leicester
Nedturen fortsetter for Leicester, som tapte 0-1 borte mot Millwall i sin FA-cupkamp til tross for å ha spilt med en mann mer i over en halvtime.
Shaun Cummings ble helten for Millwall med sin scoring på overtid.
Christian Stuani ble den store helten for Middlesbrough, som slo Oxford United 3-2 i sin FA-cupkamp.
Grant Leadbitter og Rudy Gestede sørget for 2-0-ledelse til pause før Chris Maguire og Antonio Martinez sørget for 2-2.
Seks minutter før slutt dukket uruguayanske Stuani opp og satte inn 3-2 etter et mislykket skuddforsøk fra Stewart Downing.