På dina bara knän är en brett anlagd släktsaga som tar sin början vid sekelskiftet och sedan följer en familj fram till 1950-talet. Den utspelar sig till större delen på Cape Breton, en vindpinad ö på Kanadas östkust där kolgruvorna är den huvudsakliga näringen och befolkningen en brokig blandning av irländare, skottar, engelsmän, fransmän, västindier, araber och afrikaner.
Den unge, framåtsträvande James Piper, av irländsk börd, börjar sin bana som pianostämmare, fast besluten att aldrig bli kolgruvearbetare. Han gör stor skandal i det lilla gruvsamhället genom att gifta sig med en blott 13-årig flicka från en arabisk familj. I äktenskapet föds så småningom tre flickor. James är mycket stolt över sina synnerligen begåvade döttrar, dock överskrider hans faderskärlek ibland gränserna för det tillåtna. Där finns också en fjärde dotter, vars gåtfulla härkomst är familjens stora och laddade hemlighet. Familjen drabbas under årens lopp av många katastrofer och ingen kommer riktigt helskinnad ur det destruktiva familjemönstret. Världskrigen liksom ekonomiska och politiska kriser bildar hela tiden en dov bakgrund. Den dramatiska naturen är också en viktig medspelare i detta skakande familjedrama.
Berättelsen följer olika familjemedlemmar under olika epoker och berättarperspektivet förändras ständigt. Ann-Marie MacDonald vrider och vänder på sin berättelse och väjer aldrig för stora känslor och starka utspel. Parallellt med den händelsemättade historien om familjen Pipers öden och äventyr fångar hon skickligt tidsatmosfär och miljöer.