女真一詞最早出現在唐初。《宋會要輯稿》載：“唐貞觀中，靺鞨來朝，中國始聞女真之名，契丹謂之慮真。”契丹建國前把靺鞨改稱女真。《北風揚沙錄》稱：“金國本名朱里真，番語舌音訛為女真，或曰慮真。避契丹興宗宗真名，又曰女直。”一般認為女真為契丹語，肅慎的轉音，漢意東方人。
然而，最初在契丹人的眼里，東方的女真只是長白山以南以西的土著。天顯元年（926年），遼太祖耶律阿保機遼滅掉了渤海國，封長子耶律倍為人皇王，建東丹（東契丹）國，改渤海國上京為天福城建都。述律后傳位遼太宗耶律德光，耶律倍逃奔后唐，遼在南京（遼陽）設立中臺省管理渤海故地，一直存續到圣宗時期。遼國依靠軍事手段，將三江流域東平府、定理府、安邊府的代表先進生產力的群體遷至遼東一帶，他們大多數不愿意受契丹統治，在鴨綠江流域異地建立了定安國，三江流域文明進步被粗暴打斷。
從遼太宗到遼圣宗前期（926—1004年）近八十年的時間里，契丹人把精力集中到與中原王朝的對抗之中，在白山黑水留下廣闊空間。落后的野居女真進入三江流域城址廢墟，但無法生存下去，開始新一輪向西遷徙，完顏部就是其中的一支。
為了謀求更加優越的生存環境，金祖函普的子孫烏魯、跋海以黃金為線索，翻越完達山來到樺川瓦里霍吞古城，與另一支遷徙的女真部落烏林達部相遇，結伴橫渡松花江，在湯原梧桐河郎君古城落腳。之后烏林達部遷居阿凌達河口。而完顏部則進入綏濱蜿蜒河流域，又向西沿大豐河進入湯旺河中游臺地。
在跋海之子綏可時期，完顏部順湯旺河、松花江尋找即可農耕，又可漁獵，還可采金的地方。到遼圣宗登基時，完顏部最終來到海古水（阿什河支流）定居。完顏部學習契丹文化，開始種地植樹蓋房子，并不斷向下游傳播先進文明。綏可因生產生活習慣而選擇了居地，但他并沒有想到此處是契丹進入生女真區域的門戶，更沒有想到關鍵的地理位置成為他們后世子孫崛起建國的基礎。
遼國為了便于統治，將加入遼籍的稱為熟女真。沒有遷出靺鞨故地的統稱為生女真，按居住地劃分有七十二部落，地方數千里，人口十余萬戶，散居山谷之間。這時的生女真還不包括未向遼國朝貢的三江流域的族群，但他們從完顏部那里學會了修蓋地上房屋，在平地上居住，擴大了活動范圍，學會了新的生存手段。較大的部落如拂涅部、虞婁、越喜、鐵驪等按照渤海國時的府州形成小規模的部落軍事聯盟。這些聯盟沿松花江兩岸筑起城池，目前發現的平原古城基本在此時期奠基。