就在他登基后不久，石敬瑭的重将杨光远有样学样，引契丹为后援，开始了叛乱，可他给不了契丹人多少东西，很快就兵败被杀。自此，契丹与后晋正式撕破脸皮，双方战火不断，互有胜负。
第二年四月，封刘知远为北平王，三年，封太尉。
就在刘知远被封为太尉的这一年八月份，刘知远的辖区，却出了一桩不大不小的事情——土浑。土浑就是唐代的吐谷浑，王昌龄《从军行》中的一首就提到过：
大漠风尘日色昏，红旗半卷出辕门。
前军夜战洮河北，已报生擒吐谷浑。
在大部被吐蕃灭亡之后，余部散落河东各地，仍有千余骑的力量。后石敬瑭割燕云十六州给了契丹，土浑人也就属于契丹了。可契丹对他们压迫太甚，不少土浑人又陆陆续续搬了回来。之后，土浑就在两边摇摇摆摆，若是后晋要他们出兵出钱，那就逃到契丹；若是契丹要他们的牛羊，那就还逃到河东。