人很多,担心免不了有祸患,希望能够回京,以便自己想法自救。灵太后不答应。二年四月,被任命为尚书右仆射、加侍中、将军封号如故。神龟元年(518)三月,又恢复了仪同三司。因病而未拜授。他常见到裴植、郭祚在身边作祟,自知必死无疑,便事先上表,请求将自己抚养的已去世的弟弟的第二个儿子、现任司徒椽于永超作为自己嫡子。灵太后答应了。去世后,赠为“司空”有关方面上奏太常少卿元瑞的建议说:“查阅谥法,刚强而理直为武,仗威胡作非为为丑,应当谥为“武丑公””太常卿元。。义的奏议说“:于忠尽忠侍奉皇帝,除去凶逆之徒,依照谥法,除伪宁真为武,日夜恭敬侍奉为敬,应当谥为“武敬公””两位官员奏议不同。灵太后下令,依照太常卿的奏议。
于忠性格多疑和嫉妒,不结交比自己强的人,只和直。。将军章初瞔、千牛备身杨保元是至交的同心朋友。李世哲想取宠于于忠,私下用金帛贿赂章初瞔、杨保元,两人和他交谈之后,引为心腹之交。于忠擅权进官任崇训宫卫尉,也是李世哲的主意。
于谨字思敬,小名巨引。为人深沉而有见识,略略浏览一些经籍史书,特别爱好《孙子兵法》。闲居在家,没有做官的想法。遇到有人劝时,他就说:“州郡一类职务,向来为人所鄙视的,公卿一类高位,须等待时机。”太宰元天穆见了后,感叹地说“;真是王佐之材啊!”待破六韩拔陵为首在北境叛乱时,援引蠕蠕作为后援,大行台元纂领兵讨伐,他一向听说于谨的名声,便请他当铠曹参军事,随军北伐。蠕蠕败逃出了塞外,元纂令于谨追击,前后打了十七场战斗,全部招降了敌军部众。后来曾率领车骑出塞侦察敌情,突然铁勒部几千骑人马奔驰而来,于谨因为寡不敌众,便将车骑分散开来,让他们藏入树丛深草之中,又派人登山指挥,就像是指挥部众分开的样子。贼军望见后,虽然也怀疑有伏兵,但他们倚仗人多势众并不害怕,便继续向于谨进逼。于谨过去经常乘坐两匹骏马,一紫一黄,敌军早就熟悉了,于谨便让另两个人各乘一匹马,突围而出。敌人以为于谨跑了,争先恐后去追赶。于谨便集合其余人马,攻击敌军的追骑。敌军只得逃走,于谨人马因而得以入塞。
正光四年(523),行台、广阳王元深兴师北伐,请于谨为长流参军。他特别以大礼迎接,派他的世子佛瞓拜迎。于是,于谨随广阳王打败了敌军主师斛律野谷禄等。于谨又请求前往敌营中劝降。于谨懂得几国的语言,便单骑进入敌军营垒,向他们表达朝廷的恩惠和信用,于是西部铁勒的酋长也列河等三万多户均归附朝廷,率领部族进迁。广阳王和于谨到析郭岭迎接他们。于谨说:“拔陵的军队还很多,听说也列河等来归附,一定会前来袭击的。如果被他们先占领险要地方,就难以和他们争斗。如今我们用也列河作为诱饵,他们必定竞相前来抄掠,我们先设下埋伏等待他们,必定轻而易举地击败他们。”广阳王听从他的计策。拔陵果然前来攻击,他们在析郭岭上打败也列河,部众都陷入敌军围困之中。这时,于谨的伏兵四起,敌军大败,于谨全部收降了也列河的部众。
孝昌元年(525),于谨又随广阳王征讨鲜于。。礼。当军队到达白牛逻时,正赶上章武王被鲜于。。礼所杀,他们便将军队停留在中山。侍中元晏在灵太后面前诽谤说:“广阳王领军盘桓不肯前进,显然坐等时机,有非分之想。他身边又有个于谨,智谋过人,充当他的主谋,恐怕他们不是陛下的忠臣。”灵太后便传旨,让人在尚书省的门外设立榜文,招募能够捕捉于谨的人,表示将给予重赏。于谨听说后,请求前往朝廷直接披露自己的真心,广阳王答应了。于谨便直接来到榜下,揭榜说:“我知道这个人。”众人一起查问他。于谨说“:我就是于谨。”官员们把这件事奏明朝廷。灵太后见到于谨后,大为恼怒。于谨详细陈述广阳王如何忠于朝廷,并说明军队停留在中山的原因。灵太后这才释放了他。
后来于谨又跟着尔朱天光与北齐神武帝在韩陵山对战,尔朱天光战败,于谨因而进入关中。
周文帝到夏州时,让于谨当防城大都督,兼夏州长史。当贺拔岳被害时,周文帝前往平凉。于谨对周文帝说“:关中是秦汉的旧都城,自古号称‘天府’。如今如能占据各个要害之地,招集四方英雄好汉,足以观察时局的变化。况且天子在洛阳,被群凶所逼迫。你请求朝廷迁都关内,然后可以挟天子而令诸侯,这是千载难逢的好时机啊!”周文帝听后,大为高兴。正好朝廷传令让于谨任关内大都督,于谨因此上奏迁都关中的计策。