韋玄成出門時，遇到認識的人步行，他總是讓自己的侍從僕役下車，然後載著別人送到想要去的地方，這是經常的事。韋玄成對待人非常有禮恭敬，那些貧賤的人，韋玄成對他們更加禮敬。因為他禮賢下士、待人恭敬，所以美名遠揚。

韋玄成的哥哥韋弘起初任太常丞，因為事務繁多，犯了不少罪過，他的父親韋賢怕這個韋家將來的繼承人因犯罪被貶，所以命令他辭官。但韋弘心懷謙讓，有意將繼承人讓給弟弟韋玄成，所以不肯辭官。

父親韋賢病重時，韋弘終於因為做錯事而被送入了監獄。韋賢抱憾去世，生前並沒有指定誰作為韋家的繼承人，韋賢的門生和同族人便共同商議，假托是韋賢的遺命，立當時任大河郡都尉的韋玄成作為韋家的繼承人。

韋玄成在官位上聽到噩耗，深知立他為繼承人這不是父親一貫的願望，於是便假裝犯了癡狂病不接受。朝廷又徵召他到長安，讓他承襲父親的爵位，韋玄成也假托病狂不應詔命。

朝廷命丞相、御史調查事情原因，因為韋玄成的道德品行一直都被大家所稱道，人們都知道他這是裝病，想將爵位讓給哥哥韋弘。漢宣帝知道後，非常欣賞他的節操，派人將他叫來，讓他做了河南太守，又讓他的哥哥弘做了太山郡都尉，後來遷為東海太守。

漢元帝即位後，拜韋玄成為太子太傅，後來做到了御史大夫，永光年間，官至丞相，又在原來的封國被封侯，榮耀當世。他們的子孫也很興旺，家族中做到二千石的官位的就有十多人。

為了一己之私，父子反目、兄弟相殘、妻離子散的大有人在，而韋家兄弟面對家業和爵位，能夠互相謙讓，這種美德著實令人感嘆。其實在個人利益面前，如果能夠互相都多一點謙讓，那麼怨恨和嫌隙都會避免很多，這是家族和睦、家業興隆綿長的「絕招」，是謙謙君子應具備的美德。