中山陵设计图案一举夺冠
1925年5月13日，孙中山先生葬事筹备委员会通过了《孙中山先生陵墓建筑悬奖征求图案条例》，并公开登报向海内外悬奖征求陵墓设计图案。当时的吕彦直与黄檀甫合作创办了真裕公司，但规模很小，只有吕彦直与黄檀甫两个人，既承接房屋设计，也承接房屋租赁和修缮业务。所以，实际上，直至应征中山陵的设计图案获奖之前，吕彦直都是默默无闻的。在接到应征通知后，吕彦直立即到上海法租界环龙路44号孙中山先生葬事筹备处报名应征。在交纳了10元保证金后，按章领取了12幅墓地地形照片和2幅紫金山地形标高图，以《总理遗嘱》为指导思想，对照《孙中山先生陵墓建筑悬奖征求图案条例》，逐条深入研究，开始了艰苦浩繁的设计和创作劳动。
许多应征者都仅仅凭着葬事筹备处发给的12幅墓地地形照片和2幅紫金山地形标高图来设计的，吕彦直则不然。为充分掌握第一手资料，他不辞劳苦，多次带着墓址地图，冲破江、浙军阀混乱时的沪、宁交通险阻，到南京东郊，登上紫金山的中茅山南坡，反复踏勘墓址地形。艰苦的实地勘察，为他充分地利用地形地貌，设计出一个最能体现孙中山先生精神风貌的陵墓建筑，打下了坚实的基础。
黄檀甫晚年，曾多次对小儿子黄建德讲起吕彦直设计中山陵的细节。老人家说：当年，吕彦直因设计中山陵而整日茶饭不思。他不断地修改画作。为了直观起见，每当画完一稿，他就用桐油灰捏造设计模型，然后，对着模型修改画作。修改完后再捏造设计模型。如此循环反复，直至设计出中山陵现在的这个模样来为止！
葬事筹备委员会原定征求设计图案日期为1925年5月15日至8月31日，后应海外应征者的要求，延期至9月15日。这正好给了吕彦直更多的时间反复推敲。他凭借着既掌握西方先进的建筑设计技术，又对中国建筑民族形式比较熟悉的优势，深入地研究了中国皇陵，尤其是明清皇陵的形制和特点，比较了国外著名的陵墓建筑，大胆创新，在设计上独辟蹊径，结合陵墓功能要求，以墓道和台阶等为依托，把牌坊、墓门、碑亭、祭堂、墓室等，全部串联在同一条轴线上。吕彦直精心绘制出了全部平面图、全部平面立视图、祭堂平面图、祭堂平面立视图、祭堂侧面立视图、祭堂纵截剖面图、祭堂横截剖面图、全部纵切剖面图、透视图等10幅设计图，撰写了约1200多字的《孙中山陵墓建筑图案说明》。
1925年9月20日，宋庆龄、孙科等孙中山家属和葬事筹备委员林焕廷、叶楚伧、孔祥熙、陈去病等在大洲公司三楼举行联席会议，对应征图案逐一进行评判。结果，
参加会议的人和评判顾问的书面意见一致评定吕彦直的警钟形图案获首奖。9月22日至26日，每天下午2时至6时，孙中山先生葬事筹备处在四川路36号大洲公司三楼，公开展览应征图案，以便让社会各界人士参与评判。展览期间，每天都有过千人前往参观。其时，上海中西各报对于各得奖图案，均有精确的评价。
9月27日下午4时，孙中山先生家属及葬事筹备委员会在张静江家里召集了联席会议，将第一及第二名获奖的图案与说明书、估价表，及各方关于图案的意见，全部陈列在会场上，让与会者共同研究。经过长时间的讨论，大家认为，吕彦直的设计图案简朴坚雅，且完全根据中国古式建筑精神；陵墓范界略呈一大钟形，寓意警钟长鸣，并体现孙中山先生“必须唤起民众”的愿望。因而一致决定采用作为中山陵的建陵正式方案，并聘请吕彦直为中山陵的建筑师，主持计划建筑详图，及监工事务。
当时的彦记建筑事务所规模很小，里里外外的事务都由吕彦直和黄檀甫两个人包揽。吕彦直既是设计师、建筑师，又是绘图员、会计员、审计员，还是整个工程的监理，至少一身六任，其工作超过负荷的程度可想而知。吕彦直有追求完美的性格，凡事要求尽善尽美，决不轻易假手别人。签订建筑师合同后，吕彦直即开始设计和绘制工程详图，整整两个月闭门谢客，不舍昼夜地埋头苦干，脑力和体力均大量透支。工程详图制作出来后，吕彦直终于病倒了。
驻守紫金山建筑工地
中山陵工程分三期建成。第一、二部工程包括陵墓、祭堂、平台、石阶、墓道、围墙等。第三部工程则包括牌坊、陵门、碑亭、卫士室等。第一、二部工程几乎同时进行，由上海姚新记营造厂和上海新金记康号营造厂承建。上海姚新记营造厂的老板姚锡舟曾自述，承包陵墓工程不为图利，而是“抱一名誉观念、义务、决心”。
中山陵工程动工于1926年初，1927年4月18日南京国民政府成立，尤其是1927年9月国民党宁汉政府合作前，偏于一隅的国民党，根本谈不上创造条件，协调各种关系，使中山陵工程顺利进行。中山陵的施工条件极为恶劣，建筑材料在运输途中均遭军阀、地头蛇等的阻挠和勒索。
据史料记载，姚锡舟是陵墓工程的第一个开拓者。他亲自率领工程技术人员勘查、施工，长期驻扎在紫金山的工地上，披荆斩棘，开山辟路，克服种种困难，把大量的原材料和施工器械运输到山脚下，再由工人们用肩膀扛上山去。后来，为了提高工作效率，还沿着山坡铺设铁轨，用卷扬机将大型石材拉上山顶工地。山上没有水源，姚锡舟就聘请了几百名民工，专门从
山下的紫霞湖挑水上山，长年不断。由于工程浩大，施工技术要求又极为严格，外加军阀混战及交通的阻隔，工程被一再延误。
1926年7月19日，孙中山先生葬事筹备处认为陵墓的建筑速度太慢，为加速工程的进度，特给吕彦直发去一函，此函措辞强硬，申明：中山陵工程迟误，吕彦直和营造厂均应负相当责任；到期如不能按时完工，将处以罚款。但当时的现实情况是，除合伙人黄檀甫外，吕彦直并未聘请到任何助手。黄檀甫虽毕业于英国的利兹大学，但所学并非建筑专业。因此，不符合葬事筹备处的要求，不可以替代吕彦直“常川驻山”监工。黄檀甫没有“欧美毕业”的建筑学学历，事务所又聘请不到“欧美毕业、富有经验之工程师”，为不违背葬事筹备处的旨意，吕彦直只得带病上山，驻扎在紫金山工地上。当时的紫金山荒秃缺水，交通闭塞，工地附近除了几间破庙以外，别无他物，施工和生活条件都非常艰苦。这对于已经患病的吕彦直来说，无疑是巨大的伤害。9月，吕彦直终因劳累过度而再次病倒，不得不被送返上海医治。
中山陵第一、二部工程历时3年，至1929年春，陵墓的第一部工程告竣；第二部工程则在当年的5月完工。姚锡舟因承建中山陵工程而备尝艰辛，不但分文未赚，还倒贴了14万两银子。该营造厂从此收缩业务，不再承接大型建筑。第三部工程则是在1929年6月1日孙中山先生奉安大典之后才开始建造的。工程开始于1930年的上半年，由上海陶馥记营造厂中标承建，1931年底竣工，李锦沛和黄檀甫共同负责完成吕彦直的这一未竟之业。黄檀甫晚年曾多次回忆当年在紫金山中山陵建造工地上的监工经历。他说：那时山上很荒凉，工人和工程师都住在一起，吃在一起；要10天半月才能下山进城去买一次青菜咸鱼什么的；能吃上干饭就很不错了；1926年至1927年间，所有的建筑材料在运输途中，都被军阀和地头蛇扣押强收“买路钱”。当时，根本没有大型的起重机具，全部石料、木材、水泥、沙浆和钢筋，都是工人们靠着肩膀，一点一点扛上山的。遇到那些几百吨重一块的花岗岩石块，人扛不动了，就在大石块下面垫圆木，一点一点地往山上挪运，实在是艰难得不愿意回想！
正是在这样艰苦的条件下，吕彦直拖着病体来往于上海与南京之间。据当年的孙中山先生葬事筹备委员会的档案资料记载，1926年至1927年间，吕彦直在身兼中山陵和广州中山纪念堂建筑重任、上山驻守中山陵工地监工的同时，还往返奔波于南京和上海之间，前后9次出席了筹委会会议，参与研究和解决施工过程中出现的各种问题和困难。其间工作量
之巨大，旅途颠簸之辛劳，是任何一个人都难以承受的。正是从1925年5月应征设计中山陵图案，至1927年4月30日广州中山纪念堂、纪念碑的23幅设计总图全部完成，连续两年的密集而高强度的脑力和体力劳动，极大地损害了吕彦直的身体健康。1928年初，他被确诊为肝癌，病情时好时坏，药石无效。1929年3月18日，中山陵工程还没有最后完工，吕彦直就去世了，年仅36岁。
魂归中山陵
吕彦直去世后，1929年4月，孙中山先生葬事筹备委员会决定，在中山陵祭堂西南角的奠基室内，为吕彦直立碑纪念，但这一决定后来并未实施。
1929年6月11日，《国民政府公报》第一八九号，颁发褒扬令，褒扬吕彦直。
总理葬事筹备处建筑师吕彦直，学识优良，勇于任事。此次筹建总理陵墓，计画图样，昕夕勤劳，适届工程甫竣之时，遽尔病逝。眷念劳勋，惋惜殊深，应予褒扬，并给营葬费二千元，以示优遇。此令。
后来，在黄檀甫的敦促下，总理陵园管理委员会履行1929年4月孙中山先生葬事筹备委员会的决定，在奠基室内为吕彦直建纪念碑。1930年5月28日决议：在奠基室内立石纪念吕彦直。
黄檀甫请孙中山墓圹卧像的捷克雕刻家高崎，在一块高约0.8米、宽约0.5米、厚约0.2米的大理石上，为吕彦直雕刻了一尊半身浮雕像，像下面还刻有于右任写的一段碑文：
总理陵墓建筑师吕彦直监理陵工积劳病故总理陵园管理委员会于十九年五月二十八日决议立石纪念
这块纪念碑原来镶嵌在中山陵祭堂西南角奠基室内的东墙脚下。关于石碑，现在“正统”的说法是“毁于日寇占领南京期间”。但据2007年5月吕彦直的侄女忆述，1945年9月，抗战胜利回到南京后，她随父亲（吕彦直的大哥吕彦深）到紫金山拜谒中山陵时，还专门到奠基室去看过吕彦直的纪念碑。吕彦直的外甥罗兴曾经对黄檀甫的后人说：1950年代，中山陵建筑曾经遭受苏联专家的批评；吕彦直的纪念碑，是在1956年“反右”时才被撬掉的。至于历史的真正面貌，也许我们永远也无法得知，但我们相信，吕彦直已与中山陵同在。