इस बीच महमूद ने कार ड्राइव करना सीखा और निर्माता ज्ञान मुखर्जी के यहां बतौर ड्राइवर काम करने लगे क्योंकि इसी बहाने उन्हें मालिक के साथ हर दिन स्टूडियो जाने का मौका मिल जाया करता था, जहां वह कलाकारों को करीब से देख सकते थे। इसके बाद महमूद ने गीतकार गोपाल सिंह नेपाली, भरत व्यास, राजा मेंहदी अली खान और निर्माता पी.एल. संतोषी के घर पर भी ड्राइवर का काम किया।
महमूद के किस्मत का सितारा तब चमका जब फिल्म ‘नादान’ की शूटिंग के दौरान अभिनेत्री मधुबाला के सामने एक जूनियर कलाकार लगातार दस रीटेक के बाद भी अपना संवाद नहीं बोल पाया। फिल्म निर्देशक हीरा सिंह ने यह संवाद महमूद को बोलने के लिए दिया गया, जिसे उन्होंने बिना रिटेक एक बार में ही ओके कर दिया। इस फिल्म में महमूद को बतौर 300 रुपए मिले जबकि बतौर ड्राइवर महमूद को महीने में मात्र 75 रुपए ही मिला करते थे।
महमूद ने ड्राइवर का काम छोड़ दिया और अपना नाम जूनियर आर्टिस्ट एशोसियेशन में दर्ज करा कर फिल्मों में काम पाने के लिए संघर्ष करना शुरू कर दिया। इसके बाद बतौर जूनियर आर्टिस्ट महमूद ने दो बीघा जमीन, जागृति, सी.आई.डी, प्यासा जैसी फिल्मों में छोटे-मोटे रोल किए जिनसे उन्हें कुछ खास फायदा नहीं हुआ। इसी दौरान महमूद को ए.भी.एम के बैनर तले बनने वाली फिल्म मिस मैरी के लिए स्क्रीन टेस्ट दिया। लेकिन ए.भी.एम बैनर ने महमूद को स्क्रीन टेस्ट में फेल कर दिया। महमूद के बारे में ए.भी .एम की राय कुछ इस तरह की थी कि वह न कभी अभिनय कर सकते है न ही अभिनेता बन सकते है। बाद के दिनो में ए.भी.बैनर की महमूद के बारे में न सिर्फ राय बदली साथ ही उन्होंने महमूद को लेकर बतौर अभिनेता फिल्म ‘मैं सुदर हूं’ का निर्माण भी किया।
इसी दौरान महमूद रिश्तेदार कमाल अमरोही के पास फिल्म में काम मांगने के लिए गए तो उन्होंने महमूद को यहां तक कह दिया कि आप अभिनेता मुमताज अली के पुत्र है और जरूरी नहीं है कि एक अभिनेता का पुत्र भी अभिनेता बन सके। आपके पास फिल्मों में अभिनय करने की योग्यता नहीं है। आप चाहे तो मुझसे कुछ पैसे लेकर कोई अलग व्यवसाय कर सकते है। इस तरह की बात सुनकर कोई भी मायूस हो सकता है और फिल्म इंडस्ट्री को अलविदा कह सकता है, लेकिन महमूद ने इस बात को चैलेंज की तरह लिया और नए जोशो-खरोश के साथ काम करना जारी रखा। इसी दौरान महमूद को बी.आर.चोपड़ा की कैंप से बुलावा आया और महमूद को फिल्म ‘एक ही रास्ता’ में काम करने का प्रस्ताव मिला।
महमूद ने महसूस किया कि अचानक इतने बड़े बैनर की फिल्म में काम मिलना महज एक संयोग नही है इसमें जरूर कोई बात है बाद में जब उन्हें मालूम हुआ कि यह फिल्म उन्हें अपनी पत्नी की बहन मीना कुमारी के प्रयास से हसिल हुई है तो उन्होंने फिल्म एक ही रास्ता में काम करने से यह कहकर मना कर दिया कि वह फिल्म इंडस्ट्री में अपने बलबूते अभिनेता बनना चाहते है न कि किसी की सिफारिश पर।
इस बीच महमूद ने संघर्ष करना जारी रखा। जल्द ही महमूद की मेहनत रंग लाई और वर्ष 1958 मे प्रदर्शित फिल्म ‘परवरिश’ में उन्हें एक अच्छी भूमिका मिल गई। इस फिल्म में महमूद ने राजकपूर के भाई की भूमिका निभाई। इसके बाद उन्हें एल.वी. प्रसाद की फिल्म ‘छोटी बहन’ में काम करने का अवसर मिला जो उनके सिने कॅरियर के लिए अहम फिल्म साबित हुई। फिल्म छोटी बहन में बतौर पारिश्रमिक महमूद को छह हजार रुपए मिले। फिल्म की सफलता के बाद बतौर अभिनेता महमूद फिल्म इंडस्ट्री में अपनी पहचान बनाने में सफल हो गए। फिल्म में उनके अभिनय को देख टाइम्स ऑफ इंडिया ने उनकी जमकर सराहना की।
वर्ष 1961 में महमूद को फिल्म ‘ससुराल’ में काम करने का अवसर मिला। इस फिल्म की सफलता के बाद बतौर हास्य अभिनेता महमूद फिल्म इंडस्ट्री में अपनी पहचान बनाने में सफल हो गए। फिल्म ससुराल में उनकी जोड़ी अभिनेत्री शुभा खोटे के साथ काफी पसंद की गई। इसी वर्ष महमूद ने अपनी पहली फिल्म ‘छोटे नवाब’ का निर्माण किया। इसके साथ ही इस फिल्म के जरिए महमूद ने आर.डी. बर्मन उर्फ पंचम दा को बतौर संगीतकार फिल्म इंडस्ट्री में पहली बार पेश किया।
अपने चरित्र में आई एकरूपता से बचने के लिए महमूद ने अपने आप को विभिन्न प्रकार की भूमिका मे पेश किया इसी क्रम में वर्ष 1968 में प्रदर्शित फिल्म ‘पड़ोसन’ का नाम सबसे पहले आता है। फिल्म पड़ोसन में महमूद ने नकारात्मक भूमिका निभाई और दर्शकों की वाहवाही लूटने में सफल रहे। फिल्म में महमूद पर फिल्माया एक गाना ‘एक चतुर नार करके श्रृंगार’ काफी लोकप्रिय हुआ।
वर्ष 1970 मे प्रदर्शित फिल्म ‘हमजोली’ में महमूद के अभिनय के विविध रूप दर्शकों को देखने को मिले। इस फिल्म में महमूद ने तिहरी भूमिका निभाई और दर्शकों का ध्यान अपनी ओर आकर्षित किया। महमूद ने कई फिल्मों का निर्माण और निर्देशन किया। महमूद ने कई फिल्मों में अपने पार्श्वगायन से भी श्रोताओं को अपना दीवाना बनाया। महमूद को अपने सिने कॅरियर में तीन बार फिल्म फेयर पुरस्कार से सम्मानित किया गया। पांच दशक से अधिक लंबे सिने कॅरियर में करीब 300 फिल्मों में अपने अभिनय का जौहर दिखाने वाले महमूद 23 जुलाई 2004 को इस दुनिया से हमेशा के लिए रूखसत हो गए।