बचपन में ही पिता को खो देने से उनका परिवार दर-दर की ठोकरे खाने लगा। ऐसे में जगदीप की मां उन्हें और बाकी बच्चों को लेकर मुंबई आ गई। घर चलाने के लिए वह एक अनाथ आश्रम में खाना बनाने लगी। वहीं मां की ऐसी हालत देख जगदीप ने पढ़ाई छोड़ दी और सड़क पर कपड़ा बिछाकर पतंग और दूसरी चीजें बेचने लगे। इससे पूरे दिन में वे महज डेढ़ रुपए कमा पात थे। तभी इसी बीच बीआर चोपड़ा ‘अफसाना’ नाम की फिल्म बना रहे थे और इसके एक सीन के लिए चाइल्ड आर्टिस्ट्स चाहिए थे। किस्मत से इसमें जगदीप को भी काम मिला। इसमें उन्हें एक सीन में बैठकर ताली बजाना था और इसके लिए उन्हें 3 रुपए मिलने वाले थे। इन्हीं रुपयों की खातिर जगदीप ने बॉलीवुड में कदम रखा था।
अपने बचपन में जगदीप जाफरी ने काफी संघर्ष किया। अपने बीते दिनों को याद करते हुए उन्होंने एक इंटरव्यू में कहा था, झे जिंदा रहने के लिए कुछ करना था, लेकिन मैं कोई गलत काम करके पैसा नहीं कमाना चाहता था इसलिए सड़क पर सामान बेचने लगा। उनके इसी हिम्मत और सच्चाई का फल आखिरकार उन्हें मिला। बतौर चाइल्ड आर्टिस्ट इंडस्ट्री में कदम रखने वाले जगदीप ने कई मूवीज में काम किया। वे पहले सैयद इश्तियाक़ से मास्टर मुन्ना बने इसके बाद कॉमेडी जगत में अपना एक मुकाम हासिल किया। बिमल रॉय की ‘दो बीघा ज़मीन’ ने उन्हें पहचान दिलवाईं। इसके बाद से उन्होंने कभी पीछे मुड़कर नहीं देखा। वे जिंदगी में आगे बढ़ने लगे। उन्होंने अपने अंदाज से दर्शकों को खूब हंसाया।