اصغر شرفی در روز ۱ دی سال ۱۳۲۱ در محله شهرک سرچشمه کرمان به دنیا آمد. شرفی فوتبال را در ۲۰ سالگی و با شاهین شروع کرد. بعد از یک سال به تیم معروف تاج پیوست و پس از درخشش در آن باشگاه به تیم پاس تهران رفت. او به مدت ده سال در این باشگاه بازی کرد و در دو سال پایانی کاپیتان این تیم نیز بود. او در سال ۱۳۴۸ به تیم ملی نیز دعوت شد و توانست در ده بازی ۳ گل به ثمر برساند. او عضوی از تیم ملی در جام ملت‌های آسیا ۱۹۷۲ بود که توانستند قهرمان آسیا شوند. پس از عدم راهیابی ایران به جام جهانی فوتبال ۱۹۷۴، شرفی در بازی با کویت کفش‌هایش را آویزان کرد. پس از دو ماه از بازنشستگی از فوتبال ملی، از فوتبال باشگاهی نیز خداحافظی کرد و به مربی‌گری روی آورد.