1991 ila 1995 yılları arasında 19. Dönem DYP'den Trabzon milletvekili oldu. 49. ve 50. Dönem hükümetlerinde Spordan Sorumlu Devlet Bakanı olarak görev aldı.
ÜÇ KEZ TRABZONSPOR BAŞKANI SEÇİLDİ
Trabzonspor Kulübü Onursal Başkanı olan Mehmet Ali Yılmaz, 1982-2000 yılları arasında, çeşitli dönemlerde Trabzonspor Kulübü Başkanlığı yaptı.
Yılmaz, 1982-1988, 1989-1992 ve 1996-2000 yılları arasında Trabzonspor başkanı oldu.
Trabzon'da Trabzonspor'a ait Mehmet Ali Yılmaz tesisleri bulunuyor.
Mehmet Ali Yılmaz, Basın Konseyi, Gazeteciler Cemiyeti, Türkiye Spor Yazarları Derneği, Mühendisler Odası, Müteahhitler Sendikası üyeliği yaptı.
