Gidon Kremer entstammte einer Musikerfamilie und erhielt seinen ersten Geigenunterricht im Alter von vier Jahren von seinem Vater und seinem Großvater. Am Tschaikowski-Konservatorium in Moskau war er ein Meisterschüler von David Oistrach.
Nachdem er 1970 den IV. Internationalen Tschaikowski-Wettbewerb gewonnen hatte, konnte er auch außerhalb der Sowjetunion konzertieren. So tourte er durch die Bundesrepublik und trat sogar in New York auf. 1980 ließ er sich in der Bundesrepublik nieder und war damit der erste Künstler der Sowjetunion, der im westlichen Ausland lebte und seine sowjetische Staatsbürgerschaft behalten durfte. Ausgedehnte Reisen führten ihn nach Afrika, in den Südpazifik und an den Nordpol.
1981 rief er im österreichischen Lockenhaus mit dem Pfarrer Josef Herowitsch ein Kammermusik-Festival ins Leben, das er bis 2011 auch selbst leitete. 1997 gründete er mit Musikern aus den drei baltischen Staaten das Streichorchester Kremerata Baltica. Zudem war er von 1996 bis 1998 künstlerischer Leiter des von Yehudi Menuhin gegründeten Musikfestivals in Gstaad und von 2002 bis 2006 des Basler Festivals Les muséiques.
Kremers besondere Hingabe gilt der Neuen Musik. Zahlreiche Werke brachte er zur Uraufführung. Zu den Komponisten, mit denen ihn eine enge Freundschaft verbindet, gehören Arvo Pärt, Alfred Schnittke und Sofia Gubaidulina. Besondere Verdiente erwarb Kremer sich zudem bei der Wiederentdeckung der Werke von Mieczysław Weinberg.
Kremer wurde mit zahlreichen Preisen ausgezeichnet. Für seine CDs erhielt er den Grand Prix du Disque, den Deutschen Schallplattenpreis und den Premio dell’-Accademia Musicale Chigiana. Außerdem wurde ihm neben anderen Preisen der Ernst von Siemens Musikpreis, verliehen.