Troicki begann im Alter von fünf Jahren unter Trainer Nenad Trifunović mit dem Tennisspielen. Als 13-Jähriger zog er nach Boca Raton, Florida, um an der dortigen Tennisakademie zu trainieren.
Im Oktober 2006 begann er seine Profikarriere auf der ATP World Tour. In Tokio besiegte er in der ersten Runde den Spanier Fernando Vicente mit 6:7 (4:7), 6:4 und 6:2. Danach verlor er gegen die Nummer 1, Roger Federer, mit 6:7 (2:7) und 6:7 (3:7). 2008 erreichte er die dritte Runde der US Open, in der er gegen Rafael Nadal 4:6, 3:6 und 0:6 verlor.
2010 ging Troicki beim ATP-Turnier in Doha an den Start und kam bis ins Halbfinale, wo er erneut Nadal unterlag (1:6, 3:6). Bei den Australian Open erreichte er 2010 die zweite Runde. Er unterlag dem Deutschen Florian Mayer mit 6:4, 4:6, 6:7 (2:7) und 1:6. Seinen ersten ATP-Titel errang er am 24. Oktober 2010 in Moskau. Anfang Dezember besiegte er im Davis Cup den Franzosen Michaël Llodra und sicherte der serbischen Mannschaft, für die er ab 2008 spielte, zum ersten Mal den Titel. Von 2008 bis 2011 spielte er in der 1. Tennis-Bundesliga beim TC Blau-Weiss Halle, mit dem er dreimal Vizemeister wurde.
Am 25. Juli 2013 wurde bekannt, dass der Weltverband ITF Troicki mit einer 18-monatigen Dopingsperre bis Januar 2015 belegt hatte. Zwar gab er im Rahmen des Monte Carlo Masters eine geforderte Urinprobe ab, verweigerte jedoch aufgrund starken Unwohlseins eine Blutprobe.[1] Troicki legte gegen die Entscheidung Berufung ein, da der behandelnde Arzt bei der Dopingprobe dem Verzicht der Blutentnahme zugestimmt hatte.[2] Im August reichte er gegen die Dopingsperre Klage beim Internationalen Sportgerichtshof ein,[3] der die Strafe auf 12 Monate reduzierte.[4]
Im Juli 2014 gab er in Gstaad sein Comeback dank einer Wildcard. Vier Wochen später gewann er das Challenger-Turnier in Como, wo er im Finale Louk Sorensen schlug. Mitte September gewann er in Banja Luka einen weiteren Challenger mit einem Sieg gegen Albert Ramos Viñolas. Zum Saisonauftakt 2015 gelang ihm sein zweiter ATP-Turniersieg in Sydney, er siegte in zwei Sätzen gegen Michail Kukuschkin. In Stuttgart erreichte er zwar das Finale, verlor aber gegen Rafael Nadal in zwei Sätzen.
Im Folgejahr gelang es ihm, den Titel in Sydney gegen Grigor Dimitrow zu verteidigen. Drei Wochen später stand er im Finale von Sofia, das Roberto Bautista Agut gegen ihn gewann. Gegen Bautista Agut verlor er ebenfalls die Halbfinalpartie in Winston-Salem. Im Jahr 2017 erreichte Troicki die Halbfinals in Sydney und Istanbul.
Nach vielen Erst- und Zweitrundenniederlagen fiel er 2018 aus den Top 100 der Weltrangliste heraus. Im nachfolgenden Jahr konnte er ein einziges Mal bei einem Challenger-Turnier ein Finale spielen, in Surbiton verlor er in der Finalrunde gegen Daniel Evans.
Die Jahre 2020 und 2021 verliefen wenig erfolgreich. Im Juni 2021 beendete er nach seinem Ausscheiden in der Qualifikation für Wimbledon seine Karriere.[5]
Zwischen 2008 und 2019 spielte er 40 Matches in 24 Begegnungen für die serbische Davis-Cup-Mannschaft, von denen er 24 gewinnen konnte.
Troicki heiratete im November 2016 seine Freundin, das Model Aleksandra Đorđević.[6]