Los padres de Tankian eran artistas, y muy joven comenzó a cantar con su padre y su hermano Sevag. Desde niño, su abuelo le contaba las inhumanidades que se cometieron con el pueblo armenio durante el genocidio. Es por eso que Tankian desde siempre ha recalcado ese tema y ha luchado para que Turquía reconozca la matanza y pida disculpas por ella.
A los cinco años de edad viajó con su familia a Estados Unidos, debido a problemas políticos y económicos en el Líbano.
Tankian comenzó a estudiar en una escuela pública armenia llamada Rose & Alex Pilibos Armenian School, en Los Ángeles. Fue allí donde conoció a su amigo Daron Malakian, quien tampoco pasaba por un buen momento.
Pasó el tiempo y Tankian comenzó a trabajar en un lavadero de coches. Luego entró a la Universidad de Northbridge, en California, donde estudió comercio, artes visuales y música. Tankian toca teclados y a veces guitarra. Tomó cursos de canto con Mark Goodman.
Con el paso de los años Tankian y Malakian se encontraron en unas salas de ensayo donde se unieron y formaron un grupo musical llamado Soil. Posteriormente, se reunieron con otros dos músicos, llamados Shavarsh Odadjian y John Dolmayan (todos de origen armenio), con quienes formaron el grupo System of a Down (debido a un poema hecho por Malakian llamado Victims of a Down en honor a las víctimas del genocidio armenio de 1915). Es considerado uno de los mejores vocalistas del metal actual por su impresionante y variado tono de voz que comprende tanto voces graves como agudas.
El 23 de octubre de 2007, salió a la venta su disco solista llamado "Elect the Dead". Además, ha compuesto algunos temas para el videojuego Stranglehold de John Woo.
Debido a sus raíces familiares, habla inglés, árabe y armenio con fluidez.
