Die Band gründen 1995 Serj Tankian (Gesang, Keyboards), Daron Malakian (Gitarre), Shavo Odadjian (Bass) und John Dolmayan (Schlagzeug). Drei von ihnen haben armenische Vorfahren, sind bis auf Malakian im Libanon oder Armenien geboren und lernen durch ihre Familien die Musikkultur des Nahen Ostens kennen. Sänger Tankian und Gitarrist Malakian treffen aber schon 1993 zufällig in einem Studio aufeinander, in dem sie mit unterschiedlichen Bands für Aufnahmen verweilen. Sie stellen fest, dass sie sich musikalisch gut verstehen und gründen die Band Soil.

Bassist Odadjian, der früher mehr Gitarre spielte, geht mit den beiden anderen zusammen auf eine armenische Privatschule in Hollywood. Sie verstehen sich so gut, dass Odadjian ständig mit Soil abhängt und irgendwann gefragt wird, ob er nicht ihr Manager werden möchte. Als er sich entschließt hauptsächlich Bass zu spielen, wird er richtiges Bandmitglied. Vor ihrem ersten Plattenvertrag stößt Drummer Dolmayan zu den drei anderen.

Diesen erhalten sie, nachdem Rick Rubin sie in dem Club Viper Room in Hollywood sieht. Sein Freund Guy Oseary von Maverick Records nimmt ihn zu dem Auftritt mit. Rubin, der solche Topakts wie Beastie Boys, Red Hot Chili Peppers und Slayer produzierte, ist so begeistert von der Band, dass er ihnen einen Plattenvertrag bei American Records vermittelt und die Platte produziert. Darauf folgt eine Tour im Vorprogramm von Slayer und die Teilname bei der OzzFest-Tour. Bis das zweite Album "Toxicity" erscheint, dauert es drei Jahre, musikalisch geht es in die gleiche Richtung wie die erste Veröffentlichung.

Auf den ersten beiden Alben präsentieren uns die vier Musiker aus Los Angeles ein teilweise bizarre Kombination aus unterschiedlichen Stilen, deren Grundlage Hardcore/Heavy Metal bildet. Dazu mischen sie alle möglichen anderen Stile: Punk, Hip Hop, Gothic, Jazz und Musik aus dem Nahen Osten. Weiteres wesentliches Stilmerkmal von System Of A Down sind extreme Dynamik- und Tempowechsel, die häufig und oftmals in sehr kurzen Abständen stattfinden. Serje Tankian erklärt dazu, dass die Aggression der schnellen und lauten Teile viel besser wirke, wenn es vorher sehr ruhig gewesen ist.

Auffällig an der Musik ist auch der Charakter des Gesanges. Wie bei den Instrumenten sind hier starke Wechsel in der Lautstärke, der Tonhöhen und des Ausdrucks hervorstechende Merkmale. Die Wörter werden oft sehr übertrieben, bzw. künstlich ausgesprochen, wie man es von Schauspielern im Theater hört. So rollt zum Beispiel Tankian an einigen Stellen das "R" wie Till Lindemann oder Anthony Kiedis von den Peppers.

Neben der Musik fallen vor allem die politisch provokativen Inhalte der Texte auf. In ihnen setzt sich die Band kritisch mit gesellschaftlichen und politischen Verhältnissen auseinander. So steht zum Beispiel der Songtitel "P.L.U.C.K" für "Politically, Lying, Unholy, Cowardly Killers". "Prison Song" beschäftigt sich mit der amerikanischen Drogenpolitik und den Folgen des Drogenkonsums, "D-Devil" mit den ethischen Fragen der Gentechnik. Damit stehen SOAD textlich in der Tradition von Bands wie die Dead Kennedys oder The Clash>.