作为一位在艺术上有很高造诣的、才华横溢的指挥大师，小泽征尔的身上具有一名优秀指挥家所应具备的全部素质。他那极其敏锐的听觉，惊人的音乐记忆力，高超的指挥技巧，丰富的音乐感觉和果断而热情的精神，成就了他传奇的指挥风格。
小泽征尔与中国还曾有着重要的缘分，那就是他出生在中国。他的父亲早在20世纪30年代初期便来到了中国，在长春等地当牙科医生。“九--j＼”事变发生以后，他们全家便搬到了沈阳，小泽征尔就是在这段时期出生的。他出生后的第二年，他们便举家迁到了北京，直到太平洋战争爆发前夕全家才回到日本东京。小泽征尔的童年基本上是在中国度过的。据他本人回忆，在上小学之前，他的大脑中所有的记忆都是对北京的印象。
回到日本以后，小泽征尔很快就开始了他的音乐学习生涯。由于正值战争时期，家里的生活困难，但为了他的学业，父亲仍然咬牙为他买来了一架钢琴，并将他送到了一个优秀的钢琴教育家丰增升的门下学习。小泽征尔很珍惜这样的机会，更何况他本身就是一个很有音乐天赋的孩子，他这方面的才能在很大程度上得益于他母亲的遗传和熏陶。据小泽征尔本人回忆，在他很小的时候，母亲便教他唱了很多的弥撒曲，稍大一点以后，母亲又教他们几十个孩子一起练习合唱。这样一些基础而又原始的音乐教育，无形中启迪了小泽征尔的音乐思维，因为他在很小时就感觉到了音乐的淳朴、安详和优美，使得他天才的音乐细胞迅速成长。
1951年小泽征尔考入了著名的桐朋学院音乐系。在这里，他开始涉足指挥艺术。这段时期里，他投在日本著名指挥教育家斋藤秀雄的门下潜心学习。斋藤秀雄是一位非常优秀的教育家，他有着多种训练学生的独特方法，小泽征尔在这几年的学习中，通过独特方法的训练，打下了牢固的指挥专业基础，并且掌握了十分卓越的技巧，其中很多方法，都让他受益终身。
1958年小泽征尔以优异的成绩毕业于桐朋学院。拥有更高志向的小泽征尔并没有满足已经取得的成绩，他希望到更广阔的领域中加深学习和展示自己的才华，于是便在1959年踏上了赴欧留学的道路。他上了一艘开往法国的货轮，经过两个多月的海上奔波以后，终于来到了音乐艺术极为发达的法国首都巴黎。来到这里以后，他到处寻找着学习和发挥自己才能的机会，在一个偶然的机遇里，他获准参加当年9月举行的贝藏松世界指挥比赛。在这次比赛中，小泽征尔以其出色的才能和独特的风格一举获得了冠军，并在一夜之间成了当时欧洲家喻户晓的知名人物。这些预料之外但又是情理之中的收获，为他日后的学习和艺术活动铺平了道路。在贝藏松比赛拿过大奖之后，小泽征尔又在1960年的美国伯克郡音乐节指挥比赛中取得了第一名，并荣获了意义深远的库谢维茨基大奖。这次获奖，使得他有机会成为当时担任波士顿交响乐团常任指挥的著名指挥大师查尔斯·明希的学生。小泽征尔随明希在美国学习了半年以后，又在一次由卡拉扬主持的国际卡拉扬指挥比赛中获得第一名。
这次比赛实际上是卡拉扬收学生的选拔赛，在该比赛中获得前三名的人都可以成为卡拉扬的学生。于是他又有幸留在了西柏林，在这个伟大的指挥大师手下进行难得的深造。
1961年小泽征尔又被另一位著名指挥大师伯恩斯坦看中，他不但将小泽征尔收为弟子，同时还聘请他担任了纽约爱乐乐团的副指挥。至此，小泽征尔成为20世纪中最伟大的3位指挥大师手下的真传弟子，其幸运程度在当时青年指挥家中简直令人难以想象。
1962年，小泽征尔回到了日本，担任了日本广播协会交响乐团的指挥，但在当年年底，小泽征尔又突然辞去了该团的职务，重新回到了美国。1963年，他在美国芝加哥的拉维尼亚夏季音乐节上，指挥芝加哥交响乐团音乐会并获得了极大成功，并被邀请担任了该音乐节下一届音乐指导和指挥。1965年至1969 年，他在加拿大的多伦多交响乐团担任了4年音乐指导与常任指挥。1970年他担任了波士顿交响乐团主办的伯克郡音乐节的音乐指导与指挥。他们之间的良好合作为他3年后担任这个乐团的常任指挥打下了良好的基础。1970年至1976年，小泽征尔一直是美国旧金山交响乐团的音乐指导与常任指挥，他在旧金山交响乐团工作得十分出色，1973年还率领该团赴欧洲和苏联进行了巡回演出，获得了极广的世界声誉。同年，波士顿交响乐团的常任指挥微米·斯坦伯格离任，乐团的董事会立刻便想到了几年前与他们进行成功合作的小泽征尔，于是聘请他担任了该团的新任音乐指导与常任指挥，而且还破天荒地与他签订了终身指挥的合同。到了1 976年，小泽征尔辞去了旧金山交响乐团常任指挥的职务，一门心思将自己的事业寄托在波士顿交响乐团的身上。
小泽征尔的指挥风格非常热烈生动，其中的变化十分丰富，充满着激情和强烈的感染力。同时，他还非常善于准确地把握和理解各种不同风格的作品，在排练和指挥一部作品时，他都能够依靠其对肢体的良好感觉，做到布局清晰严谨、层次细致鲜明和主题突出流畅。对节奏、速度、力度及和声，他都有着极强的感受性和控制能力，使音乐能够通过他的指挥和处理而极为自然和富有个性地被表现出来。
他是一位艺术情感极为丰富的指挥家。在指挥一部作品时，他非常善于体现其间的感情变化，恬静、热烈、温柔、激动、悲哀、庄严和粗犷等多种多样的情绪，他都能够十分细微和精确地体现出其特有的分寸感。作为世界指挥界中出名的“大动作”指挥家，小泽征尔擅长应用自己突出的形体动作来诱发和引导乐队队员的音乐表现力。其实，他指挥动作的特色是幅度比较大，准确地说，应该是动作极为生动化。有时为了追求一种音响效果，他也会用微动的棒尖来提示乐队，而当音乐需要时，他又能从全身迸发出强烈的艺术感染力，甚至连头发都成了调动乐队队员情绪的工具。虽然他在指挥时全身没有一个部位不参加运动，但丝毫没有给人以故弄玄虚的感觉。这是因为，他所采用的全部动作都是音乐内容所需要的，而并非为了哗众取宠加上的、生搬硬套的夸张手法。当然，他的这种风格也曾遭到过一些评论家的非议，但从全面的角度上来看，这种特殊的形体动作与音乐之间的完美巧妙结合，的确是一种令人赏心悦目的独特风格，这种风格也许放在别人的身上不合适，但在他的身上则确实是一种很有效的艺术手段。