Il compose une Fantaisie sur des airs serbes, Sadko, un tableau musical inspiré de Berlioz, un poème musical, Antaret, et un projet d’opéra, Pskovitaine ou La Jeune Fille de Pskov. En 1872, il épouse la pianiste Nadieschda Purgold, qui allait exercer une grande influence sur sa carrière.
Devenu professeur de composition et d’instrumentation, et directeur de la classe d’orchestration du prestigieux Conservatoire de Saint-Pétersbourg, malgré ses faibles connaissances théoriques, il gagne l’estime de ses élèves, dont certains, comme Glazounov, Stravinski et Respighi auront de brillantes carrières. Il publiera même deux ouvrages théoriques, un Traité d’harmonie (1884) et des Éléments d’orchestration (1913). Entre temps, il était devenu inspecteur des musiques de la flotte russe (1872), grâce à la protection du ministre de la Marine.
Il se lance dans des opéras, Nuit de mai (1879), La Demoiselle des neiges (1882), un concerto pour piano, tout en assurant l’orchestration d’un opéra de Moussorgski, Khovantchina. Un mécène dénommé Belaïev, musicien amateur, va aider considérablement la carrière de Rimski-Korsakov, grâce à sa propre maison d’édition, et en organisant les Concerts symphoniques russes, dont Rimski-Korsakov devient le conseiller et le directeur. Cette nouvelle charge préside d’ailleurs à la naissance de ses grandes œuvres symphoniques, Capriccio espagnol (1887), La Grande Pâque russe et Shéhérazade, toutes deux composées en 1888.
Avec Shéhérazade notamment, un des grands succès de Rimski-Korsakov, celui-ci s’inscrit dans le courant musical du XIXe siècle appelé «écoles nationales», car il fait appel à des ressources nationales. En Russie, le groupe des Cinq se classait dans cette tendance en puisant dans le folklore russe. Il s’opposait ainsi aux «artistes officiels» conformistes, formés en Allemagne et se référant à Beethoven et Brahms. Grieg, en Norvège, et Sibelius, en Finlande, s’inscrivaient dans la même tendance nationale de l’Europe du Nord (voir notre article «Trois anniversaires» dans L’Express du 11 décembre 2007). Mais l’exaltation des musiques folkloriques nationales, comme dans le cas de ces deux compositeurs, faisait parfois place à l’exaltation de musiques d’autres pays, en ouvrant la voie à l’exotisme. C’est le cas de Shéhérazade dans laquelle Rimski-Korsakov dépeint les couleurs orientales du pays des mille et une nuits.
Après la mort de Borodine, en 1887, il orchestre le Prince Igor, comme il l’avait fait pour des œuvres de Moussorgski. Il se rend à Paris en 1889 pour diriger des concerts de musique russe. Mais le décès de son fils cadet et la grave maladie de sa fille Macha, âgée de deux ans, l’affectent profondément. Il ne reprend son travail qu’en 1864, avec La Nuit de Noël, un opéra inspiré par un thème de Gogol. Puis il achève Sadko, un autre opéra et, en 1897, Mozart et Salieri, un opéra d’après Pouchkine. Puis ce sera Le Coq d’or, opéra en trois actes d’après le conte en vers de Pouchkine, qui sera interdit par la censure. La création de ce dernier opéra a lieu le 24 octobre 1909 à Moscou, au théâtre Solodovnikov, mais le compositeur était mort le 21 juin 1908.