Les diocèses d’Ottawa, Timmins, Hearst, Alexandria-Cornwall, Sault-Sainte-Marie et Moosonee ont connu nombre d’évêques francophones. C’est cependant Kingston qui a accueilli le premier évêque de langue française en Ontario. Il s’agit de Mgr Rémi Gaulin. Cela s’est produit en 1833.
Né le 30 juin 1787 à Québec, Rémi Gaulin est ordonné prêtre le 13 octobre 1811. Il devient tour à tour curé à Kingston (alors dans le diocèse de Québec), à Saint-Luc-sur-le-Richelieu, à L’Assomption, à Saint-Jean-d’Iberville et à Sault-au-Récollet. Élu évêque coadjuteur du nouveau diocèse du Haut-Canada le 10 mai 1833, il est sacré à ce titre le 20 octobre suivant. Le siège épiscopal est à Kingston.
À la mort de Mgr Alexander McDonell, le 14 janvier 1840, Mgr Gaulin devient évêque titulaire du Haut-Canada. De 1845 à 1849, il confie la direction de son diocèse à Mgr Phelan, coadjuteur, et retourne à L’Assomption comme curé. Frappé de paralysie en 1849, Mgr Gaulin meurt le 8 mai 1857.
Il est le premier évêque francophone de l’Ontario. Une école primaire porte son nom à Kingston.