Né dans le Massachussetts, Latimer grandit à Boston. A 17 ans, après son service dans la marine du président Lincoln pendant la guerre civile américaine, il rentre à Boston. Doué pour le dessin, il est engagé par la firme Crosby & Gould. Il y passera 11 ans.
Son premier brevet, qui porte sur un cabinet d’aisance pour wagons de chemin de fer, est enregistré le 10 février 1874. Un moment assistant d’Alexander Graham Bell, pour qui il réalise les dessins techniques et les descriptions requises pour le dépôt de brevet de téléphone; dessinateur chez Maxim Hiram, l’inventeur de la mitrailleuse et patron de « United Electric Lighting Company » à Bridgeport. Il rentre finalement comme ingénieur chez Edison Company.
Latimer voit bien que l’ampoule à incandescence avec un filament en bambou, créée en 1879 par Edison, n’est pas pratique (elle grille au bout de 30 h). En 1881, il brevète donc, avec son ami Joseph V. Nichols, la première ampoule à incandescence avec filament de carbone; puis obtient, seul, en 1882, un brevet pour son procédé de fabrication et de montage de filaments de carbone. Latimer dirige l’installation du système de la lumière électrique à Philadelphie ainsi qu’à Montréal, au Canada. Puis, on l’envoie à Londres, en Grande-Bretagne, où il est chargé de monter un département de lampes à incandescence pour la Maxim-Weston Electric Light Company.
Associé de Thomas Edison au Département d’ingénierie de la Edison Electric Light Company de la ville de New York (General Electric Compagny), il sort en 1890 le premier manuel sur le système d’éclairage électrique aux États-Unis : Incandescent Electric Lighting. A practical Description of the Edison System (le premier jamais écrit sur le sujet).