Fils d'un charpentier de village, Opie rencontra de nombreux obstacles dans son désir de se consacrer à la peinture. Il se forma seul et devint très vite un peintre de portraits. Après avoir rencontré le Dr Wolcott qui lui fit connaître de grands protecteurs, Lord Bateman lui fit peindre des têtes d'expression, notamment de vieillards ou de mendiants qui lui valurent d'être très apprécié. En 1780, le bon docteur lui permit de rencontrer des personnes influentes à Londres où il obtint un succès considérable.
Toutefois, ne cherchant pas à plaire au public et en se consacrant à la peinture d'histoire, il devint moins demandé. Il collabora alors à la galerie Shakespeare de Boydell, illustrant l'histoire d'Angleterre, les Poètes et la Bible de Macklin.
Ses tableaux les plus célèbres furent « La Mort de Rizzio », « L'Assassinat de Jacques 1er d'Ecosse » et « La Présentation au Temple ».
Opie, qui fit preuve d'une belle technique dans ses œuvres, avait débuté aux expositions de la Royal Academy de Londres et de la British Institution en 1782. Il fut membre associé de la première en 1786 et académicien l'année suivante. En 1806, il remplaça Füssli comme professeur de peinture. Il fut enterré à l'Eglise Saint Paul près de Sir Joshua Reynolds.