Kovačević zaczął grać w piłkę nożną w klubie Željezničar Banja Luka, następnie w 2014 roku dołączył do akademii młodzieżowej FK Sarajevo[2]. W lutym 2018 roku został na pół roku wypożyczony do Slobody Mrkonjić Grad[3]. Zadebiutował 17 marca 2018 roku w meczu przeciwko Kozara Gradiška[4]. W sierpniu 2018 roku Kovačević podpisał nowy pięcioletni kontrakt z FK Sarajevo[5]. Zadebiutował 5 sierpnia w spotkaniu na wyjeździe z drużyną FK Sloboda Tuzla[6]. 15 maja 2019 roku, pokonując w finale Pucharu BośniNK Široki Brijeg, zdobył swoje pierwsze trofeum z zespołem z Sarajewa[7]. W lipcu 2019 roku przedłużył kontrakt z klubem do czerwca 2024 roku[8].
W czerwcu 2021 roku przeniósł się do Rakowa Częstochowa[9][10]. Z Rakowem zdobył Superpuchar Polski w 2021 roku, Puchar Polski i wicemistrzostwo Polski w 2022 roku. 23 maja 2022 podczas organizowanej przez Ekstraklasę Gali, piłkarz został nagrodzony statuetką w kategorii bramkarz sezonu 2021/22[11]. W 2023 zdobył mistrzostwo Polski. Po zakończeniu sezonu 2022/2023 drugi raz z rzędu otrzymał tytuł bramkarza sezonu Ekstraklasy[12]. W czerwcu 2024 przeniósł się do Sportingu Lizbona[13][14].