Cercado pelos Rios das Antas e da Prata, com vales profundos, as terras de Nova Roma, passaram a ser colonizadas a partir de 1880 por imigrantes poloneses, suecos, e russos. Em 1888 iniciou a vinda de italianos que em alguns anos passaram a formar a maioria da população.
O território do atual município de Nova Roma do Sul pertenceu ao município de Antônio Prado durante mais de um século. A comissão de colonização dividiu-o em oito linhas onde se estruturaram 14 comunidades, cada qual com sua capela. Castro Alves foi a primeira e durante algum tempo parecia tornar-se a sede das oito linhas. Mas o povoado de Nova Treviso, na Linha Blessmann, passou a ser a nova sede, a partir de 1894, originando, com isso, inúmeras rivalidades entre os dois povoados.
Em 06 de janeiro de 1899, o padre Alessandro Pelegrini, com autorização do governo, estabeleceu-se entre Castro Alves e Nova Treviso, na Linha Carlos Leopoldo, dando início ao povoado de Nova Roma, em homenagem a capital da Itália, Roma. Em alguns anos o pequeno povoado tornou-se vila e em 19 de janeiro de 1923 passou a ser segundo distrito de Antônio Prado.
Durante a segunda guerra mundial, por questões políticas, vila de Nova Roma passou a ser denominada de vila de Guararapes, e retornando ao antigo nome de vila de Nova Roma logo após a fim do evento bélico.
Após várias tentativas, já a partir de 1960, Nova Roma conseguiu sua emancipação política em 30 de novembro de 1987 e no dia 1º de janeiro de 1989, iniciou sua primeira administração municipal.
Hoje, após quase 130 anos de história, Nova Roma do Sul é fruto do trabalho de várias gerações que, apesar de imensas dificuldades, construíram uma estrutura que deverá torná-la cada vez melhor, seja na qualidade de produção, na educação, na saúde e no turismo.