Lorsque les Huns déferlèrent sur l'Europe vers 370, les Ostrogoths furent soumis et contraints de combattre au côté d'Attila dans l'expédition qu'il conduisit contre la Gaule en 451. Nombre d'Ostrogoths furent tués par les Wisigoths lors de la bataille de Châlons. À la mort d'Attila et après la désintégration de l'empire des Huns, les Ostrogoths recouvrèrent leur indépendance. Ils obtinrent de Rome l'autorisation de s'établir en Pannonie, région correspondant à l'actuelle Hongrie occidentale, à la Croatie septentrionale, la Slovénie, la Serbie et l'Autriche orientale. Ils furent rejoints par d'autres Ostrogoths qui, à l'approche des Huns, s'étaient réfugiés aux marches de l'Empire romain.
En 474, Théodoric le Grand monta sur le trône. Avec l'accord de l'empereur d'Orient, Zénon, il envahit l'Italie en 488, renversa Odoacre, premier souverain barbare de Rome, et prit le pouvoir. Il se posa en héritier de l'empire romain d'Occident même s'il n'en portait pas le titre qui, officiellement, était détenu par un consul romain.
Seul un souverain de la stature de Théodoric était à même de préserver l'unité entre les deux peuples. À sa mort en 526, l'Italie fut livrée à des troubles si violents que, en 535, l'empereur byzantin Justinien Ier dut envoyer son général Bélisaire soumettre la péninsule. Ses troupes brisèrent la puissance des Ostrogoths en 555, et l'Italie passa sous la domination de l'exarchat de Ravenne.
Peu à peu, les Ostrogoths furent assimilés à d'autres tribus, comme les Alains, les Vandales, les Francs et les Burgondes, qui s'étaient établis dans les territoires de l'ancien Empire romain.