第二次布匿战役期间，率领军队从西班牙翻越比利牛斯山和阿尔卑斯山进入意大利北部，在特拉比亚战争(公元前218年)、特拉西梅诺湖战争(公元前217年)和坎尼战争(公元前216年)中击溃罗马人。坎尼战争之后，罗马人拒绝与汉尼拔发生正面冲突，并逐渐夺回意大利南部的要塞。
公元前204年，罗马人在大西庇阿的率领下入侵迦太基本土，迫使汉尼拔回到非洲。
公元前202年，大西庇阿于扎马战争击败汉尼拔。
战后，公元前196年汉尼拔成为迦太基的行政官，以帮助迦太基从战役的疮痍中恢复。
公元前195年，罗马人迫使汉尼拔被驱逐。汉尼拔出走东方，流亡到塞琉西王国。
直到公元前189年，罗马打败安条克，并要求引渡汉尼拔，汉尼拔逃到小亚细亚北部的比提尼亚王国。
即使如此，罗马人仍旧不放心汉尼拔，一直争取把他引渡到罗马受审，汉尼拔在公元前182年服毒自尽。