Iptables ist eine Software und gehört zur Firewall im Linux-Kernel. Mittels IPTables lassen sich einfache aber auch komplexe Firewalls erstellen. Das Thema ist nicht einfach, aber umfangreich - deshalb hier zu ein Link:
http://de.wikibooks.org/wiki/Linux-Praxisbuch:_Linux-Firewall_mit_IP-Tables
Als Firewall-Produkte (auf Basis IPTables) für Linux-Server gibt es z.B.:
- APF(Advanced Policy Firewall) https://www.rfxn.com/projects/advanced-policy-firewall/
- Shorewall http://shorewall.net/
- Plesk-Firewall
Das wäre die Möglichkeit einer Firewall auf einem Server. Besser ist es aber eine Firewall dem Server vorzuschalten, damit ein Angreifer schon vor dem Eintritt auf dem Server geblockt wird.