从协议分层模型方面来讲，TCP/IP由四个层次组成：网络接口层、网络层、传输层、应用层。 TCP/IP协议并不完全符合OSI的七层参考模型。OSI（Open System Interconnect）是传统的开放式系统互连参考模型，是一种通信协议的7层抽象的参考模型，其中每一层执行某一特定任务。该模型的目的是使各种硬件在相同的层次上相互通信。这7层是：物理层、数据链路层、网络层、传输层、会话层、表示层和应用层。而TCP/IP通讯协议采用了4层的层级结构，每一层都呼叫它的下一层所提供的网络来完成自己的需求。由于ARPNET的设计者注重的是网络互联，允许通信子网（网络接口层）采用已有的或是将来有的各种协议，所以这个层次中没有提供专门的协议。实际上，TCP/IP协议可以通过网络接口层连接到任何网络上，例如X.25交换网或IEEE802局域网。
| TCP/IP | OSI |
|---|---|
| 应用层 | 应用层 表示层 会话层 |
| 主机到主机层（TCP）（又称传输层） | 传输层 |
| 网络层（IP）(又称互联层) | 网络层 |
| 网络接口层（又称链路层） | 数据链路层 |
| 物理层 |
物理层设备：中继器，集线器
数据链路层设备：网桥，交换机
网路层设备：三层交换机，路由器