依不同的标准，物联网的架构主要分为两种，一种是分为三层的，另一种将其分为四层。
按三层架构的分法，从底层到上层，分别为：感测层、网络层与应用层。
按四层架构的分法，从底层到上层，分别为：感知设备层、网络连接层、平台工具层与应用服务层。其中，感知设备层也被称为「感测层」，而网络连接层也被称为「网络层」。
三层架构与四层架构两种划分方式的差异主要在于，在四层分法，在三层分法中划出的「应用层」，根据软件应用的不同，它被进一步细分了，被拆分成了「平台工具层」和「应用服务层」。
感测层
要实现物联网连接、建设，需要给每一个连上这个网络的对象分配唯一的「地址」。
物联网发展早期，这方面工作通过由RFID（无线射频识别标签）和EPC码（电子产品代码）来完成。
在物联网连接的各种对象大规模接入互联网后，出于给这些对象分配大量IP地址的需要，互联网原本有限的IPv4地址资源被认为不足以应对，所以，物联网倾向于通过IPv6协议为这些对象分配地址资源。也因此，IPv6的不断普及，对物联网的发展非常重要。
网络层
物联网的连接可通过多种技术实现，这些技术可分为有线和无线两种。
有线
通过双绞线（常见的网线）、光纤连接网络，或通过电缆线接入网络。
无线技术，基于有效传输距离的不同，又可分为短距离无线、中距离无线、长距离无线。
短距离无线
通过蓝牙、Li-Fi、RFID、NFC、Wi-Fi、ZigBee、Z-Wave等技术接入。
中距离无线
通过LTE－Advanced和时下热门的、正在建设的5G技术接入。
长距离无线
通过LPWAN、VSAT等技术接入。
应用层
如前所述，按四层架构分法，它还可以再细分为「平台工具层」和「应用服务层」。
平台工具层，是底层的软件平台，它作为应用服务层与网络层的接口，支持各类的软件应用。大数据、区块链、软件定义网络、软件定义存储、软件定义数据中心、安全通信、杀毒软件、人工智能等等，都可以归到这一层。
应用服务层，「针对不同的应用需求，直接呈现原始资料，或经过加值处理，借由人机界面提供用户，或是对应的硬件／软件目标得到想要的信息」。VR/AR、人机交互、服务导向架构、永续发展等都可以归到这一层。
