虽然大多数 Linux 系统运行在 PC 平台上，但 Linux 也可以作为嵌入式系统的可靠主力。Linux 流行的“back-to-basics”方法使得它的安装和管理比 UNIX 更加简单灵活，这对于那些 UNIX 专家们来说又是一个优点，他们已经因为 Linux 中有许多命令和编程接口同传统的 UNIX 一样而赏识它了。
典型的压缩包装 Linux 系统经过打包，在拥有硬盘和大容量内存的 PC 机上运行，嵌入式系统可不要这么高的配置。一个功能完备的 Linux 内核要求大约 1 MB 内存。而 Linux 微内核只占用其中很小一部分内存，包括虚拟内存和所有核心的操作系统功能在内，只需占用 Pentium CPU 系统的 100 K 内存。只要有 500 K 的内存，一个有网络栈和基本实用程序的完全的 Linux 系统就可以在一台 8 位总线（SX）的 Intel 386 微处理器上运行的很好了。由于内存要求常常是需要的应用所决定的，比如 Web 服务器或者 SNMP 代理，Linux 系统甚至可以仅使用 256 KB ROM 和 512 KB RAM 进行工作。因此它是一个瞄准嵌入式市场的轻量级操作系统。
与传统的实时操作系统相比（RTOS），采用象嵌入式 Linux 这样的开放源码的操作系统的另外一个好处是 Linux 开发团体看来会比 RTOS 的供应商更快地支持新的 IP 协议和其它协议。例如，用于 Linux 的设备驱动程序要比用于商业操作系统的设备驱动程序多，如网络接口卡（NIC）驱动程序以及并口和串口驱动程序。
闪存
快闪 RAM 内存是大多数 Palm 设备用来存储操作系统的专用的存储器。它具有允许操作系统升级的优点，还可以用于数字式蜂窝电话、数字式照相机、LAN 交换机、PC 卡、数字式机顶盒、嵌入式控制器和其它小型设备。嵌入式系统，如嵌入式 Linux，不要求有磁盘驱动器，尽管可能使用其它的内存组织方式。因此如果，打个比方，Linux 用完了闪存，它就可以将其中一部分作为只读的文件系统来存储额外的程序和静态数据。
核心 Linux 操作系统本身的微内核体系结构相当简单。网络和文件系统以模块形式置于微内核的上层。驱动程序和其它部件可在运行时作为可加载模块编译到或者是添加到内核。这为构造定制的可嵌入系统提供了高度模块化的构件方法。而在典型情况下该系统需结合定制的驱动程序和应用程序以提供附加功能。
嵌入式系统也常常要求通用的功能，为了避免重复劳动，这些功能的实现运用了许多现成的程序和驱动程序，它们可以用于公共外设和应用。Linux 可以在外设范围广泛的多数微处理器上运行，并早已经有了现成的应用库。
Linux 用于嵌入式的因特网设备也是很合适的，原因是它支持多处理器系统，该特性使 Linux 具有了伸缩性。因而设计人员可以选择在双处理器系统上运行实时应用，提高整体的处理能力。例如，您可以在一个处理器运行 GUI，同时在另一个处理器上运行 Linux 系统。
在嵌入式系统上运行 Linux 的一个缺点是 Linux 体系提供实时性能需要添加实时软件模块。而这些模块运行的内核空间正是操作系统实现调度策略、硬件中断异常和执行程序的部分。由于这些实时软件模块是在内核空间运行的，因此代码错误可能会破坏操作系统从而影响整个系统的可靠性，这对于实时应用将是一个非常严重的弱点。
另一方面，现成的 RTOS 完全是为实时性能而设计的，它通过在由用户而非系统级进程启动时分配给某个进程以高于其它进程的优先级的方式来实现可靠性。进程在操作系统看来就是在内存里或硬盘驱动器上执行的程序。给他们指定进程 ID 或者数字标识符为的是让操作系统跟踪正在执行的程序和这些程序的相关联的优先等级。这样的方式保证了 RTOS 时间能比 Linux 提供更高的可靠性（可预见性）。但最重要的，这还是一种更加经济的选择。
不同类型的嵌入式 Linux 系统
已经有许多嵌入式 Linux 系统的示例；可以有把握地说，某种形式的 Linux 能在几乎任一台执行代码的计算机上运行。例如，ELKS（可嵌入 Linux 内核子集）方案计划在 Palm Pilot 上使用 Linux。下面列出了一些更加广为人知的小型嵌入式 Linux 版本：
ETLinux ― 设计用于在小型工业计算机，尤其是 PC/104 模块上运行的 Linux 的完全分发版。
LEM ― 运行在 386 上的小型（<8 MB）多用户、网络 Linux 版本。
LOAF― “Linux On A Floppy”分发版,运行在 386 上。
uClinux ― 在没有 MMU 的系统上运行的 Linux。目前支持 Motorola 68K、MCF5206 和 MCF5207 ColdFire 微处理器。
uLinux― 在 386 上运行的 tiny Linux 分发版。
ThinLinux ― 面向专用的照相机服务器、X-10 控制器、MP3 播放器和其它类似的嵌入式应用的最小化的 Linux 分发版。