NFS 允许计算的客户 — 服务器模型（见图 2）。服务器实施共享文件系统，以及客户端所连接的存储。客户端实施用户接口来共享文件系统，并加载到本地文件空间当中。
图 2. NFS 的客户端 — 服务器架构
在 Linux? 中，虚拟文件系统交换（VFS）提供在一个主机上支持多个并发文件系统的方法（比如 CD-ROM 上的 International Organization for Standardization [ISO] 9660，以及本地硬盘上的 ext3fs ）。VFS 确定需求倾向于哪个存储，然后使用哪些文件系统来满足需求。由于这一原因，NFS 是与其他文件系统类似的可插拔文件系统。对于 NFS 来说，唯一的区别是输入/输出（I/O）需求无法在本地满足，而是需要跨越网络来完成。
一旦发现了为 NFS 指定的需求，VFS 会将其传递给内核中的 NFS 实例。 NFS 解释 I/O 请求并将其翻译为 NFS 程序（OPEN、ACCESS、CREATE、READ、CLOSE、REMOVE 等等）。这些程序，归档在特定 NFS RFC 中，指定了 NFS 协议中的行为。一旦从 I/O 请求中选择了程序，它会在远程程序调用（RPC）层中执行。正如其名称所暗示的，RPC 提供了在系统间执行程序调用的方法。它将封送 NFS 请求，并伴有参数，管理将它们发送到合适的远程对等级，然后管理并追踪响应，提供给合适的请求者。
进一步来说，RPC 包括重要的互操作层，称为外部数据表示（XDR），它确保当涉及到数据类型时，所有 NFS 参与者使用相同的语言。当给定架构执行请求时，数据类型表示可能不同于满足需求的目标主机上的数据类型。XDR 负责将类型转换为公共表示（XDR），便于所有架构能够与共享文件系统互操作。XDR 指定类型字节格式（比如 float）和类型的字节排序（比如修复可变长数组）。虽然 XDR 以其在 NFS 中的使用而闻名，当您在公共应用程序设置中处理多个架构时，它是一个有用的规范。
一旦 XDR 将数据转换为公共表示，需求就通过网络传输给出传输层协议。早期 NFS 采用 Universal Datagram Protocol（UDP），但是，今天 TCP 因为其优越的可靠性而更加通用。
在服务器端，NFS 以相似的风格运行。需求到达网络协议栈，通过 RPC/XDR（将数据类型转换为服务器架构） 然后到达 NFS 服务器。NFS 服务器负责满足需求。需求向上提交给 NFS 守护进程，它为需求标示出目标文件系统树，并且 VFS 再次用于在本地存储中获取文件系统。整个流程在图 3 中有展示。注意，服务器中的本地文件系统是典型的 Linux 文件系统（比如 ext4fs）。因此，NFS 不是传统意义上的文件系统，而是访问远程文件系统的协议。
图 3. 客户端和服务器 NFS 堆栈
对于高延迟网络，NFSv4 实现称为 compound procedure 的程序。这一程序从本质上允许在单个请求中嵌入多个 RPC 调用，来最小化通过网络请求的 transfer tax。它还为响应实现回调模式。