展开菜单
首页 精品内容 本月促销 装机必备 Windows PDF教程 macOS软件 IOS软件 Android AI 专题
全部分类

当前位置:

首页 > 编程开发 > 命令式编程 vs 符号式编程

命令式编程 vs 符号式编程

重点 在深度学习框架的讨论中,命令式编程与符号式编程的界限有时并不那么泾渭分明。一个有趣的例子是CXXNet和Caffe这类框架,它们依赖于配置文件来定义模型。如果我们把这份配置文件本身看作是计算图的定义,那么它们也可以被归入符号式编程的范畴。这提醒我们,分类的关键在于核心思想,而非具体的实现形式。

本文目录

    重点

    在深度学习框架的讨论中,命令式编程与符号式编程的界限有时并不那么泾渭分明。一个有趣的例子是CXXNet和Caffe这类框架,它们依赖于配置文件来定义模型。如果我们把这份配置文件本身看作是计算图的定义,那么它们也可以被归入符号式编程的范畴。这提醒我们,分类的关键在于核心思想,而非具体的实现形式。

    源

    源网址

    什么是symbolic/imperative style编程

    如果你用过Python或C++,那么你对命令式编程应该不会陌生。这种风格的代码,其核心特点是“运行时计算”——代码写到哪里,计算就执行到哪里。我们日常编写的大部分Python脚本都属于这一类。来看一个简单的例子:

    import numpy as np
    a = np.ones(10)
    b = np.ones(10) * 2
    c = b * a
    d = c + 1

    当程序执行到 c = b * a 这一行时,乘法运算会立刻发生,计算出具体的数值并赋值给变量c。

    符号式编程则走了另一条路。在这种范式下,你需要先定义一个计算过程(这个定义可能相当复杂),但在定义时,并不会进行实际的数值计算。这个定义中使用的是抽象的“占位符”。只有当你提供了真实的输入数据,并触发“编译”步骤后,整个函数才会被真正执行。用符号式风格重写上面的例子,大概是这样的:

    A = Variable('A')
    B = Variable('B')
    C = B * A
    D = C + Constant(1)
    # 编译这个函数
    f = compile(D)
    d = f(A=np.ones(10), B=np.ones(10)*2)

    注意,这里的语句 C = B * A 并不会触发数值计算,它只是在内存中构建了一个描述计算步骤的“图”,我们称之为计算图或符号图。下图展示了计算D所对应的计算图结构:

    这里写图片描述

    绝大多数符号式程序都显式或隐式地包含一个“编译”步骤,目的就是将这张计算图转换成可以被高效调用的函数。在上面的例子里,真正的数值计算直到最后一行调用f()时才发生。这种“先定义,后编译执行”的两阶段过程,是符号式编程的一个鲜明特征。在神经网络领域,这张计算图通常就用来描述整个模型的结构。

    放眼主流框架,Torch、Chainer、Minerva 采用了命令式风格。而 Theano、CGT、TensorFlow 则是符号式风格的代表。至于CXXNet/Caffe这类依赖配置文件的框架,如前所述,也可以被视作符号式风格,因为配置文件在这里扮演了计算图定义的角色。接下来,我们深入对比一下这两种风格的优劣。

    命令式编程更加灵活

    用Python调用命令式风格的库非常直观,感觉就像在写普通的Python代码,只不过在需要加速的地方调用了库函数。但如果用Python去调用符号式风格的库,代码的写法就得变一变了。一个常见的挑战是:某些控制流结构(比如循环)可能无法直接使用。试着把下面这段命令式代码转换成符号式风格看看:

    a = 2
    b = a + 1
    d = np.zeros(10)
    for i in range(d):
        d += np.zeros(10)

    如果符号式API不支持原生的for循环,这个转换就不会那么直接。这意味着,你不能完全用写Python的思维去调用符号式库,而必须使用框架提供的特定领域语言来构建计算图。这套DSL功能通常很强大,足以描述复杂的神经网络。

    直观感受上,命令式程序更符合我们的编程习惯,用起来也更简单直接。比如,你可以在任何地方打印出变量的值进行调试,也可以随心所欲地使用if-else、for循环这些熟悉的控制语句。

    符号式编程更加有效

    既然命令式程序如此灵活,更贴近计算机的原生语言模式,那为什么还有那么多深度学习框架选择符号式风格呢?答案的核心在于效率——包括内存效率和计算效率。

    让我们回到最初那个简单的计算例子:

    import numpy as np
    a = np.ones(10)
    b = np.ones(10) * 2
    c = b * a
    d = c + 1
    ...

    这里写图片描述

    假设每个数组元素占8字节,在Python的命令式程序中,需要多少内存?答案是,每一行执行时,都需要为新的结果分配内存。四个长度为10的数组,总共就是 4∗10∗8=320 字节。

    但如果事先知道我们最终只需要结果d,事情就不同了。在构建符号计算图时,系统可以提前规划,安全地复用中间变量的内存空间。例如,通过原址计算,可以把存放b结果的内存,直接拿来存放c;同理,c的内存又可以给d用。这样一来,只需要两个数组的内存,即 2∗10∗8=160 字节,比之前节省了一半。

    当然,这种高效是有代价的。符号式程序的限制更多。因为系统知道我们只需要d,在优化过程中,像c这样的中间变量的值,在计算完成后可能就无法访问了。而命令式程序则灵活得多,在执行过程中,任何一个中间变量都可以随时被访问和检查。

    符号式编程的另一个优势是“操作融合”优化。在我们这个例子中,乘法和加法可以被融合成一个更大的操作,如下图所示:

    这里写图片描述

    如果在GPU上运行,融合后的计算图只需要启动一个内核,节省了一次内核启动的开销。实际上,在Caffe/CXXNet这类早期框架中,工程师们需要手动编写代码来实现类似的优化。而符号式程序可以在编译阶段自动完成操作融合,因为它掌握了完整的计算图,并且清楚地知道哪些值后续会被用到,哪些只是临时结果。

    反观命令式程序,由于无法预知未来哪些中间变量会被访问,也就很难安全地进行这种全局的、激进的操作融合优化。这便是在灵活性与极致效率之间,开发者需要做出的权衡。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发
    上一篇: 编程好学吗?
    相关文章 更多
    精品专题 更多
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    macOS软件

    正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

    IOS软件

    正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

    AI

    正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

    Mac软件 更多
    AirBuddy 3 macOS版
    AirBuddy 3 macOS版

    AirBuddy 3 是面向 macOS 的蓝牙外设增强工具,可集中查看 AirPods、Beats 与苹果设备电量,提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。

    AirServer macOS版
    AirServer macOS版

    AirServer macOS版可把 Mac 转换为无线投屏接收端,通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面,并支持多设备同时连接、高清镜像及会话录制,适合家庭娱乐、课堂教学、会议演示和应用展示。

    AnyDesk macOS版
    AnyDesk macOS版

    AnyDesk macOS版是一款适用于远程办公、设备维护和客户支持的远程桌面工具,可连接并操作异地计算机,支持文件传输、无人值守访问、会话权限控制及跨平台协作。

    Beamer 4 macOS版
    Beamer 4 macOS版

    Beamer 4是面向macOS的本地视频投屏工具,可将Mac中的影片投放到Apple TV、Chromecast及兼容设备,支持常见格式、多类字幕、环绕声、播放列表和电视遥控操作。

    Boom 3D macOS版
    Boom 3D macOS版

    Boom 3D macOS版是一款系统级音效增强工具,可为音乐、电影、游戏和流媒体提供3D虚拟环绕声、31段均衡器、音量增强及应用独立音量控制,并支持本地播放器与多种音频输出设备。

    Boris FX macOS版
    Boris FX macOS版

    Boris FX macOS版是一套面向剪辑、合成、调色及动态图形工作的专业后期工具,涵盖视觉特效、平面与三维跟踪、转描、画面修复、粒子动画和音频清理,可配合多种主流宿主软件使用。

    Capto macOS版
    Capto macOS版

    Capto 是面向 macOS 的屏幕截图、高清录屏与媒体编辑工具,支持区域及整屏捕获、网页长截图、双音轨处理、图片和视频标注、素材分类与多渠道分享,适合教师、学生、内容创作者及需要制作演示教程的用户。

    ChemDraw macOS版
    ChemDraw macOS版

    ChemDraw macOS版是一款面向化学学习、科研和制药工作的专业结构绘图工具,可创建分子、反应及生物聚合物图形,并提供结构整理、格式转换和科研成果展示能力。

    Cursor Crane macOS版
    Cursor Crane macOS版

    Cursor Crane 是一款仅面向 macOS 的键盘操控效率工具,可通过提示标签、网格、文字查找和窗口模式完成点击、滚动、定位与切换,并支持屏幕内容提取、脚本及工作流扩展。

    Deep Freeze 冰点还原 macOS版
    Deep Freeze 冰点还原 macOS版

    Deep Freeze 冰点还原 macOS版通过冻结系统配置,让受保护的Mac在重新启动后回到预设状态,并提供解冻空间、维护计划、密码保护及Apple Remote Desktop管理能力。

    Focusky macOS版
    Focusky macOS版

    Focusky macOS版是一款面向教学课件、商务汇报、产品展示和动画宣传内容的演示制作工具。它通过无限画布、路径编排、缩放旋转转场及多媒体编辑,将传统逐页幻灯片转化为更具空间感的动态演示。

    Folder Colorizer 2 macOS版
    Folder Colorizer 2 macOS版

    Folder Colorizer 2 macOS版是一款直观的文件夹外观定制工具,可更换颜色,添加表情、贴纸及图片背景,并支持批量处理、智能推荐和恢复默认样式,帮助用户更快辨认工作、学习与生活资料。

    WINDOWS 更多
    讯飞绘文 网页版
    讯飞绘文 网页版

    讯飞绘文网页版是科大讯飞推出的AI图文创作与内容运营工具,覆盖热点选题、文章生成、稿件校对、智能配图、排版发布和数据复盘等环节,适合自媒体创作者及内容团队在线使用。

    AirServer Windows版
    AirServer Windows版

    AirServer Windows版可把电脑变成AirPlay、Google Cast和Miracast无线投屏接收端,适合会议演示、课堂教学及家庭大屏分享。发送设备通常无需另装客户端,并可同时接收和智能排列多个镜像会话。

    AlwaysUp Windows版
    AlwaysUp Windows版

    AlwaysUp是一款面向Windows的系统服务注册与程序托管工具,可让普通应用、脚本及批处理在无人登录时随系统启动,并通过状态检测、异常重启、资源监控和邮件通知保障关键任务持续运行。

    AnyDesk Windows版
    AnyDesk Windows版

    AnyDesk Windows版是一款轻量化远程桌面与技术支持工具,可用于控制异地电脑、传输文件、远程打印及无人值守访问。它兼顾连接响应、安全权限和部署灵活性,适合个人远程办公、企业设备维护与客服支持。

    Boom 3D Windows版
    Boom 3D Windows版

    Boom 3D Windows版是一款面向音乐、电影和游戏场景的系统级音效增强工具,支持虚拟3D环绕声、31段均衡器、预设音效、应用音量控制及本地音乐播放,可配合耳机、扬声器和蓝牙耳机使用。

    Boris FX Windows版
    Boris FX Windows版

    Boris FX Windows版是一套服务于影视剪辑、视觉特效、运动跟踪、转描、图像修饰及音频修复的专业创作工具集合,可作为插件接入多种主流后期宿主,也包含可独立运行的应用,适合剪辑师、特效师与内容创作者使用。

    ChemDraw Windows版
    ChemDraw Windows版

    ChemDraw Windows版是一款面向化学研究、药物研发、材料科学和教学工作的专业结构绘图工具,可快速绘制分子、反应式及生物聚合物,并提供结构整理、格式转换、性质计算和科研文档协作能力。

    CODESOFT Windows版
    CODESOFT Windows版

    CODESOFT Windows版是一套企业级条码与RFID标签设计打印工具,可连接Excel、Access、SQL及云端数据源,支持变量、表单、GS1条码、数据库记录和多种工业打印机,适合制造、仓储、物流及合规标识场景。

    Deep Freeze 冰点还原 Windows版
    Deep Freeze 冰点还原 Windows版

    Deep Freeze 冰点还原 Windows版通过重启恢复技术保护系统盘及指定分区,自动撤销恶意程序、误操作和配置漂移造成的改动,并支持密码保护、解冻空间与多硬盘管理,适合学校机房、公共电脑、办公终端及家庭电脑使用。

    EDIUS Windows版
    EDIUS Windows版

    EDIUS 11 Windows版是一款面向影视制作、广播电视、纪录片、短视频及教育机构的专业非线性编辑工具,支持4K/8K、多格式混编、HDR调色、字幕、音频处理和后台渲染,并提供素材管理及丰富的导出预设。

    FastStone Capture Windows版
    FastStone Capture Windows版

    FastStone Capture Windows版是一款轻量级屏幕捕捉、录屏与图像编辑工具,可截取窗口、区域、菜单和滚动页面,并提供标注、模糊、取色、OCR、录音录像及多格式导出能力,适合办公说明、教程制作和问题反馈。

    Focusky Windows版
    Focusky Windows版

    Focusky Windows版是一款动画演示与交互课件制作工具,通过无限画布、缩放旋转镜头、模板素材和对象动画组织内容,可导入PPTX,并输出视频、EXE、PDF、网页等格式,适用于课堂教学、微课、商务汇报及产品展示。