第 16 章 设计伦理与可持续设计
上一章,我们让设计的影响力扩展到了组织层面。但影响力越大,责任越大。这一章,我们谈一个常被忽视、却越来越紧迫的话题:设计的伦理责任。
为什么 ToB 设计要专门谈伦理?因为 ToB 软件有一种特殊的"放大效应"。它服务于组织,而组织通过它去影响成百上千的员工、客户、合作伙伴。一个 ToB 设计决策,不是只影响一个用户,而是经由组织,被放大、被复制、被强加给一整个群体,一个员工可以选择不用某个 App,但他没法选择不用公司的考勤系统。这种放大效应,加上"用户无法选择退出"的特点,让 ToB 设计的伦理后果,比很多 ToC 产品更深远,也更容易被忽视,因为伤害是间接的、弥散的、不易归因的(没有一张具体的脸在你面前喊疼)。
正因如此,ToB 设计师需要一种自觉的伦理意识。这一章不打算给你一套标准答案(伦理问题往往没有标准答案,处境千差万别),而是想唤起你的警觉,帮你识别那些容易踩进去的伦理陷阱。
一、ToB 里的"暗黑模式"
"暗黑模式(Dark Patterns)",指的是那些故意设计来诱导、误导、操纵用户、损害用户利益以服务于商业目的的设计手法。人们谈暗黑模式,多是在 ToC 语境下(诱导付费、骗取隐私授权、让人难以取消订阅)。但 ToB 里同样有暗黑模式,而且因为前面说的放大效应和间接性,它们更隐蔽、危害也可能更大。
ToB 暗黑模式有哪些典型形态?
一是诱导性的商业设计。比如把续费、升配做得无比顺滑(一键搞定),把降级、退订做得无比繁琐(藏得很深、步骤极多、还要打电话);比如用各种话术和视觉手段诱导客户购买他并不真正需要的高配版本或附加模块。这些手法,目的是榨取商业利益,代价是损害客户的利益和信任。
二是对终端用户的算计。这是 ToB 特有的、最隐蔽的一类。因为 ToB 的"客户"(出钱的决策者)和"用户"(使用的员工)是分离的(前奏反复讲过),设计有时会为了讨好买单的决策者,而牺牲一线使用者的利益。最典型的例子,是过度监控。一些系统为管理者提供越来越细密的员工监控功能:记录每一次鼠标移动、统计每一分钟的"摸鱼时间"、截屏、甚至分析员工的情绪,美其名曰"效率管理""数字化管理"。出钱的管理者可能很喜欢这种"尽在掌控"的感觉,但被监控的员工,被异化成了被严密监视、被随时算计的对象,工作中充满了被不信任的压抑感。这种"服务买方、算计用方"的设计,是 ToB 伦理最该警惕的灰色地带,它在商业上"成立"(客户要、愿意付钱),在伦理上却很可疑(它伤害了那些没有发言权、却天天要用它的人)。
识别和抵制暗黑模式,需要设计师有一个清晰的底线:设计的力量,应该用来帮助用户,而不是算计用户。
当你被要求做一个"让用户更难取消""让员工被更严密监控"的设计时,你要能意识到这是一条伦理的红线,并有勇气提出异议。设计师往往是产品团队里离用户最近、最能代表用户利益的人,如果连你都不为用户说话,就没人为他们说话了。守护用户不被算计,是这个角色应有的担当。
这种担当,有时意味着要顶住商业的压力说"不",或者至少说"我们能不能换个不伤害用户的方式达到目的"。这并不容易,可能要承担一些代价(被认为"不配合""不懂商业")。但它正是设计师职业尊严的一部分。一个把"帮助用户"作为底线、并愿意为之据理力争的设计师,和一个老板让做什么就做什么、毫无原则的"画图工具",是两种不同的存在。
二、自动化的伦理:当系统替人做决定
随着 AI 和自动化的深入(第十二章),一个新的、更尖锐的伦理问题浮现了:当系统开始替人做决定,谁来为这些决定负责?它们公平吗?被它们影响的人,有申辩的机会吗?
ToB 系统正越来越多地介入那些事关人的重大决定:自动筛选简历、自动给员工的绩效打分、自动决定给客户什么信用额度、自动判定一笔交易是否可疑并冻结账户。这些自动化决策,效率很高,但也潜藏着严重的伦理风险。
一是算法偏见。AI 是从数据里学习的,而数据可能携带着历史的、社会的偏见。一个经典的例子:用历史招聘数据训练的简历筛选系统,可能"学会"了历史上的性别、年龄、院校歧视,因为过去的录用数据里就有这些偏见,AI 忠实地学了过来,并把它自动化、规模化地执行下去。更可怕的是,因为它披着"客观中立""数据驱动"的外衣,这种歧视比人工歧视更难被察觉和质疑,"这是系统算的,系统怎么会有偏见呢?"设计师在设计这类系统时,要有意识地去追问:它的判断会不会系统性地伤害某一类人?有没有办法让这种偏见可被发现(比如监测不同群体的通过率是否异常)、可被纠正?
二是不透明与不可申诉。当一个自动化系统给了某人一个负面的决定(拒了他的简历、给了他低绩效、冻结了他的账户),如果这个决定是个黑箱(不知道为什么)、且无处申诉(没法找人理论),那对被影响的人是不公平的、甚至是残忍的。这呼应了第十二章讲的"可解释"和"人在回路",但这里的分量更重,因为它直接关乎人的权益和尊严,而不只是体验好坏。
应对自动化的伦理风险,一个核心的设计原则是"人类兜底":在那些重大的、事关人的权益的决策上,绝不能让系统全自动地一锤定音,而必须保留人的最终审核、保留被影响者申诉的通道、保留纠错的机制。AI 可以做初筛、做建议、做辅助,但最终拍板"拒掉这个人""冻结这个账户"的重大决定,应该有人来把关、有渠道能申诉。
设计"负责任的 AI",几个关键词是:透明(决策过程可见)、公平(主动检视和减少偏见)、可问责(出了问题有人或有机制负责,而不是甩锅给"系统")、人类兜底(重大决策人来把关)。这些不是锦上添花的"伦理装饰",而是当系统开始替人做决定时,必须内建的安全机制。设计师作为系统的塑造者,在这件事上负有不可推卸的责任,你设计的那个"自动通过/拒绝"的流程里,有没有给人留一个申诉的入口、给审核者留一个否决的按钮,可能就决定了某个真实的人会不会被一个冰冷的算法冤枉而无处说理。
三、可持续设计:对时间和资源的责任
伦理的另一个维度,是"可持续",一种对时间、对资源、对长远的责任感。
一层是字面意义的可持续:环境与资源。软件也有它的环境足迹:数据中心的能耗、设备的电力消耗、网络传输的能量。设计的某些选择(比如过度的、无意义的数据传输和计算,堆砌华而不实却消耗资源的特效,第六章批评过的炫技动效)会增加这种足迹。虽然单个设计的影响微小,但乘以 ToB 的规模和高频(第一章的放大效应),累积起来并不可忽略。一种克制的、不浪费的设计取向,本身就有可持续的意味,这和我们全书反对"为炫而炫"、推崇"克制服务效率"的主张是一致的。克制,既是美学,也是一种环境责任。
另一层,是更贴近设计本身的可持续:经得起时间。回到序章那个命题:为什么好的东西如此稀缺?很大一部分原因是,太多东西被造得"不可持续"。它们追逐一时的潮流(什么流行抄什么),很快就显得过时;它们结构混乱,难以维护和演进,很快就腐烂(第八章的"漂移"、第九章的"为演进而设计"讲的就是这个);它们没有被认真对待,所以很快就变成了序章说的那种"尚未完成、残破、被遗忘"的半成品。
一个有可持续意识的设计师,会追求那种"经得起时间"的设计:不盲目追逐潮流,而是建立在对问题的深刻理解和扎实的结构之上(这样它不会因为潮流过去就显得过时,真正解决问题的东西,不太会过时);为演进和维护着想,而不是只顾交付当下(这样它能长久地健康生长);认真对待每一个细节,不留下将就和敷衍(这样它不会很快残破)。
这种对长远的、对品质的责任感,既是一种专业伦理,也正是序章那个"让好不再稀缺"的理想,在每一个具体设计上的落地。可持续,说到底,是一种不辜负:不辜负用它的人,不辜负投入的资源,也不辜负设计师自己的手艺。
四、设计师的伦理自觉
这一章谈了不少风险和责任,最后我想落到一个更根本的东西上:设计师的伦理自觉。
伦理问题之所以难,是因为它们很少以"明显的恶"的面目出现。没有人会跟你说"来,我们做个伤害用户的设计吧"。它们总是包裹在"商业目标""客户要求""行业惯例""大家都这么做""这是为了效率"的外衣下,悄悄地、一点点地侵蚀着设计的良知:诱导续费,被说成"提升转化";监控员工,被说成"效率管理";算法歧视,被藏在"数据驱动"的中立外表下;让人难以退订,被说成"挽留流失"。
设计师如果没有清醒的伦理自觉,很容易就在"完成工作"的惯性中,成了这些伤害的执行者而不自知,他甚至觉得自己做得很专业、很高效。
所以,伦理自觉的核心,是养成一种习惯性的追问:我现在做的这个设计,真的是在帮助用户吗?它会不会伤害到谁?如果我是被它影响的那个人(那个想退订却找不到入口的客户、那个被全程监控的员工、那个被算法拒掉的求职者),我能接受吗?
这种追问,不需要你成为伦理学家,不需要你懂多少高深的道德哲学,只需要你保持一颗诚实的、把人当人看的心。把屏幕另一端那个抽象的"用户",还原成一个有尊严、有处境的具体的人。
设计师是一个特殊的角色,你塑造着千万人每天要面对的东西,你的每一个决定,都在悄悄地影响着他们的体验、他们的权益、甚至他们被对待的方式。这种力量,要求一份相称的责任感。守住伦理的底线,不只是为了避免做坏事,更是为了让设计这件事,配得上它所拥有的力量。这是一个成熟设计师,在手艺和影响力之外,最该具备的东西,也是把"设计师"和"会用设计工具的人"区别开来的,最后、也是最重要的一道分野。
本章要点清单
- ToB 伦理的特殊性:放大效应 + 用户无法选择退出,使伤害更深远、更隐蔽、更难归因。
- ToB 暗黑模式:诱导性商业设计(易续费难退订);尤其警惕"服务买方、算计用方"(如过度监控员工)。底线:设计用来帮助用户,不是算计用户;设计师要敢于为用户据理力争。
- 自动化伦理:警惕算法偏见(披着"客观"外衣的歧视更难察觉)、不透明与不可申诉。核心原则"人类兜底":重大决策保留人审核、申诉通道、纠错机制。负责任 AI = 透明 + 公平 + 可问责 + 人类兜底。
- 可持续两层:资源克制(不浪费,呼应反炫技);经得起时间(不追潮流、为演进着想、不留将就)。可持续是一种"不辜负"。
- 伦理自觉:恶从不以恶的面目出现,总裹着"商业/效率/惯例"的外衣。习惯性追问"我若是被影响的那个人,能接受吗"。保持把人当人看的心。
小结
这一章,我们谈了 ToB 设计的伦理责任。我们识别了 ToB 特有的暗黑模式,尤其是"服务买方、算计用方"的灰色地带;直面了自动化决策带来的算法偏见、不透明、不可申诉等尖锐问题,并提出了"人类兜底"和负责任 AI 的原则;探讨了可持续设计的两层含义,对环境资源的克制,和对"经得起时间"的追求;最后落到设计师的伦理自觉,养成"我是否真的在帮助用户"的习惯性追问,保持把人当人看的心。
伦理,是设计责任的终点,也是序章理想的呼应。走到这里,这本书的主体内容已近尾声。最后一章,我们回到时间的另一端,展望未来:ToB 设计将走向何方,设计师又该如何准备。