软件开发中的8个伦理问题实例

伦理实践传统上并非软件开发的一部分。过去软件对日常生活影响不直接，开发节奏也较慢。现代社会，软件渗透到生活的方方面面。AI、大数据与数据分析对个人产生着切实影响。尽管软件开发者多在幕后工作，但他们在项目中的决策，可能在合规、公平、诚信与信任层面给世界带来巨大影响——无论好坏。行业从业者都应关注软件开发中的社会与伦理议题。

以下是几个伦理问题实例，及开发者可采取的应对方式：

• 成瘾性设计

• 企业对个人数据的所有权

• 算法偏见

• 薄弱的安全与个人身份信息（PII）保护

• 过度侧重功能而忽视影响

• 透明度的假象

• 环境影响

• 社会与人权影响

1. 成瘾性设计

每位开发者都渴望打造用户喜爱的程序——这是优秀用户体验设计的体现。问题在于，有些团队设计的应用让用户“爱得太深”。数字平台（如社交媒体）的角色引发了伦理担忧。

人道科技中心的特里斯坦·哈里斯等批评者认为，社交媒体公司从愤怒、困惑、成瘾与抑郁中获利，进而威胁我们的福祉与民主。哈里斯曾在谷歌工作时，一场关于“推动成瘾性技术设计”及“企业在社会中的道德责任”的演讲广为流传。

在用户喜爱的产品与“劫持注意力”的产品间取得伦理平衡，更像一门艺术而非科学。在产品创建与更新中，不妨问自己：

• 谁从中受益？

• 他们如何受益？

• 受益程度如何？

• 有无保障用户健康与心智的措施？

• 变现、客户数据收集与使用（含AI与机器学习）的透明度如何？

技术诚信委员会创始执行董事大卫·K·贝恩以多邻国和抖音为例，对比应用设计。两者都为开发者带来增长与收入，但对用户的价值本质不同。多邻国用户获得语言技能，其活动还能促进神经元生长与大脑可塑性；抖音用户获得文化知识与视频带来的即时满足，大脑被令人沉醉的神经递质“浸泡”。“基于此，多数成年人会说多邻国的真实用户价值大于抖音，”贝恩说，“但我十几岁的女儿会反对。”

两款应用对防沉迷使用限制的态度也不同。多邻国鼓励坚持，强调使用与优化学习曲线的关联，会督促用户完成每日配额、保持连续记录，但完成后便“释放”用户。抖音则以近乎无限的媒体“自助餐”吸引用户停留。

应用常包含用户操控、变现手段、企业用数据收集，以及增强应用的机器学习算法。透明的应用提供者应让用户对这些做法有一定认知。贝恩说：“多邻国用户显然是‘被迫’接受每日计划的受害者，但他们肯定不知道广告和使用数据连接着一个更大的广告生态；抖音用户，尤其是年轻人，我敢说大多愉快地对成瘾的方法和后果浑然不觉。”

2. 存疑的个人数据所有权

随着设备与软件进化，基于AI的生物特征及其他情境数据的处理增多。软件能以惊人细节对用户画像、预测行为。

广告验证与欺诈预防平台TrafficGuard的首席产品官米格尔·洛佩斯说：“通常，伦理问题在于如何处理这些数据。”这一议题困扰着各类企业的开发者，不止是新闻里的社交媒体巨头。

算法指导数据收集与画像构建，但后续行动是有意的。开发者通常知晓数据在特定情境下的力量。洛佩斯认为，伦理担忧的根源之一与企业创收方式及对开发者、业务经理的激励有关。“很多公司将用户数据视为宝贵货币，想变现存储的数据，”他说，“这些因素可能导致组织不道德地共享用户数据。”

开发者在个人数据与软件设计间面临艰难抉择：要么创建利用用户数据的系统（责任由组织承担），要么提出担忧却可能因违背项目目标受罚。现代科技公司的文化应允许开发者无惧报复地提出数据所有权顾虑。

这类担忧促使洛佩斯曾就职的多家公司展开讨论，最终决定不提供免费服务层级。“我们分析过影响，宁愿通过销售服务而非用户数据维持运营，不让开发团队陷入两难，”洛佩斯说。公司内部透明至关重要，开发者应了解项目全貌，而非仅自己负责的模块。

公司应让开发者轻松提出顾虑。人力资源部门可设匿名伦理问题热线等机制。组织需跟进并独立判断用例是否违反隐私、法律或伦理政策。

3. 算法偏见

技术会放大既有偏见。“当今开发者面临的紧迫伦理问题之一是偏见，”业务自动化平台Pegasystems的首席客户执行官斯宾塞·伦茨说。

偏见常悄然潜入系统——伦茨将偏见比作病毒。计算机本身无固有道德框架，软件只能反映创造者的偏见。因此，开发者与数据科学家必须从训练数据和构建的算法中清除偏见。伦茨说，从开发者视角看，偏见常体现为“因错误理由限制选项”。

近年报道与研究显示，软件系统中的偏见会延续针对特定人群的系统性种族主义，导致机会丧失、医疗恶化、监禁率上升。例如，鲁哈·本杰明在《技术之后的种族》一书中提到，开发者认为用该应用的非裔人群少，便未在AI语音识别算法训练中纳入他们的声音。

高管、数据科学家与开发者必须营造组织文化：建立伦理准则，赋权各级员工发现问题及时发声。

数据科学平台Anaconda首席AI与创新官兼联合创始人彼得·王说：“如今模型偏见众所周知，大语言模型幻觉已是主流概念。当下最大风险是人们被炒作裹挟、怕落后，没时间认真构建评估机制、落实治理。行业需更透明地公开企业AI项目的高失败率，让管理者和高管不必仓促处理对齐、准确性、安全等极重要议题。”

王主张为AI提供商设立管理机构，类似美国医学会。“这些技术在商业语境中仍较新，我们都能从集体智慧衍生的伦理标准中受益，而非任由个人或组织自行决定。”

4. 薄弱的安全与PII保护

随着软件在线上线下扮演更重要角色，应用安全日益关键。

开发者常在代码发布后才处理安全问题，而非开发中。结果，软件界缺乏安全开发标准。软件开发咨询公司Bit Developers创始人兼首席架构师伦道夫·莫里斯说：“重点几乎全放在产品上市上。”软件公开后，焦点转向新功能与性能优化，安全依旧不受重视。

黑客等恶意行为者对真人造成实质伤害。事后修补漏洞的反应式安全既不实际也不务实。

为履行对客户安全的伦理责任，开发者需接受教育——但通常只有网络安全专项课程涉及这些话题。先从团队教育入手，比如2015年Anthem医疗数据泄露案：PII在数据库中以明文存储。“若信息加密，就不会那么容易被利用和扩散，”莫里斯说。

此外，行业需修订安全标准。组织可更多采纳保护PII的标准，如支付卡行业数据安全标准（PCI DSS）和医疗应用的健康保险流通与责任法案（HIPAA）是好开端，但开发者也应考虑其他形式的PII及保护它的软件设计。

5. 重功能轻影响

许多伦理问题的核心是：软件发布的功能比其潜在影响更重要。但“能做”不代表“该做”。

应用安全平台Black Duck软件供应链风险战略主管蒂姆·麦基说：“若开发团队的考核指标是功能开发速率，那么在设计或实现阶段，特定方案的伦理问题很可能不会被优先考虑。”

企业自身必须为软件设定伦理基调。以下是可行方式：

• 从设计到运营，在整个软件生命周期贯彻伦理优先级。

• 培训员工伦理选择，如开源软件许可与使用。

• 教导开发者、架构师、测试员等团队成员合规且符合客户预期的数据管理实践。

麦基指出，开发者未必关注客户所在司法管辖区的最新立法，但企业必须确保他们知情。工程领导与法务团队协作可避免伦理疏漏，比如企业应聚焦客户个人数据的访问与留存。数据访问控制与日志机制在软件实现时启用，负责打造功能友好产品的开发者可能视数据访问限制为其他团队的责任。应明确数据保护是软件设计的特性，从根本防范未授权访问。

6. AI透明度的假象

大语言模型（LLM）在软件开发中作用日增，如生成代码、支持非结构化数据处理。因LLM复杂，人们易忽视其训练、配置、部署方式及对用户的意义。

洛佩斯说：“软件公司应始终披露AI引擎的训练方式。用户数据常被静默收集并输入LLM，这引发关于同意、安全与自动化伦理边界的严重问题。”

已有多起知名案例：平台用户互动被悄悄用于训练AI而未通知。“我们看到公司未经同意收集行为数据，实质是把用户变成无偿贡献者，为可能某天取代他们工作的模型添砖加瓦。”

训练得当的AI代理需深度配置、监督与昂贵人力。“跳过规范开发想省的成本，几乎总会被劣质专用代理造成的损害（安全风险、错误信息、客户信任流失）抵消。”

7. 环境影响

气候变化影响（气温上升、洪水、火灾等极端天气）加剧，人们对活动环境影响的关注日增。科技公司的活动也可能减少清洁水获取、污染空气、降低生物多样性。

AI的普及显著增加能耗与碳排放，还可能加大数据中心冷却用水压力，影响当地社区。云服务商开始探索核裂变等碳中和能源，却淡化处理放射性废料的未解环境成本。

这些都是宏观层面的担忧，通常超出软件开发周期，但在决定扩展新LLM应用的影响时需考虑。其他方面包括新软件可能鼓励不良环境选择，如快时尚应用以更多浪费为代价增收。

8. 社会与人权影响

考量软件开发实践对人权的多维度影响，包括其对劳工与社区的潜在效应。

劳工方面，担忧之一是“数据标注血汗工厂”的增长：工人接触有毒内容以优化AI系统内容审核。多数企业未直接参与，但可能忽视AI与数据系统供应商、承包商的此类做法。

此外，需考虑优化易量化指标（如仓库吞吐量）与难量化指标（如工人健康、心理健康）的潜在影响。风险在于，某些生产力优化可能对工人生活及其对家庭、社区的贡献产生不利影响。

AI在软件开发中的兴起推动数据标注业增长，监管常有限。新应用也可能破坏社区的社会结构。

软件开发伦理问题实践方法

以下是培养具积极社会影响实践的方法：

• 主动关注：对软件工程选择在伦理开发及全球层面的影响与背景保持好奇。

• 诚实面对：即便个人或不公司不适，也要考虑软件工程选择可能与伦理原则冲突。

• 落实问责：明确衡量与沟通公司内伦理问题的方式，确保共识。

• 平衡责任与能力：记住开发者可帮其他角色阐释技术选择对伦理考量的影响。