这张照片由cottonbro工作室提供，来自Pexels网站。
《疯狂的麦克斯》(https://en.wikipedia.org/wiki/Mad_Max) 是一个澳大利亚电影系列，讲述的是一名警察在故事中，他身处一个社会崩溃边缘、政府无力保护其公民的反乌托邦的荒凉世界。主角麦克斯对他人非常戒备，在是否帮助他人还是独自前行之间挣扎。虽然我们并不生活在文明崩溃的边缘，但糟糕的用户体验会让你感到仿佛身处那种境地。有意地对用户体验做出限制可以帮助减少不当行为。
设计中的限制通常包括技术、资源、法律以及时间上的限制，这些在产品设计过程中发挥着重要作用。除了最大化利润外，企业社会责任（CSR）已经有几十年成为公司计划的重要组成部分，企业制定策略以对世界产生积极影响并承担起对所在社会的责任。
这些责任通常被归类为环境、伦理、慈善和经济四大类。企业社会责任（CSR）可以概括为“三P”，即利润、人群和地球。产品使用者的责任是指使用产品的人应承担的责任，那么，产品提供者的责任又是什么样的呢？
科技公司正在利用工具、指南和举报功能来解决网络欺凌问题，并通过更好的保护措施来保护用户，但仍然还有很多工作要做。但仍需做更多。
双方（用户和服务提供者）的责任当一家企业已经与客户建立了有意义的关系时，了解设计和开发的约束，遵守相关法规，拥有出色的 CSR 计划，并以用户为中心设计时——产品团队是否还应该考虑其他责任？员工福祉常常被讨论，那用户福祉呢？
UX设计师们设身处地为他们构建的角色着想，研究用户的动机和行为，但他们是否也在有意地保护和支持用户的最大利益？是的，但是在讨论可访问性、解决问题、易用性或趣味性之外，这些更隐性的因素也可能影响用户体验，也是设计和开发过程中对用户福祉的一种责任。
虽然我们无法100%确定某人行为背后的真正动机，提供者仍然可以努力设计保护用户免受各种可能的伤害，无论是身体、精神、财务还是其他方面的伤害。
这4个不同的个人资料图片是用Adobe Firefly 3制作的图片。图片由作者制作。
隐形限制如果我们故意在用户体验上施加一种有利于用户的限制，这种做法会被用户看作是积极的还是消极的呢？通常，'限制' 这个词具有负面含义，但并非总是如此。虽然限制用户上传个人资料图片的类型听起来像是一个限制性因素，如果没有详细解释其原因，用户可能会这么认为。
近年来，人工智能进步很大，这真是个好消息，但也带来了很多关注，如何确保安全、防止欺诈，并围绕我们互动的内容优化体验。这不仅是为了检测不合法的内容或识别特定词汇以保护社区，也是为了判断某件事是否由AI创造。也是为了判断它是否由AI生成的。
然而，使用AI生成的内容作为个人资料照既不违背伦理也不违法，同样，检测并阻止使用AI生成的内容也不违法。那这为什么会有问题呢？
这样的限制可能不会影响普通的 Spotify 用户听音乐，但在 LinkedIn 这样的平台上应用时可能会产生不同，因为 LinkedIn 上陌生人经常相互互动并交换敏感信息，比如分享简历以期望获得工作机会。特别是在涉及用户数据时，情境非常重要。
这是一条LinkedIn帖子/评论对话的再创作。除了作者的个人资料图片外，所有个人资料图片均使用Adobe Firefly 3制作。所有内容均为虚构。图片由作者制作。
随着技术的发展，AI检测AI可能会变得越来越困难。在线平台确实采取了信任和安全措施，例如验证身份。这些措施可以让用户在平台上感到更加自信和信任。不过，这些措施也容易被超越。
2023年美国的欺诈金额超过了100亿美元（来源），其中最常见的报告类别之一是假冒诈骗。数字工具和平台让这种诈骗变得更简单。许多数据保护措施帮助保护用户数据隐私，不追踪用户行为，但我们又该如何保护用户与产品之间的互动安全呢？
企业的责任和义务是尽可能防止不当行为。一个主要的挑战可能是决定何时何如采取这些措施。是否应该等到出现大量负面反馈再采取行动，或者这是否类似于为极少数情况做设计？这是否可以简单地认为是在追求最佳用户体验的过程中的一部分？
手动和自动检查的结合使用可以通过像信息技术行业协会（ITIC）定义的那种AI认证方法（例如，标签化（详见ITIC相关政策文件））来帮助解决AI滥用：例如，信息技术行业协会（ITIC）定义的标签化等AI认证方法。
- 水印: 在文本或图像中嵌入一个不可见或可见的标志，包含相关信息。这使得用户可以确认内容是由AI生成的。隐写术 是一种将信息隐藏在媒体文件的最不重要位中的技术，例如。
- 来源追踪 和 元数据验证: 追踪数据集的历史、修改及其质量。内容来源，又称为内容凭证，是在创建或修改内容时，将来源信息绑定到媒体上。
- 人工验证 内容，以确认其是否由AI生成。
内容凭证由内容来源和真实性联盟（C2PA）提供支持。资料来源：ITIC。图由作者重新绘制。
一种技术可能不足以验证AI生成的内容，不过AI认证技术还在发展中，但当内容是由AI生成时通知用户，有助于提高对AI生成内容透明度的好做法。
图片由 cottonbro studio 提供于 Pexels
一位首席执行官联系了我，他正在寻找一名设计师为他们的房地产项目设计一款移动应用。该首席执行官的领英个人资料包含了一张真实的照片、姓名、简介、2.5万位关注者和一个高级账号徽章。然而，该个人资料没有任何活动，也无法查看其联系人。
公司在他的领英个人资料中列出，但在我在领英上无法找到相关页面。通过谷歌搜索，我发现几年前该公司在被从市场上移除前年收入达数百万美元，然而据我所知，根据领英上的个人资料，该公司仅有两名员工，其个人资料也显示出同样令人信服的特征。
当我联系后的三周后访问同一个资料时，我注意到关注人数已降至2万，公司信息已被删除。从表面看，这些信息似乎合法，这使得数字素养成为网上重要的一部分。
下面是一个对比，这是 Spotify (2024) 上的播放列表截图，使用了与 LinkedIn 示例中同样的生成 AI 头像。所显示的信息的重要性大不相同。
数字化素养及产品责任数字素养随着年龄和教育背景的不同而有所差异。一项2021年斯坦福大学的研究发现，在2019年的高中毕业生中，不到0.1%的人能够从假视频中识别出真正的投票视频，而数字素养教育的政策因地区而异。数字素养不仅针对年轻人，老年人也参与了数字化转型的过程，形成了一个跨越不同生命阶段的非常多元化的用户群体。
他们往往因为年轻家庭成员代劳、不愿参与社交媒体或者接受技术用于日常生活，而不愿学习或使用新的数字技能。
并非每个人都在学习或已经学习过数字素养。产品或服务的提供者是否应承担教用户如何更好地使用他们的产品的责任？
图片由 Vicente Viana Martinez 在 Pexels 拍摄。
根据一项[Eurobarometer]调查显示，72%的用户希望了解他们在社交媒体平台上自己的数据是如何被处理的，63%的欧盟公民和居民希望有一个安全的单一数字身份，可以用于所有在线服务。使用欧盟数字身份钱包，持有者可以验证其身份，而无需透露全部信息或个人信息，例如出生日期。
申请银行贷款的用户流程，使用数字身份钱包。用户选择需要的文件并通过电子方式提交给银行。来源：欧盟委员会。图片由作者制作。
这个ID让持有者可以控制与第三方分享的信息。ID钱包项目目前正在实际场景中进行测试和验证，目的是比密码更安全，更易于使用。
垃圾邮件过滤器是设定有意约束体验的一个例子。关于继承数百万遗产的垃圾邮件可能已成为过去，但仍然很难确定你在线上交谈的人是否真实存在、虚构、既是真实的也是虚构的，或者两者都不是。
产品和服务提供商通常在其领域内是专家，这应该是他们的职责之一，以设计、开发和教育用户什么是最适合他们的。
设定的限制在大多数现代汽车中，当你在行驶的车辆上没有系安全带时，车内会一直发出提醒你系安全带的蜂鸣声。这是为了确保你系上安全带以防止致命伤害。在日本，手机必须在拍照时发出快门声，以提醒周围的人注意，这是为防止未经他人同意拍摄照片而制定的一项隐私保护法的一部分。
定义的约束旨在避免问题并限制功能的使用，以保护用户以及他们身边的人。
定义的限制常常应用于产品计划中，比如在Figma中设计角色和观察者角色之间的限制。有时，限制设计权限比所有人都有完全访问权限更有利且更安全。
当用户在多次错误输入密码后被锁定，在一段时间的锁定期结束后才能再次尝试，或者，进一步被要求完成两步验证时，就会应用安全措施。
产品计划的类型和密码限制并非由法律强制执行，而日本手机快门声的要求却受到法律的强制执行。这些限制应由企业负责。
图片由本人制作。
英国已成为首个通过《产品安全与电信基础设施法》来制定密码安全法规的国家。该法律要求制造商、进口商或分销商分发的所有新智能设备出厂时必须预设密码，并且这些密码不能是默认的或过于简单或常见的，例如“password”或“admin”。此举旨在帮助消费者保护其数据和信息安全。
此外，提供商还必须更透明地沟通有关安全更新和漏洞情况。未能遵守规定的公司可能会面临高达1250万美元的罚款，或者高达其全球收入的4%。
除了安全和保障外，体验上也有一定的限制。例如，在股票交易中使用杠杆，通常会根据用户的交易经验限制服务的使用。这并非为了限制用户的自由，而是为了保护用户免受由于经验不足而可能造成的重大经济损失。正如产品所说明的。
用户福利为用户有意设定的界限并不意味着你在限制用户的自由，而是帮助、支持和引导用户去做最适合他们的事。限制也是公司或产品策略中的一个要素。
设置一些限制虽然不能直接解决问题，但能帮助避免类似的麻烦。
企业的社会责任已经有很长一段时间了，近年来企业越来越不受地理位置限制，这可能使未来的在线福祉和健康成为更大的责任和义务。
无论处于什么样的境地，无论是dystopia还是utopia，我们都要尽量做到最好。注：通常情况下，直接翻译“无论处于何种境地，我们都要尽量做到最好”已足够，但为了更贴近原文结构，保留了“dystopia或utopia”部分。
参考文献和推荐阅读
- 疯狂汽车族
- 设计约束是什么？
- 什么是企业社会责任？4种类型
- 网络欺凌：如何阻止它
- 2023年全国欺诈损失超过100亿（美元），FTC加强努力保护公众
- 电商中的企业社会责任的重要性
- AI或非AI？如何判断一张图片是否由AI生成
- AI对抗AI：AI能否检测出AI生成的图片
- 身份验证如何为数字市场提供增强的信任和安全
- 您的组织准备好应对AI生成的假证件了吗？
- 验证AI生成的内容
- 信息技术产业理事会
- 各地区数字素养教学方法
- 面向老年人的数字媒体和信息素养：媒体开发的五个见解
- 为什么你不能在日本手机上禁用相机快门声
- 英国新密码法对全球网络安全意味着什么？
- 欧洲数字身份
- 欧盟数字钱包试点计划 | 欧洲数字未来
- 内容证书
随时随地看视频
