包装设计大学的设计目的在于代表企业或品牌的形象,良好的包装设计大学建立起品牌和客户之间的联系:
人工智能将彻底改变社会。它将以令人兴奋甚至挽救生命的方式做到这一点,就像我们在早期翻译语言的项目中看到的那样(用你自己的声音!),创造助理聊天机器人,制作新的艺术品,更准确地检测和分析癌症。
但人工智能也会以有害的方式改变社会,正如预测性警务技术的实验所证明的那样,这些实验强化了偏见,不成比例地影响了贫困社区,以及人工智能无法识别不同的肤色。这些偏见伤害弱势群体的可能性产生了一种全新的人权关切。随着试图遏制这些危险的立法向前推进,设计将成为反映这些变化的一个组成部分。
"我们需要一个与人工智能合作的新框架,一个超越数据责任和创造的框架。"
事实上,有许多公民社会组织、非营利组织、智库和公司已经理解了人工智能对社会的影响,并一直致力于为这一新兴领域创造道德标准。但对于与人工智能合作的设计师来说,我们需要比一般指导方针更进一步的东西,并直接说明设计如何影响和延续技术偏见。
我们需要一个与人工智能合作的新框架,一个超越数据责任和创造的框架。我们需要以人权为中心的设计。
卡罗琳辛德斯在2019年抗免疫球蛋白a抗体(anti-iga antibody)设计大会上发表以人权为中心的设计演讲。下面是我们需要这个的原因:AI就是技术,而技术从来都不是中立的。我们如何制造技术,我们如何概念化它,我们如何想象它在文化中的位置,以及当它被放入产品设计时将解决什么问题——这些都是可以对社会产生深刻影响的设计选择。
以面部识别为例,当用来更容易地解锁苹果手机时,它似乎相对无害。这种技术在被执法部门使用时,可能会对另一个人造成严重伤害,因为它可能会为某些群体(如女性和有色人种)提供错误的匹配。
通过在设计过程的开始以及整个过程中提出关键问题,这些危害可以在这些产品的开发阶段得到抑制。这就是以人权为中心的设计的用武之地。我一直用这个词来描述受联合国1948年《世界人权宣言》启发的设计方法,该宣言概述了赋予所有人的不可剥夺的基本权利,包括言论和表达自由、安全和所有人的自由。
以人权为中心的设计坚持为产品的使用者提供同样的主权和保护。本质上,这意味着尊重用户的隐私和数据,考虑全世界人民的数字权利(而不仅仅是在我们自己的后院),并为所有人设计。
以人权为中心的设计的六项原则是:
以人权为中心的设计首先是关于隐私和数据保护,认识到数据是人类固有的,并且永远是人类的。
它将用户的代理放在第一位,始终关注同意。总是给用户提供一个说是或不是的方法,不要被欺骗或推搡。
它在设计时不会只考虑选择退出;它把选择放在设计的最前面。
它首先为全球南方设计,并以多样化的体验为中心。
它主动询问"这个产品会出什么问题?"—从良性到极端—然后为这些用例制定计划。
它认为误用的情况是严重的问题,而不是边缘情况,因为一个病菌在被修复之前是一个特性。
因此,再次使用面部识别技术的例子,以人权为中心的设计方法会问:用户是否知道面部识别正在用于iPhones、CCTV摄像头和招聘软件等产品中?他们能选择这种用法吗?如果他们试图退出,会出现什么样的权力失衡、摩擦或伤害?它对一个群体比另一个群体更有效吗?
“艾就是技术,技术从来都不是中立的。"
以人权为中心的设计最重要的原则之一是首先为弱势用户和非西方用户设计硅熨斗的执行董事李正吉斯捷潘诺维奇建议,通过扩展"谁是你的用户"的概念来做到这一点。
"这些系统中有很多是由拥有相当特权背景的人设计的,他们根据自己的理解为特定的用例设计它们,"她说。"对于这些系统最终服务的人群来说,这可能不是最好的使用案例。如果你没有提前考虑这些人群,并基于他们进行真正的评估,这就是许多设计决策最终失败的地方。"
进行大规模的人种学研究可能会很昂贵,这种研究是大型科技公司可以在全球范围内组织的。然而,小型创业公司和公司可以也应该思考他们的产品在美国和西方之外使用时会如何造成伤害。一个很好的参与方式是接触不同类型的民间社会