乐鱼体育安卓版下载

优化算法设计与算法更好地相处

日期:2022-06-09 06:29:34 作者:乐鱼在线 来源:乐鱼体育安卓版下载 阅读:12

  研究生Sarah Cen探讨了人类和人工智能系统之间的相互作用,以帮助建立问责制和信任。

  信息与决策系统实验室(LIDS)的学生莎拉-岑(Sarah Cen)还记得那个让她走上上游问题轨道的讲座。

  在一次关于伦理人工智能的讲座上,演讲者提出了一个著名的手推车问题的变体,该问题概述了在两个不理想的结果之间的哲学选择。

  演讲者的情景。假设一辆自动驾驶汽车在一条狭窄的小巷里行驶,一边是一位老妇人,另一边是一个小孩,没有办法在两者之间穿行而不造成死亡。这辆车应该撞谁?

  这时,Cen想到了一个问题。与其考虑撞击点,自动驾驶汽车本来可以通过在早期做出决定来避免在两个坏结果之间做出选择--如演讲者所指出,在进入小巷时,让汽车可以确定因空间狭窄而放慢速度,以保证每个人的安全。

  认识到今天的人工智能安全方法往往类似于电车问题,侧重于下游的监管,例如在某人没有好的选择之后的责任,Cen想知道。如果我们能设计出更好的上游和下游保障措施来解决这类问题呢?这个问题贯穿了Cen的大部分工作。

  工程系统不能脱离它们所干预的社会系统,Cen说。忽视这一事实,有可能创造出在部署时无法发挥作用的工具,或者更令人担忧的是,这些工具是有害的。

  Cen在2018年通过一条略微迂回的路线来到了LIDS。她在普林斯顿大学主修机械工程的本科阶段第一次尝到了研究的滋味。在攻读硕士学位时,她改变了方向,在牛津大学从事移动机器人(主要用于自动驾驶汽车)的雷达解决方案的研究。在那里,她对人工智能算法产生了兴趣,对它们何时以及为何表现不佳感到好奇。因此,她来到麻省理工学院和LIDS进行博士研究,与电子工程和计算机科学系的Devavrat Shah教授一起工作,以加强信息系统的理论基础。

  与Shah和其他合作者一起,Cen在LIDS期间从事了广泛的项目,其中许多项目直接关系到她对人类和计算系统之间互动的兴趣。在这样的一个项目中,岑晓燕研究了监管社交媒体的选项。她最近的工作提供了一种方法,将人类可读的法规转化为可实施的审计。

  为了了解这意味着什么,假设监管者要求任何公共卫生内容--例如关于疫苗的内容--对于政治上左翼和右翼的用户来说不能有很大的不同。审计员应该如何检查一个社交媒体平台是否符合这一规定?能否让一个平台在不损害其底线的情况下遵守该规定?遵守规定对用户看到的实际内容有什么影响?

  设计一个审计程序是很困难的,这在很大程度上是因为涉及到社交媒体时有很多利益相关者。审计员必须在不访问敏感用户数据的情况下检查算法。他们还必须绕过棘手的商业秘密,这可能会阻止他们仔细查看他们正在审计的算法,因为这些算法受到法律保护。其他考虑因素也在起作用,比如在消除错误信息和保护之间取得平衡。

  为了应对这些挑战,Cen和Shah开发了一种审计程序,不需要对社交媒体算法进行黑箱访问(这尊重了商业机密),不删除内容(这避免了审查问题),也不需要访问用户(这保护了用户的隐私)。

  在他们的设计过程中,该团队还分析了他们的审计程序的属性,发现它确保了一个他们称之为决策稳健性的理想属性。作为平台的好消息,他们表明一个平台可以在不牺牲利润的情况下通过审计。有趣的是,他们还发现审计自然地激励平台向用户展示多样化的内容,众所周知,这有助于减少错误信息的传播,回声室,等等。

  在另一条研究路线中,Cen研究了当人们不仅竞争资源,而且预先不知道什么资源最适合他们时,是否能得到良好的长期结果。

  一些平台,如求职平台或乘车应用程序,是所谓的匹配市场的一部分,它使用一种算法将一组个人(如工人或骑手)与另一组个人(如雇主或司机)相匹配。在许多情况下,个人有匹配的偏好,他们通过试验和错误学习。例如,在劳动力市场上,工人学习他们对自己想要的工作类型的偏好,而雇主学习他们对他们从工人那里寻求的资格的偏好。

  但是,学习可能会被竞争打乱。例如,如果具有特定背景的工人因为科技工作的高度竞争而一再被拒绝,他们可能永远无法获得他们所需的知识,以做出是否要在科技领域工作的明智决定。同样地,科技行业的雇主可能永远不会看到和了解这些工人如果被雇用后能做什么。

  Cen的工作研究了学习和竞争之间的这种互动,研究匹配市场两边的个人是否有可能高兴地离开。

  通过对这种匹配市场进行建模,Cen和Shah发现,确实有可能达到一个稳定的结果(工人没有被激励离开匹配市场),具有低遗憾(工人对他们的长期结果感到满意)、公平性(幸福是平均分配的)和高社会福利。

  有趣的是,同时获得稳定、低遗憾、公平和高社会福利的可能性并不明显。因此,研究的另一个重要方面是揭开什么时候有可能同时实现所有四个标准,并探索这些条件的影响。

  不过在接下来的几年里,Cen计划从事一个新的项目,研究当测量这种影响的成本很高--或者不可能--时,如何量化行动X对结果Y的影响,特别是关注那些具有复杂社会行为的系统。

  例如,当Covid-19病例在大流行中激增时,许多城市不得不决定采取什么样的限制措施,如口罩规定、企业关闭或留在家里的命令。他们必须迅速采取行动,平衡公共卫生与社区和商业需求、公共开支和其他一系列考虑。

  通常情况下,为了估计限制措施对感染率的影响,人们可能会比较接受不同干预措施的地区的感染率。如果一个县有口罩规定,而其邻近的县没有,人们可能会认为比较这两个县的感染率会显示出口罩规定的有效性。

  但当然,没有一个县存在于真空中。例如,如果两个县的人每周都聚集在没有口罩的县看足球比赛,那么两个县的人就会混合在一起。这些复杂的互动很重要,萨拉计划在这样的环境中研究因果关系问题。

  我们对决策或干预措施如何影响一个感兴趣的结果感兴趣,例如刑事司法改革如何影响监禁率,或者一个广告活动如何改变公众的行为,Cen说。

  作为麻省理工学院EECS学生团体的三位联合主席之一,她帮助组织了首届GW6研究峰会,介绍女研究生的研究情况--不仅向学生展示积极的榜样,而且强调麻省理工学院许多成功的女研究生也不容小觑。

  无论是在计算机领域还是在社区,一个采取措施解决偏见的系统是享有合法性和信任的,Cen说。问责制、合法性、信任--这些原则在社会中起着至关重要的作用,并最终将决定哪些系统能随着时间的推移而经久不衰。

乐鱼在线
乐鱼在线 @ 版權歸所有 乐鱼在线