北京pk10大小免费计划_北京pk10冠亚和值计划

北京pk10大小免费计划_北京pk10冠亚和值计划-诚信平台 > 科技资讯 >

民主党人希望联邦调查局针对人工智能偏见的“

2019-04-27 10:40:45 科技资讯145℃

  民主党人希望联邦调查局针对人工智能偏见的“黑匣子”

  国会开始表现出对利用技术公司人工智能的“黑匣子”进行监管的兴趣,其监督与联邦政府在汽车引擎盖下检查和审计银行的方式相似。

  周三提出并由民主党总统候选人参议员科里·布克共同发起的一项提案将要求大公司测试其高风险人工智能系统的“算法问责制”,例如检测人脸或做出重要决策的技术。您最敏感的个人数据。

  “计算机越来越多地参与美国人在日常生活中做出的许多关键决定 - 无论是有人可以买房,找工作甚至入狱,”参议员Ron Wyden在接受美联社采访时表示。 。俄勒冈州民主党人是该法案的共同提案国。

  “当公司真正进入这个领域时,他们将会在他们的系统中寻找偏见,”Wyden说。 “我认为他们会找到很多东西。”

                      

                      

                      

  民主党的提议是第一次提出,并可能在共和党领导的参议院面临一场艰苦的战斗。但它反映了对基本上不受管制的数据经济的增长 - 以及两党 - 的审查 - 来自社交媒体供稿,在线数据经纪,金融算法和自动驾驶软件,这些都日益影响着日常生活。上个月提出的两党参议院法案将要求公司在使用面部识别软件之前通知人们,同时还要求第三方测试以检查偏见问题。

  学术研究和现实生活中的例子已经发掘出面部识别系统,错误识别肤色较深的女性,向拉丁裔和黑人借款人收取较高利率的计算机化贷款工具,以及在已经占据主导地位的行业中有利于男性的招聘工具。

  “有这样的神话,算法是这些中立的,客观的东西,”倡导组织Upturn的常务董事Aaron Rieke说。 “机器学习挑选了社会模式 - 谁做什么,谁买什么,或谁有什么工作。这些模式是我们几十年来一直在努力解决的问题。“

  唐纳德特朗普总统的政府也正在注意并使“安全和值得信赖”算法的发展成为白宫新的人工智能倡议的主要目标。但它主要是通过加强现有的行业驱动的创造技术标准的过程来实现的。

  美国国家标准与技术研究院负责商务部副部长沃尔特·科潘说:“需要更高的透明度和数据可比性”以及检测和减少这些系统的偏见。 “消费者基本上是盲目的。”

  包括微软等知名公司在内的数十家面部识别开发商去年向Copan的代理机构提交了他们的专有算法,以便对它们进行评估和相互比较。

   结果显示,与往年相比,准确性有了显着提高。

  但Wyden表示自愿标准还不够。

  “自我监管显然在这里失败了,”他说。

  在特朗普政府更大胆的举动中,联邦住房和城市发展部已经指控Facebook允许房东和房地产经纪人系统地将非基督徒,移民和少数民族等群体排除在房屋和公寓广告之外。

  布克在一份关于他的法案的声明中表示,虽然HUD的Facebook行动是重要的一步,但有必要深入挖掘解决技术平台上的“有害方式”歧视,有时是无意的。

  布克说,有偏见的算法导致了同样的歧视性房地产行为,试图引导他的新泽西父母和其他黑人夫妇在20世纪60年代后期远离某些美国社区。他说,这一次,发现和战斗更加困难。

  他和Wyden提出的法案将使联邦贸易委员会能够为公司制定和执行新规则,以检查其自动化系统中的准确性,偏见和潜在隐私或安全问题,并在发现问题时予以纠正。它豁免年收入不到5000万美元的小公司,除非他们是拥有至少100万消费者信息的数据经纪人。

  纽约民主党众议员伊维特克拉克正在众议院提出一项配套法案,他说目标是解决问题,而不仅仅是评估问题。她说让FTC当局定期监控这些系统的运行情况是有意义的,因为它“掌握了消费者正在发生的事情。”

  但是,包括谷歌和亚马逊在内的主要科技公司支持的一个智囊团称该法案失败,认为这不公平地挑出算法并且可能阻碍人工智能的追求。

  信息技术与创新基金会副主席丹尼尔·卡斯特罗在一份声明中说:“如果某项决定具有伤害消费者的高风险,那么算法或人是否做出决定就没有区别。” “将算法保持在比人类决策更高的标准意味着自动化决策本质上不如人类更值得信赖或更危险,但实际情况并非如此。”

  卡斯特罗还表示,如果公司需要对每个次要的软件更新进行新的评估,那么它会对大公司产生不公平的影响并会损害产品开发流程。

搜索
网站分类