Citnzenith.

照片:Matthew Henry On Offlash

城市如何定义新兴技术的参与规则

2020年11月16日

由莎拉·雷

关于Covid-19如何加速滚出的大量炒作人工智能(AI)无人驾驶飞机,机器人,监测系统还有更多,但随着这个更安静的,更加基础的转变。越来越多的城市正在努力确定订婚规则,以确保在社区部署的技术是公平的,开放和解释的。

这些考虑并不新鲜人行道实验室倡议的上升和堕落在多伦多,例如,是有关如何使用数据,隐私和大型科技公司在公共领域中的作用争论的一个缩影。有争议的项目在多伦多的码头区的一个废弃的区域来创建一个智能附近是在五月停机,有人行道实验室首席执行官唐锐涛丹,理由是“前所未有的经济不确定性”。

Milou Jansen,协调员代表数字权利核心团队的城市联盟

大流行病和相关危机使这些问题日益受到重视。米洛·詹森,我是城市数字权利联盟核心团队,包括阿姆斯特丹,巴塞罗那和纽约,注意到关于技术使用的思考超出了隐私和监视。

她说,鉴于大流行:“城市的数字议程存在势头 - 而不是任何数字议程,而是包容性的,而且解决数字鸿沟;道德,在最前沿放置数字权利;和绿色,制作数字与生态转型之间的联系。

“这是缺点,如果公共机构没有积极的领导,朝着这个方向提出公众辩论,围绕数字化的讨论很容易陷入技术专区考虑因素,导致城市技术领域的商业产品。“

从历史中吸取教训

数字技术和数据一直重要的工具,以帮助个人在流行和政府和城市应对工作应付。这包括在线仪表板要了解复杂的信息,应用程序和聊天机器人提供更新和路标支持,并使用AI来了解诸如此类问题人们是如何在城市中移动的他们是否戴口罩社交隔离

技术对城市和公民提供了很大的利益,并将对帮助解决经济复苏和气候变化等其他挑战至关重要。然而,在冠状病毒危机期间使用算法,联系应用程序和视频监测也使重要的辩论尤其是公共卫生/福利和隐私之间的平衡,而且还将这些系统实际上工作的平衡为中心。此外,Covid-19有露出数字鸿沟谁能从技术中受益,谁又可能因技术而处于不利地位。

在英国这个夏天,政府被迫回到轨道上计算基础上的指责,该系统后,一个有争议的算法A级成绩对来自较贫穷的背景的学生偏见。示威看来,在教育部门外,学生们讨论“F ** k的算法”。

在城市一级,圣地亚哥市长,凯文·费尔康纳,最近下令对全市3200个智能路灯传感器和摄像机被停用,直到法令是在管理程序的地方。当它在2017年宣布,该倡议被吹捧为“世界上最大的物联网平台”设置为实现节约成本和移动及公共安全数据驱动的好处,但它在吸引了越来越多的批评隐私和监督以及最近关于圣地亚哥警方访问的争议视频素材

在提案成为法律之前,还有进一步的步骤,但上周,圣地亚哥市议会一致投票有利于管理在城市中使用监控技术的条例 - 超越街灯计划。理事会还支持第二条条例,以建立由志愿公民成员组成的隐私顾问委员会。圣地亚哥将是第二个城市在奥克兰有这样的板。

面对未来

现在,越来越多的城市开始采取措施,超越与技术相关的伦理问题。

超过十美国城市已经禁止面部识别技术,例如 - 最近波特兰(最近)更进一步不仅禁止城市部门使用,也禁止私人公司使用。这项禁令旨在解决人们对面部识别技术与隐私和监控有关的日益增长的担忧,以及错误和潜在的种族和性别偏见。

凯文 - 马丁,智能城市PDX项目经理,波特兰市,说,面部识别只是在更广泛的举措的第一步。这些系统被评为“低挂水果”,因为技术是不使用城市本身或在公共场所广泛。“我们认为这是一个机会,有一个城市的方法技术,在餐桌上与社区更主动的方式,并做到这一点的方式,我们可以为其他类型的技术向前发展的先例,”他说。

凯文 - 马丁,智能城市PDX项目经理,波特兰市

现在是关键时刻。“无论是好是坏,我们做的工作在面部识别和最初的工作我们已经完成了创建一个更健壮的隐私政策的城市一般(意味着)任何担心,人们在社区有涉及隐私,数据和技术正在向我们走来,”马丁说。波特兰在明年的“首要任务”是正式确立一种结构,使城市如何就数据和技术做出决策,包括确保市民参与其中。该小组特别希望确保黑人、土著和有色人种(BIPOC)参与决策,以建立信任,并解决对这些社区如何使用监测的担忧。

一些技术专家可能会担心政策能得到创新的方式,但这些举措可能最终帮助城市部署速度更快,因为他们与快速移动的情况下和复杂的技术,格斗从接触追踪系统,以先进的机器学习和人工智能。

“所有这些都有隐私和监督影响,”马丁说。这就是为什么我们真的推动那个结构 - 所以我们不会开始在危机情况下使用的潮流,然后开放大门以更大的社区监测。“

由于波特兰将注意力转向已经安装的系统 - 从使用AI和机器学习的系统开始 - 马丁强调,该市不是“反技术”,并希望与供应商社区合作,以确保他们的技术“正在进行中负责任地部署和开发,并没有进入社区的伤害。“

数据透明度

在英国,伦敦也被做更多的努力使技术系统更透明的居民 - 包括它如何使用数据,以及如何部署在城市工作的第三方系统。

Theo Blackwell, London’s Chief Digital Officer, says the coronavirus crisis has brought many of these issues to the fore but the work is an extension of the city’s ongoing smart city approach, which has been to tell a story of digital transformation rather than tech solutions or platforms.

Blackwell评论了:“我们需要从我们需要解决的问题以及用户需要什么,并从那里接近它。虽然总是有智能技术的解决方案主义的元素,但智能城市也变得过于解决方案主义,并专注于该技术。“

3月初,在Covid-19在世界各地举行世界,伦敦举行了一个公民首脑会议审议有关共享健康数据的问题。在四天的时间里,100名“伦敦代表”分享了他们的观点。

“我们的研究确实表明,大多数伦敦人的地方,[如果你把他们]像大人一样,告诉别人你会用什么样的数据,并告诉他们有什么保障,救济和福利,他们愿意与前进即,”布莱克威尔说。

在大流行期间,伦敦议会已部署了几种数据驱动的服务,并重新提供了现有系统以应对。这些都包括弱势群体的热门送餐服务,要求理事会能够与支持的需求相匹配 - 无论是来自理事会,志愿者或私营部门 - 几周内。

西奥布莱克威尔,首席数字官,伦敦

伦敦也是与图灵研究所合作使用来自摄像机的数据,交通交通监测器,空气质量传感器,销售点数和公共交通活动指标,以评估资本中的“繁忙”并告知有针对性的干预措施和政策。

Blackwell说:“我们一直是关于使用政府数据的更透明度的力量,”注意到伦敦数据存储上最受欢迎的页面之一是Covid-19案例和死亡。它汇集了各种数据集,以创建地图和可视化,并呈现“真理的一个来源”,包括帮助城市及其居民了解Covid-19如何影响不安全就业或少数民族和少数民族和少数民族的人群的特定社区。

搅拌'黑匣子的技术

布莱克威尔现在也把注意力转向了外部系统,他正在领导一项倡议,利用公民和私营企业的投入,制定一项新兴技术宪章。该宪章将概述一套标准,如果数字创新在首都部署,它们必须满足这些标准。

Blackwell表示,这可能包括一个要求 - 或者至少是一个强大的建议 - 对于技术在伦敦公共领域实施的供应商,以将有关其系统的信息发布到中央在线中心,其中公民可以访问它。它推进伦敦的其他工作,以评估特定实例的新兴技术,例如伦敦的运输关于连接自动车辆的试验指导;在努力工作管上匿名Wi-Fi的集合;以及伦敦警务道德委员会有关现场面部识别技术的报告

它也建立在一个从赫尔辛基和阿姆斯特丹城市的相关方法,它共同开发,每次发射人工智能登记册。寄存器被认为是世界上的第一个,并纳入了AI系统的概述以及在他们使用的数据集上详细说明,如何处理数据,如何保险,风险,以及工具是否具有人类监督。

伦敦将鼓励公司将其系统的信息添加到中心枢纽本身。虽然他们可以使用数据保护影响评估这是对许多数据收集技术的法律要求 - 如果企业没有 - Blackwell希望供应商将尽可能清晰地提供更多的材料,这是一项法律要求。他的团队将与供应商合作,以确保他们提供的信息是简单的英语,并展示透明度。

他说:“大多数人都担心‘黑匣子技术’,他们不太清楚它是如何工作的,或者它是干什么的。我们需要让它更容易理解。”

他是否认为厂商会以这种方式开拓,布莱克威尔说:“好吧,我们会看到,会不会我们?”,但他强调,说,像波特兰,伦敦希望工作与产业合作。

“我们希望帮助您[公司]在伦敦进行创新,”他说。“这里有一些我们希望你要做的事情,以便有一个很好的谈话。”

伦敦希望今年或接下来发布最佳实践示例。

专业知识

加拿大布洛克大学政治学副教授Blayne Haggart认为,这些倡议是突出的标志着城市方法的变化。“[他们是]重要的是,因为他们以除了采用这些[技术]的标准的直接效率,他们将某些东西注入争论。他说,他们试图考虑使用它们的第二次或三阶效果,“他说。

他敦促城市进入私人实体的合作伙伴关系之前,开发数据和知识产权框架。

“City governments should build up their expertise in understanding these issues so they don’t have to outsource their thinking to the tech giants, who might be doing good and interesting work but have their own interests which reflect a particular business model,” Haggart commented.

城市在全球正处于一个关键点 - 他们是对的复杂挑战和压力下前线做更多的工作事半功倍。他们将无法达到他们所需要的,以无可信私人合作伙伴,但公司期待“移动速度快,破事”可能会越来越需要三思。