AI 接管世界曾经是全球社会流行的恐惧。但是,在过去一年中我们已经明显看到,AI 的可怕远超过其接管世界的预期,而且目前危机已经到来。 从2018年开始的六次争议性事件就是明确的警告,即使是最顶级的人工智能算法也会存在危机,如果不小心应用它们会产生很可怕的后果 — — AI 能终结民主。民主只能保证民选官员,但不会有“民选算法”,而目前真正统治这个世界的是算法。 以下总结这6个真正的危险: 1. 自动撞车 在3月发生一起涉及优步自动驾驶汽车的致命事故后,调查人员发现该公司的技术存在灾难性的失败。 不管是像福特和通用汽车这样的大牌汽车制造商、还是像优步这样的新人,以及一大批初创公司,都在急于将一项技术商业化,尽管该技术完全不成熟,但已经有了数十亿美元的投资。 Alphabet 的子公司 Waymo 取得了最大的进步; 它去年在亚利桑那州推出了第一个全自动出租车服务。但即使 Waymo 的技术也是很有限的,自动驾驶汽车无法在所有条件下运行。 2019年需要注意的是:美国和其他地方的监管机构迄今为止都采取了不干涉的做法,因为它们担心会扼杀创新。美国国家公路交通安全管理局甚至表示可以放宽现有的安全规则。2019年如果再发生一起严重事故会能改变监管机构的态度吗? 2. 政治操纵机器人 去年3月最重大的新闻就是,政治咨询公司 Cambridge Analytica 利用 Facebook 的数据共享实践来影响2016年美国总统大选。由此引发的骚动表明,决定在社交媒体上展示什么新闻和信息的算法是如何被用来放大错误信息、破坏健康的民主辩论,并隔离具有不同观点的公民。 在国会听证会上,Facebook首席执行官马克扎克伯格承诺,人工智能本身可以通过培训来发现和阻止恶意内容,尽管它仍远未能理解文本、图像或视频的含义。 2019年需要注意的是:扎克伯格的承诺将在非洲两个最大的国家 — — 南非和尼日利亚举行的选举中进行测试。2020年美国大选的开端也已经进入状态,这些大选可能激发由人工智能驱动的新型操纵性信息技术,包括恶意聊天机器人。 3. 杀人的算法 去年,当谷歌员工得知他们的雇主正在向美国空军提供无人机图像分类技术时,人工智能和平运动就形成了。工人们担心这可能是为自动化致命无人机袭击提供技术的重要一步。作为回应,该公司放弃了名为 Maven 的项目,并创建了一个人工智能“道德规范“。 学术界和业界有很多重量级人物支持禁止使用自主武器的运动。然而,人工智能的军事用途正在获得增长势头,其他公司,如微软和亚马逊,都对于提供此类技术没有任何保留意见。 2019年需要注意的是:尽管五角大楼在人工智能项目上的开支不断增加,但活动人士希望今年将举行的一系列联合国会议上可以出现一项禁止自主武器的根本性条约。 4. 监视对峙 人工智能识别面孔的能力使得全球各国正在以极高的速度部署这类监控技术。通过面部识别功能,还可以在社交媒体上自动为照片添加标签和解锁手机。 公民自由团体警告反乌托邦的未来。该技术是侵入人们隐私的一种强大方式,培训数据的偏差使其很有可能实现歧视的自动化。 在许多国家 — 包括中国,已经正面认可该技术被广泛用于警务和政府监视。亚马逊正在向美国移民和执法机构出售该技术。 2019年需要注意的是:人脸识别技术正在进入车辆监视和广泛的联网摄像头,它将用于跟踪您的情绪和身份。但我们今年也可能会看到一些初步监管出台,有没有用不好说。 5. 深度造假 去年出现大量的“ deepfake”视频展示了使用AI制作虚假剪辑是多么的容易。这意味着虚假的名人色情片,许多奇怪的电影混搭,以及潜在的恶毒政治诽谤活动。 生成对抗网络(GAN)可以制造出非常逼真但完全虚假的图像和视频。Nvidia 最近展示了GAN如何能够生成你想要的任何种族、性别和年龄的虚假照片。 在2019年要注意什么:随着深度造假技术越来越容易使用,人们越来越容易被它们欺骗。DARPA 将测试检测深度造假的新方法。但由于检测也依赖于AI,它将是一场无止境猫鼠游戏。 6. 算法歧视 去年,许多商业工具都被发现了严重偏见。在不平衡数据集上训练的视觉算法未能公平对待女性或有色人种; 事实证明,采取历史数据的算法训练会使已经存在的歧视永久化。 与人工智能领域本身缺乏多样性相关的偏见也造成难以解决的问题。女性最多占该领域的30%,黑人和拉丁裔研究人员都相对较少。 2019年会发生什么:我们将有望看到用于检测和减轻歧视的方法,这些方法有望从偏差数据中产生无歧视的结果。机器学习国际会议是一项重要的人工智能会议,将于 2020年在埃塞俄比亚举行,因为研究偏见问题的非洲科学家自己也遭受偏见,他们可能难以获得前往其他地区的签证。 Never mind killer robots — here are six real AI dangers to watch out for in 2019. Last year a string of controversies revealed a darker (and dumber) side to artificial intelligence.
0 Comments
Leave a Reply. |