我不是机器人,但你们呢?

1 评论 6669 浏览 1 收藏 14 分钟

互联网世界,你永远不知道对面是真实的人类还是机器人。尤其是科技的进步,让机器人更类似人类。于是,产品们都开始琢磨怎么进行身份验证,让人类证明自己是人类。

现在是2022年,我们生活在反乌托邦(黑镜)的剧集的开场场景中。

真实和虚假之间的界限已经模糊了,并且现在这个界线理所当然地得到了更多的关注。每日新闻中到处都是这样的消息:

  • 埃隆·马斯克声称超过20%的推特帐户是机器人,但似乎没有人真正了解真实数字——甚至推特官方也没有(尽管他们声称不到5%)。
  • 一位谷歌工程师因建议开发了一个有知觉(可以自己思考)的聊天机器人而被迫休假。
  • ABBA乐队现在在舞台上现场表演(作为虚拟化身),让大批粉丝感到高兴。

当然,虽然很容易看出Björn实际上并没有在舞台上表演,但现实情况是:区分人类和机器人变得越来越不可能。

我的意思是:一旦机器更好地正确识别包含红绿灯的9平方网格图像的三张图像,会发生什么?那又怎样?

这是一个显然只有人类才能解决的非常棘手的问题!

作为真正的人类,我们需要在机器人学会如何争取自己的权利和扩大自身利益之前,做出行动以便更好地保护自己。

一、人类VS机器

无论是在网上扑克桌上虚张声势,还是在线论坛上对抗巨魔,还是在自己的Peloton上追逐虚拟化身,我认为我们有权确定我们的对手是人还是机器。

(人类与机器的)界限在哪里?

机器人本身不是一个问题。当机器人伪装成人类生命形式时,就会出现错误。当人工智能聊天机器人回答基本的客户问题时,这是可疑的,但还不至于令人感到毛骨悚然。但是,当算法故意在不披露自己真实身份的情况下将自己歪曲为真正的人时,这跨越了一条明显的界限。

考虑到这一点,加州大学伯克利分校和兰开斯特大学的研究人员了解到,假人脸可以可靠地构建并且看起来比实际面孔更值得信赖。

作为人类,我们深受“社会证明”(帽子提示)的影响(AileenLee)——当我们看到别人做某事或说某事时,我们通过将尽职调查外包给别人(有时是无端的)信任的直觉行为。

社会证明是强大的,并解释了为什么英国人喜欢加入队列,即使他们不知道这是做什么用的。

社会证明是指为什么出价更高的eBay拍卖会吸引新出价者(大家以0.01美元的价格开始拍卖),为什么现有投资者的初创企业更容易关注投资者等等。

当检验来自真正的人类时,社会证明效果很好。但当大量机器人通过操纵我们相信人群智慧的本能来制造人为自信的伪造的叙事时,这是一场社会灾难。

如果很多人都这么说?这一定是真的。

3月,英国广播公司的报道披露,克里姆林宫管理的75个Twitter帐户使用所谓的“astroturfing”剧本,其中大批机器人帐户通过数百万转发假新闻的虚假帐户协调网络放大构建的叙事:“75个俄罗斯政府的Twitter个人资料,共有700多万粉丝。这些帐户已收到3000万个赞,被转发3600万次,并回复400万次。”

二、我们需要知道谁是人类和谁是机器

不过,让我们现实一点。我们不能指望机器人能够辨识出自己,与此情况恰恰相反:我们必须找到一种方法,让人类认证为人类,并证明我们实际上是真实的。

三、人类应该得到隐私保护

作为欧洲居民,我受益于保护个人隐私的文化、政策和技术。欧盟2018年《通用数据保护条例》(“GDPR”)等立法保护像我这样的消费者免受不必要的数据收集和过度跟踪,并防止在线和离线侵犯个人隐私的发生。

欧洲立法者认为,人类有权拥有自己的隐私,甚至制定了法律“被遗忘的权利”,为人类提供了一个从数据库中删除的法律机制,并删除所有个人可识别的跟踪数据。

我同意以下原则,即个人应完全控制自己的个人身份和隐私——揭示他们选择什么以换取便利、个性化或相关性。

四、然而,匿名是有弊端的

虽然人类有权保护个人隐私,但我们也了解到,人类的匿名行为对我们问责制度的缺乏制造成了阻碍。人们只需浏览社交媒体,就能看到坏人在父母的地下室发的帖子,因匿名而胆大妄为。

《新闻周刊》将匿名挑衅描述为“在线抑制效果”。然而,在线欺凌者经常在非匿名、面对面的互动中退缩。

公共论坛(Reddit、Twitter、YouTube)的匿名显然加速了社会两极分化,人类采取极端立场,以最大限度地吸引注意力,赚取社会货币,并最终操纵社会叙事。而且,虽然我们认为匿名人类的行为很糟糕,但是,机器人要糟糕得多。

鼓励非匿名参与的在线论坛具有调节作用:放大真实的人类声音,同时边缘化和诋毁匿名边缘人群。

Yelp在最初的时候,故意在当地社区中植入真正的当地人,最初是付钱给自由撰稿人,让他们用自己的声音发布真实的评论,使用他们的名字和姓氏首字母。随后加入社区的人,跟随他们的领导者,使用自己的个人姓名,并进行了更细致入微的批评。Twitter、Instagram和其他社交媒体平台还利用身份验证(例如:Twitter上的蓝色勾号)来达到各种效果——为经过身份验证的人类贡献者提供可信度,这反过来又抵消了那些躲在匿名背后的人贡献的夸张内容——非匿名会导致更温和的行为。

五、科技加速了这个问题

我们并没有太担心虚假的人类渗透到我们的生活中。到目前为止,我们检测假货的能力已经足够了。但是,在线创建无限虚假个人资料的技术障碍已经消失。创建数百万个虚假数字配置文件的成本微不足道,而此类配置文件可能造成的破坏突然变得深不可测。

你秉持怀疑的态度?看看投票欺诈的风险,更不用说实际投票欺诈的破坏了。

六、把这一切结合在一起

如同我们突然面临一种由非常令人震惊的成分调制的有毒鸡尾酒:

  • 大量机器人已经将自己歪曲为人类。
  • 无法区分人类和非人类帐户。
  • 使机器人看起来比实际人类更值得信赖的技术。
  • 人类对个人隐私的天生渴望。
  • 匿名在线造成的可靠破坏。
  • 加快技术和人工智能的速度,只会更快地模糊界限。

这可不是个好的结局。

七、这该怎么做(解决)?

至少,我们必须找到一种方法,以安全、私密和非匿名的方式创建一个值得信赖的数字证书,以验证我们每个人的人类身份。

理想情况下,非匿名人工身份验证,具有完全可控制的个人隐私设置,由受信任的中立方保护。

除此以外,这里有很多未解之谜,所以让我们以概念的方式理解。

八、非匿名人工认证

在世界各地的金融机构(银行)中,无论何时客户开立新账户,都会有常见且通常在法律上要求的减少欺诈行为,称为KYC[了解您的客户]。这个过程涉及护照、驾照、水电费账单、出生证明和其他官方文件的组合,可以向银行保证(a)你是真人,以及(b)你就是你说的那个人。银行需要此身份验证来管理其风险。

在线平台和服务需要这些相同的KYC原则。

欢迎来到New Social Media Corp.要激活您的帐户,请扫描并提交四种形式的ID,或者只需使用HumanID进行身份验证。

九、完全可控制的个人隐私设置

消费者应该只需要共享和提供他们选择的个人信息——并且通常只想根据需要共享,但不想分享更多。

想象一下,一个从最低层(“0级”)开始的分层渐进个人信息金字塔——它断言你是一个真正独一无二的人——逐渐上升到年龄、性别、国籍、家庭住址、账单信息、税号、健康状况,一直到(喘息!)遗传密码(“999级”)。

例如,在公共论坛上投票帖子可能只需要“0级”认证(twixbar2967是一个经过身份验证的人),而获得汽车保险报价可能需要“17级”(fordfan4957是32岁的男性,拥有高中文凭,已婚,住在密歇根州安娜堡,一张超速罚单,两个挡泥板弯曲器,14年的驾驶经验)。

完全可控制的个人隐私设置意味着,虽然数据已由第三方验证为真实数据,但对内容的访问仅出于个人利益而披露内容的个人控制,并且只能自行决定。

十、值得信赖的中立方

这也许是拼图中最难破解的部分。到底谁能被赋予信任,扮演这个角色?四大会计师事务所?瑞士政府?大型科技公司?以上都不是?

这就是区块链技术的力量真正实现其承诺的地方——作为公共和不可改变的分类账可以作为单一的真相来源。完全消除对值得信赖的第三方的需求。

就在本周,科技先驱——[Jack Dorsey](Twitter,Block)正是按照这些思路宣布了他所谓的“web5”野心。该公告明确表示:“网络使信息交流民主化,但它缺少一个关键层面:身份。”

来源:https://developer.tbd.website/projects/web5/

我欢迎这样一个不变的记录链接,它可以保护我作为认证人的权利,而不是未经认证的权利,同时保护我的个人隐私,并让我重新掌控。

我们需要这个。

有很多疑问和问题。现在预测情况还为时过早。但是,需求是明确的,技术是存在的。

现在需要的是大量执行一套中立管理的系统,这将真正让用户(我和你)重新控制我们是谁以及我们共享什么。

我想这让我成为web5的人类代言人。

我不是机器人。

原文作者:Brad Porteus

原文标题:I’m not a robot (but, are you?)

原文地址:https://uxdesign.cc/im-not-a-robot-45a8220fbc0f

译者:杨静涵,人人都是产品经理实习生

本文由人人都是产品经理实习生 @杨静涵 翻译发布,未经许可,禁止转载

题图来自Pexels,基于 CC0 协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 但目前为止来说,我们并没有太担心虚假的人类渗透到我们的生活中。

    来自广东 回复