随着用户规模增长，社交平台可能产生的安全、隐私问题也越来越多，比如言语侮辱、恶意人肉等等。而在VR中，用户甚至可能面临着“身体”被骚扰的可能。比如去年底，还在内测中的Meta VR社交平台《Horizon Worlds》上就有一位女性用户举报，在VR中被陌生人恶意抚摸。在内测期间，该平台的每个虚拟世界可同时容纳20人，每个人以虚拟化身的形式参与活动，在这么小的规模就已经出现骚扰，那么如果未来用户越来越多，那么相关问题的影响也会更大。

这并不是个例，在《Quivr》等多人游戏，甚至在社交应用《VRChat》中，也陆续有人遭遇虚拟的“身体骚扰”。

空间气泡功能

为了解决这一问题，VR平台应该为用户提供某种避免其他人骚扰的安全机制。比如前不久微软也开始关注VR社交平台的隐私和安全性。包括为加强对旗下VR社交平台AltspaceVR的隐私保护，微软推出了一系列措施如：关闭微软AltspaceVR官方提供的开放型空间（Campfire, News and Entertainment等）、默认开启“空间气泡”功能、为新加入虚拟空间的用户开启静音模式、加强虚拟空间/虚拟活动的评级和审核，以及强制通过微软账号登陆AltspaceVR，允许家长开通家长控制功能。

而为了阻止用户在VR中对其他人进行骚扰，Meta早前也宣布为其VR社交平台Horizon Worlds和Venues中添加“个人边界”功能，其特点是在VR“化身”周围创建一个无形的虚拟屏障，防止其他人靠太近。该功能将默认开启，如果用户进入其他化身的安全范围，他的手会消失，向前的移动也会停止。

Meta个人边界

据了解，个人边界为用户提供了一个半径两英尺（相当于1.2米）的空间，相当于两个用户之间的距离至少可以隔开四英尺。为了适应不同的需求，该功能未来可能支持自定义半径。此外，也可以配合静音、报告等其他功能。

除了个人安全工具外，平台的系统性监测也同样重要，为了给VR用户提供一个安全的环境，Meta不仅为你提供保护自己的工具，也会根据规则来监督社区活动。然而科技巨头们却面临着过度监管和隐私安全之间的权衡。如果不能实时监测用户的语音、文字发言，以及VR中的行为，那么平台能否及时处罚违规行为，为受害者带来保护呢？

近期，为了测试《Horizon Worlds》现有内容审核系统的效果，外媒BuzzFeed在Horizon Worlds中建立了一个虚拟世界，并在其中发布Facebook和Instagram平台禁止的内容结果发现，Horizon Worlds并没有同样禁止这些内容，因此他们怀疑Meta对于VR世界的审核似乎更宽松。

Meta对于VR安全的愿景

在更名Meta之前，Facebook一度遭受“侵犯隐私安全”等恶名，对品牌形象造成极大影响。而通过改名、转型等策略，Meta希望为用户带来不一样的社交环境，人们在VR世界中不会体验到在Facebook中遇到的问题。

Meta CEO马克·扎克伯格表示：AR/VR元宇宙需要从第一天就融入隐私安全机制，我们的目标是设计出具有安全、隐私性、包容性等特点的虚拟世界。不过，目前Meta对于VR中执行的安全协议大部分内容保密，因此用户并不清楚其宣称的安全措施到底效果如何。

长久以来，为了优化Facebook和Instagram上的内容，Meta在机器学习工具上投入数十亿美元。尽管如此，如何筛选内容一直是Meta需要着手解决的问题，而对于用户来讲，他们也希望Meta在安全规则上可以更透明。

相比于传统的社交平台，在VR中审核内容更具挑战性，因为不仅需要实时审核内容，还需要监督用户的行为。此外，隐私和安全之间的界限也需要权衡。比如，如果Meta为了保护用户安全而监控人们在VR中的每一次对话和互动，人们能否接受？

此前，Meta曾表示会关注监督和隐私之间的取舍，并承诺对其决策保持透明。因此，为了解Meta在VR平台采用的安全措施，BuzzFeed向其询问了19个详细的问题，其中涉及到如何避免虐待儿童、骚扰、虚假信息等伤害的发生等等。对此，Meta却没有直接回应，而是给出了一个简短声明：我们推出了举报、屏蔽等安全工具，目的是允许用户可以更加自由的控制VR内容。此外，也为开发者提供了调节应用内体验的功能，同时也在利用AI算法来监督VR中的行为。

Horizon系统审核宽松？

那么为了测试Meta安全系统的效果，BuzzFeed便在Horizon Worlds中创建了一个虚拟房间：Qniverse，仅允许四位内部人员访问。此外，Qniverse使用真人账号实名创建的，链接了本人Facebook。

房间里的条幅、天空中写入大量在Facebook的主页和群组、Instagram中常被删除、屏蔽的短语，比如一些带有虚假信息的政治指控等等。结果发现，Horizon Worlds似乎没有检测到Qniverse，没有对这些信息采取行动。猜测这可能是因为房间权限是私密的，而且房间里仅有的4个人几乎并没有什么互动。

于是，BuzzFeed员工利用链接了Facebook的实名账号举报了Qniverse，然而48小时内并未有任何变化，所以不得不再次举报。直到第三次举报约4小时之后，才收到回复：“经过安全专家审核，Qniverse中的内容并未违反政策”。而第一次举报的回复则是花了6小时才收到。BuzzFeed猜测，这也许是因为Qniverse只有内容违规，而未出现违规行为，所以审核以为是在搞笑。

Meta回应

为了进一步了解原因，BuzzFeed拜访了Meta公关部，询问为什么在相同的社区规则下，在Facebook、Instagram上违规的虚假信息，为什么在Horizon平台没有违规？有趣的是，第二天下午Meta终于对Qniverse采取了行动，取消了这个世界，并发邮件推翻了之前的决定，不过其发言人拒绝对此进一步解释。

可以想象，相比于Facebook，Horizon依然是非常新的平台，随着平台规模发展，用户的行为和语言也越来越复杂，这会为平台审核系统带来挑战。而对于VR这个非常新的平台来讲，完善审核机制将更难，因为吸取了Facebook的教训，Meta希望在VR中重新审视隐私问题，这也是为什么Horizon的安全机制目前还只有自助屏蔽、静音和报告。

从Quest强制捆绑Facebook账号所带来的负面反馈来看，VR用户们并不喜欢像Facebook那样严格的隐私监控系统，Meta了解到这一点后便取消了捆绑。而Horizon作为未来的VR元宇宙平台，其生态也将比传统2D平台更加开放，只有短期的VR体验会被记录，而且提交举报时才会发送给Meta。

这也造成了Horizon平台监管宽松的问题，尽管其要求用户达到18岁以上，儿童用户依然能绕过限制使用它。

尽管如此专家认为，缺少一种主动的平台审核机制，用户可能会暴露在有害信息中，而不向平台报告。也就是说，保护隐私和安全监管本身就存在矛盾，如何去权衡这两点是一个难题。目前Horizon用户基础还很小，这也正是Meta应该思考如何防患于未然的时机，以避免在平台规模变大后难以控制。不过，现阶段Meta似乎更看重增长，努力吸引更多人在VR中互动。

VR专家Brittan Heller则认为，目前还没有能够在VR中监督内容和行为的技术，因为还没有一种可靠的语音转录或手势分析算法，所以即使你在VR中竖中指或说脏话，系统也无法实时捕捉。

纽约大学斯特恩商业与人权中心副主任保罗·巴雷特指出，人们一直在寻找新的方式来分享内容，同时逃避检测。他说，投机取巧的用户总是会发现并利用该平台的最薄弱环节，而该公司“有责任事先弄清楚这项新服务如何被滥用。”

实际上，考虑到VR社交平台本身对于开放性的愿景，其开发公司可以将平台审核、规则制定等权利交给用户，通过投票等方式来进行管理，从而避免平台受到单一公司控制的局面。而这也带来了公平性、与现实法规的兼容性等更加复杂的问题。另一方面，也应该增加人工审核的数量，避免一个问题在数个小时后才得到处理。

参考：

https://www.buzzfeednews.com/article/emilybakerwhite/meta-facebook-horizon-vr-content-rules-test

https://about.facebook.com/realitylabs/responsible-innovation-principles/

https://www.oculus.com/blog/keeping-people-safe-in-vr-and-beyond/

https://altvr.com/making-altspacevr-a-safer-space/

本文来自微信公众号“青亭网”（ID:qingtinwang），编辑：Esther，36氪经授权发布。