孟雨

近年来，很多公司都在努力尝试解决网络欺凌问题，甚至尝试利用机器学习等AI技术来识别在线欺凌事件。不过在可以自由表达自己情绪的互联网世界里，“恶意”的虚拟环境反而成为此类事件的温床。然而每个人对“恶意”网络环境的定义都存在差别，对于可能冒犯他人的话语也有不同的观点和解释。

微软似乎带来了一个非常有趣的解决方案，在最新专利中设想了一个个性化的“恶意屏蔽”功能，可以根据用户的喜好监控通信和审查数据。这些通信可以包括基于语音或文本的聊天，例如：多人游戏会话中的聊天，甚至可以扩展至视频直播中的图形展示。此外，该系统还可以部署到在线Web会议或者VR/AR会话中。

“恶意屏蔽”过滤的内容不仅包括咒骂，还可能包括各种不良行为，例如：有人在麦克风前大口喘息，或者在虚拟环境中离你靠的太近。“惡意屏蔽”可以分析“公差数据”以部署特定于用户的毒性屏蔽模块（TSM），这些TSM还可以基于通过机器学习引擎生成的预测模型，该机器学习引擎分析对毒性行为的反应。可以选择默认配置文件以向引擎提供其所需的所有信息，而用户也可以手动设置。